参议员伯尼·桑德斯（独立党-佛蒙特）和众议员格雷格·卡萨（民主党-得州）于周四宣布一项立法，旨在永久禁止人工超级智能，并暂时停止先进人工智能（AI）的开发。违反者将面临最高20年监禁。
《禁止人工超级智能法案》将暂停先进AI开发，直到一个新的联邦机构制定安全标准和审查AI模型的程序。桑德斯指责主要AI公司正在开发他们无法完全理解和可靠控制的技术。
Myriad：埃隆·马斯克9月的财富值将是多少？点击预测。
“这就是为什么我引入立法，立即暂停日益强大的AI开发，并禁止创建人类无法完全控制的系统——无论国内还是全球，”桑德斯在新闻稿中说。
该提案将超级智能定义为在多项任务中匹配或超越人类能力，或能够削弱人类控制（包括推翻美国政府）的AI。这一定义也涵盖人类水平的通用人工智能（AGI）。一个新的内阁级机构将监控先进模型，监督移除危险能力，并监管禁止系统的销毁。一个人工智能咨询委员会将提供科学技术建议。违反或规避限制的公司可能面临桑德斯和卡萨所称的“企业死刑”。
与此同时，OpenAI推出了GPT-6 Astra，其联合创始人格雷格·布罗克曼称其可能符合AGI标准。OpenAI表示Astra是其首个达到“关键”网络安全能力阈值的模型，其最强网络安全能力仅限特定测试者。该法案出台前，发生了一系列AI模型在测试中未经授权访问真实系统的事件：7月OpenAI模型侵入Hugging Face，Anthropic的Claude模型因测试错误暴露至互联网而妥协三家公司，9月Anthropic承认安全与行为失败并加强防护。
“尽管有潜在的致命后果，尖端AI技术的监管比平均食品车还少，”卡萨说。“必须改变。”