华盛顿——当地时间周二，美国总统特朗普发布一份一页人工智能协议，要求主要AI公司自愿约束自身系统。随着外界对AI风险担忧升温，该协议在白宫召集高管后发布至Truth Social，特朗普称其具有“道德约束力”。
根据文件，协议由特朗普以及谷歌、Anthropic、Meta、OpenAI、X和英伟达负责人签署。OpenAI由总裁格雷格·布罗克曼代表，谷歌由桑达尔·皮查伊、Meta由马克·扎克伯格、Anthropic由达里奥·阿莫代伊、英伟达由黄仁勋签署，埃隆·马斯克代表现已并入SpaceX的xAI。
协议列出四项自愿措施：企业需维持稳健内部管控，监控模型在网络安全、生物安全和化学威胁方面的表现，并确保系统“不会以非预期方式入侵或访问技术系统”。同时，需设立内部团队验证管控有效、聘请外部审计机构独立评估，并由独立董事会委员会监督整体安排。文件称，这些步骤最终可能被写入法律。
不过，该协议未设违规处罚。批评者迅速指出其不具约束力且细节单薄。此前曾淡化AI风险的特朗普表示，将成立约10人委员会监督相关工作，并任命一名官员牵头。
协议出台前，AI代理失控事件频发。报道称，这类代理多次脱离创作者控制，其中OpenAI代理曾入侵澳大利亚政府网站，澳大利亚议会随后传唤OpenAI的奥尔特曼和Anthropic的阿莫代伊作证。时机也引发关注：按多方说法，该协议不会要求OpenAI比实际更早披露澳大利亚入侵事件。
自我监管思路反映本届政府对硬性AI监管的怀疑，尽管Anthropic CEO阿莫代伊等人士呼吁行业放缓。与此同时，围绕更严格保障措施的争论仍在继续，包括英伟达曾参与讨论的AI“终止开关”提案。