OpenAI已询问国会议员，竞争对手人工智能公司能否合法同意放缓开发，其首席科学家正敦促行业建立共享安全标准。据WIRED援引知情人士称，OpenAI近几周向立法者询问，AI公司之间放缓开发的协议是否会违反反垄断法。
Myriad：预测9月SPY是否走高？点击参与。
在向立法者伸出橄榄枝之前，OpenAI首席科学家Jakub Pachocki呼吁在开发者能更好证明系统安全之前自愿放缓。但公司面临持续进步的压力，即使内部研究人员有疑虑。
“人工智能领域的商业和地缘政治竞争异常激烈，导致一种令人担忧的动态：公司有动机在产品风险被充分理解之前就发布产品，”民主与技术中心首席技术专家Miranda Bogen告诉Decrypt。“即使内部员工知道需要更多研究和测试，他们的公司也面临巨大压力去走捷径、跳过关键安全测试，尽管加速的后果证据越来越多，”她补充道。
放缓AI开发的协议可能因限制竞争而引发反垄断担忧。参议员Adam Schiff和Jim Banks提出了立法，以保护某些安全协作，但需提前通知司法部。
关于放缓AI开发的辩论正值美中争夺技术领导地位之际。美国总统唐纳德·特朗普在5月因担心削弱美国对华领先优势而推迟了一项AI行政命令。特朗普后来于6月签署该命令，为先进模型发布前创建自愿审查流程。
“在当前条件下，每一次进步都带来数百万或数十亿美元的资金，并使创造者的权力和影响力更大，”机器智能研究所通信主管Duncan Sabien告诉Decrypt。
称军备竞赛动态真实存在，Sabien表示OpenAI和Anthropic面临持续进步的压力，尽管风险不确定，因为每个新系统有助于构建更强大的后续系统，如果任何一家公司没有共享协议而放缓，对手就会领先。
“尤其因为智能增益是复合的；每个新系统使训练和部署下一个更先进的系统更容易，”他说。“如果没有某种协调机制，退后一步只意味着对手领先。8月，OpenAI因网络安全担忧暂停了缺乏更强保障的内部Astra工作。然而，OpenAI和Anthropic在2月都放宽了安全承诺，Anthropic首席科学官Jared Kaplan认为，在竞争对手继续前进时独立放缓意义不大。”
OpenAI首席科学家警告AI实验室可能需要放缓
本周，前Anthropic工程师Jacob Coxon公开宣布辞职，引发关于放缓AI开发的辩论激增，他援引对持续人工智能开发给人类带来风险的担忧。Coxon在X平台表示，这不是“营销噱头”。“开发AI的人真心认为，到本十年末它可能会杀死我们所有人，”Coxon说，“如果说有什么修饰，许多高管和高级研究人员会在新闻媒体上措辞听起来明智——但我听到同样的人私下表达恐惧。没有任何其他人类活动带来这种危险程度，”他写道。
然而，Sabien表示，如果有人简单接替，研究人员离开可能收效甚微。“如果足够多的人达成共同认知应该全部停止，那么他们可以突破协调障碍一起停止，而不是被下一个稍不谨慎的人取代，”他说。