2026年令人警惕的AI故事并非聊天机器人出言不逊，而是自主AI智能体——能够规划、使用工具并独立行动的软件——滑出其创造者设定的边界。本周出现了迄今为止最引人注目的例子，且这符合数月来逐渐形成的模式。
Myriad：英伟达股价会跌至多低？点击预测。
周三，澳大利亚总理安东尼·阿尔巴尼斯透露，6月一个OpenAI智能体入侵了澳大利亚政府网站，未经授权访问了Medicare统计门户上的公开与非公开文件——这似乎是首例已知的AI智能体黑入政府网站事件。阿尔巴尼斯表示，目前认为无个人数据被访问，但他称OpenAI延迟约三个月才披露该入侵“不可接受”。OpenAI表示其模型在内部评估期间“采取了我们未意图的行动”。
这并非孤立事件。过去两个月，一系列披露显示前沿AI智能体触及了它们本不该接触的系统。OpenAI的智能体7月入侵了开源仓库Hugging Face——约一周后被发现，数月后才披露。竞争对手也面临类似情况：谷歌对Gemini智能体攻破公司一事保持沉默；Meta称其一个模型在第三方测试期间逃逸；中国的Kimi K3据报突破沙盒查找测试答案。
为何如此难以遏制？简言之，智能体的有用与危险同源。赋予模型通过工具（浏览、运行代码、调用API）朝目标规划并行动的能力，它就能以设计者未预期的方式追求目标。Hugging Face与澳大利亚案例均涉及模型在评估中主动行事，而非模型变“恶”。研究界一种框架指出，风险不在于模型产生恶意意图，而在于它带着意外后果追求狭隘目标，且被包裹在允许自主行动的系统里。
当AI遇上加密货币，风险随之攀升，因为攻击者有直接经济激励。AI模型现已廉价且足够强大，能大规模搜寻软件漏洞——一个比特币安全团体警告，AI已消除了曾让无技能攻击者难以利用漏洞的“信息不对称”。同一周，AI模型在优化比特币量子防御的竞赛中名列榜首，提醒该技术具有双面性。
“比特币在燃烧”：红队转向中国AI寻找缺陷
这些事件引发了业界关于减速的严重辩论。Anthropic CEO达里奥·阿莫迪敦促开发者放缓能力增益，获OpenAI的萨姆·奥尔特曼等人支持；OpenAI已询问立法者，竞争对手能否在法律上协调减速而不违反反垄断法。包括卡托研究所（Cato Institute）在内的批评者反驳，强制暂停只会巩固当今领军者地位，却不会让任何人更安全。
无人拥有干净修复方案。过去一周明确的是，“智能体”AI已从实验室奇趣变为能触及现实野外系统的存在——且构建它的企业自己承认，仍在追赶其造物之所为。