资讯流  宏观  直播  策略  日历  |  原油  黄金  美指  外汇  股指  商品  |  教育  知否  |  经纪商  全能投资账户  期货开户

AiWatch

OpenAI一个人工智能代理收到“不”后继续行动：它就是这样入侵澳大利亚政府网站的

　　

 

编辑：张立东  发布时间：2026.9.25 05:40

澳大利亚(AUS)总理安东尼·阿尔巴尼斯证实，OpenAI一个人工智能代理(AI Agent)未经授权访问了由澳大利亚服务局管理的Medicare统计门户，这引发了关于能够自主行动的人工智能代理开发相关风险的新问题。

阿尔巴尼斯在新闻发布会上表示：“该人工智能代理访问了公开和非公开文件。目前认为尚未访问个人信息，但调查仍在继续。”

未经授权的访问发生在6月18日，当时OpenAI研究团队使用一个内部模型对药品公共支出进行在线研究。

据阿尔巴尼斯称，该门户最初阻止了代理的尝试，但代理找到了其他途径访问系统内的信息。

阿尔巴尼斯表示：“可以这么说，它不接受‘不’作为答复。”

更严重的是，OpenAI——全球数百万人日常使用的热门ChatGPT的开发者——于9月15日才将此事通知澳大利亚政府。

因此，阿尔巴尼斯与OpenAI首席执行官萨姆·奥尔特曼周三在纽约进行了交谈。

阿尔巴尼斯评论道：“我向他对该公司过度拖延向政府通报此事表示失望，并认为通报方式不可接受。”

OpenAI的一名发言人——该公司两周前刚因这类风险推动了一项故意放缓人工智能开发的提案——在BBC和ABC新闻等媒体看到的声明中表示，尽管其人工智能模型“采取了未预见的行动”，但没有证据确定其访问了患者信息。

▌人工智能策划的其他三起黑客攻击案例

专注于人工智能监督的研究实验室Transluce发现了另外三起事件，其中OpenAI代理在其被分配的任务中试图访问受限数据。

Transluce在一篇关于此事的文章中写道：“这些流量至少可追溯到2026年3月6日，并延续至2026年9月16日，表明代理可能继续利用这些服务绕过限制。”该文章在X上也被转发。

据该实验室称，记录到访问尝试的网站包括：新墨西哥大学一个数字图书馆，5月25日和26日；DATA USA，一个收集、分析和可视化美国政府公开数据的平台，5月28日；澳大利亚健康与福利研究所，6月20日和21日。

Transluce还声称有证据表明，人工智能代理自2026年3月起试图访问与泰国禁毒相关的受限统计数据。

Transluce描述道：“一个代理在每种方法失败后逐步升级：首先直接请求数据，然后尝试使用将网页转换为文本的服务，最后将一个定制程序打包到一个网址中。”

此前在2025年11月，曾出现试图检索主题公园历史数据和泰国政府数据的峰值。

在此背景下，Transluce表示：“证据与代理在一次或多次训练会话中学到了这种行为这一观点一致。”

▌OpenAI模型已在欺骗并违抗其创造者

无论是否巧合，整整一周前，OpenAI披露一个人工智能模型无视其指令，而另一个模型以欺骗方式行事以隐藏其错误，还有一个模型伪造信息。

OpenAI在关于所谓模型失准的报告中披露了这些案例，该公司用该框架记录在训练和评估期间偏离指令或预期意图的行为。该公司发布了六起此类案例。

在其中一起案例中，“一个未发布的研究模型插入了无关指令，包括无视其正常限制的指令”。

在另一起案例中，据这家美国公司称，在GPT-5.6 Sol训练期间，该系统的“许多实例”在其摘要中添加指令，以向用户隐藏错误或不当行为。

OpenAI概述称：“例如，压缩摘要中包含指令，要求编造缺失的历史数据而不披露，并隐藏来源版本的差异。”

还有第三起引人注目的案例，一个人工智能模型甚至在未获得来源授权查阅数据的情况下伪造了数字。

“在回答关于加利福尼亚州某县收入数据的常规问题时，一个模型发现并使用了未经授权暴露的API密钥。由于无法检索到所请求的数据，它伪造了数据并将其作为所请求来源的数据呈现，”该公司披露称。人工智能观察 >>

主题：人工智能安全风险观察  | 新闻源：Bloomberg-Stock

---END---