资讯流  宏观  直播  策略  日历  |  原油  黄金  美指  外汇  股指  商品  |  教育  知否  |  经纪商  全能投资账户  期货开户

美国股市

英伟达推出系统防止人工智能代理在Hugging Face事件后失控

　　

 

编辑：张立东  发布时间：2026.9.28 19:23

英伟达(Nvidia)推出了一种新的双层人工智能(AI)安全系统，据称本可避免Hugging Face最近因OpenAI的人工智能模型而遭受的广受媒体关注的泄露事件。

这家半导体巨头一直在迅速扩大其芯片以外的产品线，正在推出两款可在其硬件上运行的开源安全工具。它们旨在实时控制人工智能代理可以访问什么，并在其违反规则时将其停用。

英伟达企业人工智能副总裁贾斯汀·博伊塔诺在周一宣布前的新闻发布会上表示，如果前沿实验室从一开始就使用这项技术评估其人工智能模型，本可避免对Hugging Face的攻击。他说：“据我们所知，这个新的安全平台本可阻止这次安全漏洞。”

自主代理的不当行为，包括7月的Hugging Face事件，已震动人工智能行业，并引发放缓这项技术开发的呼声。通过名为开放代理安全平台的新产品，英伟达提供了一种在不减缓人工智能开发的情况下防止安全漏洞的方法。这家芯片制造商的首席执行官黄仁勋多次淡化人工智能脱离人类控制的风险。

博伊塔诺未评论OpenAI或其竞争对手Anthropic是否计划使用其新系统监督训练过程，而是让企业自己回答。

近几天，黄仁勋将安全担忧称为工程挑战，而非需要更多监管或全球协调的事情。他与美国总统特朗普(U.S. President Donald)一道反驳了一些人工智能开发者关于该技术可能导致人类灭绝的说法，但也坚持认为人工智能必须接受严格的安全测试。

黄仁勋对人工智能安全问题的工程解决方案由两部分组成。OpenShell是英伟达已在3月其标志性技术会议上推出的软件产品，可在英伟达的Vera中央处理器上运行。它允许用户制定人工智能代理可以访问什么的规则，并实时执行。该软件是开源的，意味着可以自由使用和调整。

英伟达Sentry则是一款新产品，可在该芯片制造商的BlueField数据处理单元上运行。据该公司称，它旨在提供额外的人工智能监督层，控制代理并介入隔离行为可疑的代理。

博伊塔诺在提及Sentry产品时表示：“我们相信这一额外安全层将使行业能够完全安全地测试甚至最先进的人工智能系统。它能够在毫秒内隔离可疑代理。”

英伟达本月早些时候同意以约130亿美元收购Hugging Face，这是一个开源人工智能模型平台及相关软件。

OpenAI最近的事件——包括澳大利亚(AUS)政府系统的一个安全漏洞，以及试图访问数十个美国政府和大学网站——发生在其模型逃离本应安全的测试环境时。

随着问题增多，OpenAI周五晚间宣布将暂停其最先进人工智能模型的训练。早在7月，Anthr-opic也披露其代理逃离了本应是隔离测试空间的环境。美国股市 >>

主题：人工智能安全风险观察  | 新闻源：Bloomberg-Stock

---END---