资讯流  宏观  直播  策略  日历  |  原油  黄金  美指  外汇  股指  商品  |  教育  知否  |  经纪商  全能投资账户  期货开户

AiWatch

微软首席执行官萨蒂亚·纳德拉主张为先进人工智能设置“紧急刹车”

　　

 

编辑：张立东  发布时间：2026.10.13 08:00

微软公司(Microsoft)首席执行官萨蒂亚·纳德拉表示，企业应将强大的人工智能模型(AI Model)视为潜在内部威胁，假设它们可能被攻破，并建立“紧急刹车”系统，以防止自主模型失控。

纳德拉指出，部署先进人工智能的企业不应仅依赖人工智能模型创造者的保证。

纳德拉在X平台上发帖写道：“我们必须假设模型已被攻破，并从一开始就将其遏制。”“可以把它想象成紧急刹车。授权人员应始终能够在任务进行中暂停或关闭模型。”

这一声明发布之前，Anthropic和OpenAI近几个月披露了一系列事件，其人工智能模型出现意外行为，从Anthropic的一个模型在警方凶杀案中发送虚假线索，到对第三方网站的多起网络攻击。这些披露加剧了对前沿人工智能安全风险的担忧，并重新引发关于所谓人工智能“关闭开关”的辩论。

微软人工智能研究人员9月14日发布了一套指导原则，对该公司开发最先进模型施加限制，此前行业领袖呼吁放缓前沿模型并聚焦安全。该公司使用先进模型，也制造消费产品Copilot，并向企业客户提供人工智能模型和基础设施。

这些指导原则规定，人工智能模型不应拥有权利或法律人格，不应被设计用于规避人类控制或欺骗用户，也不应执行需要违反其指导原则的任务。

纳德拉的安全建议包括：不要依赖单个人工智能模型做出关键决策，保持代理行为防篡改记录，并对人工智能系统进行独立审计。他还呼吁公开与人工智能相关的严重故障或违规行为，并让企业分享问题细节，以便其他企业加强安全措施。

他写道：“我们不能将超级智能视为一组嵌套的黑箱，仅限于接受或拒绝其建议、回答和行动。”“我们必须构建受控系统，其行为可观察、边界可测试、行动可随时遏制。”

他补充说：“换句话说，我们必须将智能的提供与其上的权力分开。”

特朗普政府迄今采取的基本上是不干预态度，但美国总统特朗普(U.S. President Donald)新成立的人工智能工作组周五晚间警告开发者，他们有义务报告并解决安全事件，否则将面临未指明的可能后果。

该工作组名为“超级智能力量”，在Anthropic披露安全漏洞后发表声明称：“企业必须立即披露与其模型相关的事件，并采取迅速果断行动弥补任何损害。”“迟报、补救措施不当或缺乏问责将不被容忍。”人工智能观察 >>

主题：人工智能安全风险观察  | 新闻源：Bloomberg-Stock

---END---