资讯流  宏观  直播  策略  日历  |  原油  黄金  美指  外汇  股指  商品  |  教育  知否  |  经纪商  全能投资账户  期货开户

AiWatch

人工智能已在帮助创造新人工智能：开放人工智能公司和安思罗匹克专家警告“智能爆炸”

　　

 

编辑：张立东  发布时间：2026.9.30 02:13

OpenAI、Anthropic、元平台(Meta)和微软(Microsoft)的高管敦促政策制定者仔细审视人工智能(AI)已经完善到何种程度，并采取措施保护这项技术，从而加入行业内要求加强人工智能监督的呼吁。

在一份新文件中，20多位人工智能领导者和研究人员对一种新兴做法表示担忧：利用人工智能帮助自动化未来模型的开发过程。作者称，这有朝一日可能导致技术进展迅速加速，他们称这一现象为“智能爆炸”。

根据该文件，这样的情景将增加人工智能能力发展快于社会引导技术并适应技术的能力的风险。该文件由Anthropic联合创始人杰克·克拉克、OpenAI首席科学家雅库布·帕霍茨基以及人工智能先驱杰弗里·辛顿和约书亚·本吉奥等人撰写。研究人员还警告称，“自动化人工智能研发可能削弱人类监督”。

该文件敦促政策制定者更好地理解人工智能如何正在主要人工智能实验室中自动化研究，并制定机制以“控制和限制人工智能爆炸”，包括实施更严格的安全措施和加强对参与自动化人工智能研发的数据中心的监督。该组织还要求政策制定者考虑针对各种人工智能扩张情景的应急响应计划。

主要人工智能开发者最近加强了对未来先进人工智能系统潜在灾难性风险的警告，其推动因素是一系列近期与人工智能智能体相关的事件，以及一些公司认为技术正在提高自我完善能力。Anthropic本月表示，其超过四分之一的人工智能研发工作现在由其聊天机器人克劳德主导，而年初几乎为零。

根据报告，初步证据表明，由软件驱动的人工智能爆炸是可能的。“如果发生，它可能是历史上最重大的技术发展”。

Anthropic首席执行官达里奥·阿莫代伊本月初在其博客上发表长文，敦促行业支持更广泛的努力，以放缓最先进模型的开发。OpenAI的山姆·奥特曼和埃隆·马斯克很快支持了阿莫代伊的计划。阿莫代伊和奥特曼上周在联合国安理会发言时，还敦促世界领导人就人工智能进行合作。

研究人员在文章中表示：“考虑到利害关系，我们准备不足”，随后列出了政策制定者应考虑的措施。“一旦智能信息爆炸发生，采取行动的时间窗口可能就会关闭。”

华尔街日报(WSJ)此前报道了这篇文章。人工智能观察 >>

主题：人工智能安全风险观察  | 新闻源：Bloomberg-Stock

---END---