资讯流  宏观  直播  策略  日历  |  原油  黄金  美指  外汇  股指  商品  |  教育  知否  |  经纪商  全能投资账户  期货开户

AiWatch

谁在监督人工智能？评估者在对其独立性的疑虑加剧之际获得权力

　　

 

编辑：张立东  发布时间：2026.9.26 02:47

专门评估人工智能模型(AI Model)的团体突然处于一场全球安全辩论的中心，这场辩论可能决定人工智能创新的步伐和金融市场的方向。

包括METR在内的评估机构正引起Anthropic、元平台(Meta)和其他人工智能巨头越来越大的兴趣，被视为防范有害模型的首选途径，微软(Microsoft最近也加入支持这一想法的行列。

微软总裁布拉德·史密斯在接受彭博电视(Bloomberg TV采访时表示：“我们应该拥有独立评估者。最终，世界必须信任这些评估者。至关重要的是，他们应被适当选择，并拥有真正的独立性。”

然而，随着建立规范的势头增强，对于有能力审查新模型的主要团体受到潜在令人担忧的利益冲突影响的担忧也在增加。

其中几个与具有灾难主义性质的“有效利他主义”运动保持密切联系，该运动将人工智能的进步视为威胁，这导致一些政府官员和企业高管质疑这些评估者的独立性和客观性。

在华盛顿(Washington)，美国官员正试图确定这些团体是否有助于制定安全规范，从而为经济各行业的企业提供实施人工智能工具所需的信心。

据知情人士透露，商务部(DoC)人工智能标准与创新中心已与评估者会面，包括METR——其调查了与OpenAI模型相关的安全漏洞——以及人工智能评估者论坛，该论坛是去年成立的联盟，旨在帮助制定评估最佳实践。

这些消息人士称，这些对话仍处于初期阶段，目标是探索这些团体如何有助于制定规范和评估人工智能系统。他们因描述私下对话而要求匿名。

然而，许多安全评估者与有效利他主义运动之间的联系，可能使外部评估者成为美国总统特朗普(U.S. President Donald)眼中不可行的提议。

其前人工智能负责人戴维·萨克斯将外部评估斥为“伪科学”，总统也贬低对人工智能的存在性恐惧，称其为“骗局”，并警告不要限制这项技术。

尽管萨克斯——一位现在领导总统科技顾问委员会的风险投资家——指出提高透明度和对人工智能公司进行审计可能是个好主意，但他也对独立评估者表示怀疑。

上周在X上的一篇帖子中，他将其称为“将不可动摇的有效利他主义监督者纳入每个人工智能公司内部作为新信任与安全层的计划”。

萨克斯指的是他对有效利他主义的厌恶，这是一种在硅谷流行的哲学运动，其追随者努力将每个决定建立在数学概率之上，他们认为这将最大化对其他人的利益。

其支持者通常赞成放缓人工智能发展，因为一些从事这项技术的人认为它可能导致人类灭绝。

商务部和人工智能标准与创新中心的发言人未回应置评请求。

METR的一位发言人证实，该团体已与人工智能标准与创新中心会面，分享其评估结果，并有时讨论人工智能测试标准。人工智能评估者论坛的一位发言人拒绝置评。

关于独立团体在评估人工智能安全中应发挥作用的紧张关系，反映了政策制定者与科技行业之间当前围绕如何应对人工智能可能脱离人类控制这一担忧的更广泛斗争。

对特朗普而言，放缓人工智能发展将削弱其经济议程，并阻碍一项被归功于历史性股市上涨的技术——这是他总统表现指标之一。

针对一系列影响重大的安全事件，Anthropic首席执行官达里奥·阿莫代伊承诺放缓前沿系统的开发步伐，并引入拥有员工级访问权限的外部评估者来审查新模型的安全性。

一些主要人工智能用户，包括塔吉特公司和纽约市西奈山医疗系统，已表示支持第三方评估，以增强公众对这项技术的信任。

在夏季围绕人工智能安全规范召集政府与各界的努力失败后，对外部评估者的请求势头增强，其中包括财政部长斯科特·贝森特提出的类似金融业监管局的模式。

据一位知情人士称，此后科技公司已动员起来，在没有政府帮助的情况下制定规范。

OpenAI、Anthropic和谷歌已就这些规范展开讨论。上周，Anthropic宣布将引入埃森哲(Ac-centure)的评估者来检查其模型的安全性，OpenAI周二表示也计划允许外部团体在开发周期早期审查其模型的安全风险。

法托姆联合创始人兼首席执行官安德鲁·弗里德曼表示：“我们已经鸣枪起跑。有数十个团体渴望成为独立验证机构，但必须存在评估其质量的竞争。”法托姆是一家专注于人工智能政策的非营利组织，一直倡导第三方评估的监管框架。

弗里德曼指出，除了行业这些措施外，他认为政府应在“验证验证者”方面发挥作用。

商务部国家标准与技术研究院已在为其他行业执行这项任务。

然而，对外部评估者进行审查的想法引发了对其客观性的质疑。

许多有能力进行此类测试的团体，如人工智能评估者论坛的成员（包括METR），与有效利他主义密切相关。这是同一个以安全为由倡导放缓人工智能发展的社区。

一位熟悉人工智能行业的人士指出，虽然外部审计员的概念有道理，但当前生态系统规模小，领导层缺乏多样性，因为大多数审查者与有效利他主义有关。该人士补充说，美国当局对这些关系一直很敏感。

在聘请埃森哲进行审计时，Anthropic表示，埃森哲今年早些时候收购的Faculty公司将领导这一合作。

在被埃森哲收购之前，Faculty已筹集5410万美元，其中包括扬·塔林——人工智能安全的主要倡导者之一、有效利他主义组织生命未来研究所联合创始人——的资助。

在回应置评请求时，Anthropic发言人让其政策页面，该公司在该页面阐述了对第三方评估和政府模型审查的支持。

Anthropic还在那里表示，其将模型提交给人工智能标准与创新中心和英国人工智能安全研究所进行部署前测试。埃森哲发言人拒绝置评。

METR是“模型评估与威胁研究”的缩写，已与包括OpenAI和Anthropic在内的人工智能公司合作评估风险。

METR由OpenAI前员工贝丝·巴恩斯领导，在另一个名为对齐研究中心的非营利组织内创建，之后作为独立项目成立，并获得了该组织（称为ARC）的资助。

根据向美国国税局提交的2024年税务申报，METR报告称当年从ARC获得了450万美元的资助。

针对萨克斯的公开评论，METR表示，它认为任何小团体都不应对人工智能发生的事情拥有权力，其目标是将来自公司内部的信息公之于众。

该发言人补充说，METR还努力聘用持相反观点的人，其发表的结果并不“明确”符合以灾难主义或人工智能加速为中心的世界观。

ARC由OpenAI前员工保罗·克里斯蒂亚诺领导，他最近加入了OpenAI非营利组织的董事会。克里斯蒂亚诺还是人工智能标准与创新中心的高级技术顾问，该中心是国家标准与技术研究院下属组织，协助测试和制定人工智能模型指南。

克里斯蒂亚诺的非营利组织ARC已从Coefficient Giving（前身为开放慈善）获得超过150万美元，后者是有效利他主义运动最知名的资助提供者之一。

根据Coefficient Giving网站，2022年，ARC获得了26.5万美元和125万美元的两笔资助。

ARC研究副总裁雅各布·希尔顿表示，当METR随后从ARC分拆时，ARC进行了一个分配资产并确定向METR授予多少资金的过程。

他指出，Coefficient Giving的资助用于ARC正在进行的工作，而非METR。

除METR外，人工智能评估者论坛名单上的其他成员也与有效利他主义有联系，特别是通过资助。该论坛帮助企业获得进行评估所需资源，并寻求为参与模型评估者建立共同的良好实践。

在X上回应萨克斯的一篇帖子中，该团体写道：“信任至关重要，通过透明、独立和向权力说真话的自由来赢得。”

该团体写道：“人工智能评估者论坛呼吁人工智能开发者提供这些基本保证，以确保人工智能评估能够可信地、按照最高科学标准进行。这不应成为争议点。”人工智能观察 >>

主题：人工智能安全风险观察  | 新闻源：Bloomberg-Stock

---END---