Anthropic老板阿莫迪观点前后不一，呼吁AI强规管却因Fable 5降智风波难获认可

Anthropic老板阿莫迪观点前后不一长文呼吁AI强规管却难获认可商界大人物言论多变Anthropic老板阿莫迪也不例外。他在不同时间表达了对AI发展的不同看法。不同时期对AI发展的看法2月14日阿莫迪在世界头部科技播主Dwarkesh Patel的节目上说AI发展的步伐已到“指数级增长”阶段末尾公众对此缺乏认知圈子里的大人物除他外都在重复浅表的公共话题。他还表示“数据中心内含的天才国度”90%会在十年内出现至少写代码等“可客观验证的任务”能被AI完全上手但“难以被客观验证的任务”十年内AI做不成。然而6月阿莫迪在个人博客《关于AI指数级增长的政策方面看法》中称AI技术在光速发展“缩放定律”正在发威再过一两年“数据中心内含的天才国度”就会出现。为应对未来他对热点公共政策提出了一以贯之的建议。到底哪个时期的阿莫迪说的是心里话有人认为两个版本的阿莫迪说的是不同时期的真话。春天的阿莫迪处于无忧虑时期在节目上做了著名的“指数级挥手”手势夏天的阿莫迪在Fable 5模型被自家强行降智后公众不满、IPO即将到来时发声为公关在“浅表的、老生常谈的公共话题”上表态。不过所有版本的阿莫迪都强调AI应被官方强力规管。政策措施建议阿莫迪在个人博客里提出了多方面政策措施建议1. 前沿AI模型应有强制性的发布前测试和第三方审核政府有权阻止有风险的新AI模型部署。2. AI公司应强制履行更强的安全规范包括模型权重保护、红队检测、穿透性攻击测试、关键安全事件快速通报。3. 政府应针对AI带来的劳力市场扰动做预案如激励企业雇佣真人、测算劳力市场变动、支持受冲击就业者薪资、培训不熟悉AI的就业者、用AI红利支持长期失业者。4. 西方国家应在AI政策上跨国界合作交流涉及AI安全、芯片供应链、产品出口规制、红利共享、防务交流、避免AI赋能的民权被压迫。这些建议可概括为“AI大厂没做成Anthropic能做到的官方就该管Anthropic做不到的官方应主动做”。这被指是业界大人物游说公众、向官方施压寻求特定法规。有网友评论阿莫迪的文章是想推动类似《核不扩散条约》的法规让自家囤做AI的机会。行文特点及反响阿莫迪行文引经据典用《指环王》里的树人典故表示AI“指数级增长”让社会到了分岔口批评立法和行政部门动作慢。他还以自家Mythos模型为例强调规制AI不能仅靠商家透明度官方需推出更有约束力的法规将AI与汽车、飞机、新药作类比。不过阿莫迪的长文在社交媒体上反响并不完全正面。春季Anthropic在与美国国防部打官司时坚定表示AI大模型不该用于“全自动致命武器”收获了广泛支持。但夏天他在长文中对“AI与全自动致命武器”的立场后退称“全自动致命武器”应有可靠性指引机制不能在美国国内执法部门部署。Fable 5降智风波此外Claude Fable 5公开后系统卡文档表示为防蒸馏、控制生物武器风险将在不通知用户的情况下主动降智引发大量用户投诉。业界人士不满认为这属于蓄意商事违约坐实了五角大楼对Anthropic的“供应链风险”指控。OpenAI的布莱恩·斐欧卡撤销了在为Anthropic辩护的“法庭之友”文书上的署名。即便Anthropic表示Fable 5将在降智前通知用户阿莫迪的长文也难有预期说服力。