这一警告已不再仅仅来自研究人员、监管机构或批评人工智能的声音。Anthropic 的联合创始人兼首席执行官 Dario Amodei 指责该行业本身长期掩盖了与这项技术相关的风险。Anthropic 是参与开发最先进模型的公司之一。
Amodei 在一次采访中表示：“长期以来，这个行业一直在就这项技术存在风险一事对公众撒谎。”这位企业家称，确实存在“真实的危险”，并认为人工智能系统能力的快速增长是一个警示信号，迫使人们重新审视该行业的发展速度。
他的言论正值各大科技实验室激烈竞争、争相开发能力日益强大的模型之际。作为 Claude 的开发者，Anthropic 正是这场竞赛中的主要参与者之一，与 OpenAI 和 Google DeepMind 等公司并列。这样的地位使 Amodei 的发言不只是来自外部的警告：他从行业内部提出了一种可能性，即安全与监管机制或许未能与技术本身同步发展。
一项放缓发展速度的提议
Amodei 在一篇题为 We Must Pace the Frontier 的文章中阐述了自己的立场。他认为，前沿系统的开发应更加审慎地推进。他尤其担忧，模型能力的增长速度可能快于人类理解、评估和控制它们的能力。
Anthropic 的负责人提出，在其他措施中，应让外部评估人员持续访问这些系统，以核查安全措施的落实情况、分析事故，并研究模型在训练过程中的行为。
这一提议超出了单一公司能够作出的决定。Amodei 认为，有必要在主要人工智能开发者之间开展协调，并在后续阶段达成国际协议，以制定特定的限制和安全标准。
问题在于，在一个面临激烈商业和地缘政治竞争的行业中，单方面放缓开发速度显然会带来困难。如果一家公司决定放慢步伐，而竞争对手仍保持原有速度，它可能会在这项被视为战略性技术的竞争中失去地位。同样的紧张关系也出现在国际层面，尤其是在美国和中国之间的技术竞争中。
一场令行业分化的辩论
Amodei 的警告得到了业内一些最具影响力人士的支持。OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis 以及 Elon Musk 等高管，也对最先进系统的发展速度表达了担忧，尽管他们各自的立场和具体提议并不完全相同。
与此同时，放缓步伐的呼吁也引发了批评。反对者既质疑协调竞争企业和国家的可行性，也质疑实施可能阻碍创新或有利于已占据主导地位公司的限制措施是否恰当。
这场辩论还具有政治层面。对先进系统实施更严格控制的提议，与那些认为美国必须保持尽可能快的发展速度、以维持相对于中国的技术优势的人士发生冲突。中国官方媒体批评了 Amodei 的立场，并将他关于技术管控的主张解读为两国竞争的一部分。
Anthropic 多年来一直警示相关风险
Amodei 的立场并不意味着他完全放弃了此前的论述。Anthropic 创立之初便高度重视人工智能系统的安全性，其首席执行官多年来一直警告，能力日益强大的模型可能带来负面影响。
与此同时，Amodei 也曾公开捍卫这项技术的巨大潜力。2024 年，他发表了题为 Machines of Loving Grace 的文章，描述了一种情景：足够先进的人工智能可以加速生物学、医学、神经科学或经济发展等领域的进步。
这种对前景与风险的兼顾，有助于理解他当前的立场。Amodei 并未主张放弃人工智能的发展，而是希望争取时间，让控制机制能够在能力更难以监管的系统出现之前取得进展。
这场讨论之所以格外重要，是因为它来自那些能够直接决定技术将推进到何种程度、以何种速度继续发展的人。问题已不再仅仅是人工智能能够做什么，而是竞相开发它的企业愿意接受哪些界限。
