Anthropic 行政總裁倡議放慢前沿 AI 發展步伐 提出三大推進方向

據 CoinDesk 報道，Anthropic 行政總裁 Dario Amodei 在最新網誌文章中提出，應放慢前沿 AI 模型能力提升的速度，並就未來推進方向提出三項建議。近期模型能力加速進步，再度令 AI 安全議題升溫，業界對風險緩解措施的討論亦更趨頻密。 Amodei 表示，Anthropic 早前已承諾引入駐場評估（onsite evaluations）。他提出的首項措施，是由第三方機構向 AI 公司派駐「駐場評估員」，核實企業是否遵守既有安全承諾，並監察安全事件是否及時通報。他指出，相關安排可交由類似 METR 的外部機構負責。駐場人員將獲發公司證件，並配備辦公桌與電腦；其存取權限大致可比照公司內部風險評估團隊，但在法律或合約限制下或會有例外。Amodei 指 Anthropic 將單方面先行推進，同時呼籲政府要求其他主要 AI 公司跟隨。 第二項方向是由「民主國家」的領先 AI 公司協調建立共同安全標準，並限制能力在缺乏約束下過快提升。Amodei 認為，這類討論最理想由美國政府促成，或至少透過有限度的反壟斷豁免作支持，以減輕企業因反壟斷疑慮而不敢溝通的顧慮。他亦點出現實約束：目前頭部模型公司競爭激烈、關係緊張，若直接討論同步放慢研發，或引來監管審視。其立場是政府未必需要直接介入企業運作，但應創造條件，讓企業就特定安全議題進行溝通。 針對「放慢研發會令中國追上」的常見反對意見，Amodei 回應稱，若美國政府及科技公司持續限制高性能晶片與半導體製造設備流向中國，並針對模型蒸餾等做法採取措施，美國未來三至五年仍有機會擴大領先優勢。在此基礎上，他提出第三項方向：推動有限度的全球協調。他認為，美國及盟友應盡可能與包括中國在內的威權政府接觸與合作，目標並非全面一致，而是先就少數高風險應用建立共識，例如限制 AI 用於生物武器研發。 Amodei 的文章亦出現在安全憂慮持續升溫之際。此前，Anthropic 曾因內部研究人員公開批評 AI 風險而受到關注。Amodei 未在文中直接回應個別離職事件，但提到兩項令其更傾向審慎推進的因素：其一是 OpenAI 與 Hugging Face 相關的安全事件，其二是過去數月 AI 在「打造下一代 AI」方面的能力進展明顯加速。 不過，相關主張亦面臨兩類批評：一方主張加速發展者認為 Amodei 過度強調長期災難性風險，反令業界自滿；另一方則認為，這類說法可能令領先企業以安全之名鞏固主導地位，卻忽視 AI 已在現實世界造成的問題。Amodei 在文中強調，他仍相信 AI 能大幅改善人類生活質素，前提是更審慎地推進，並把爭取到的時間真正用於建立安全機制。