AnthropicのアモデイCEO、最先端AIの開発ペース抑制を提案　安全対策で3つの方向性

CoinDeskによると、Anthropicのダリオ・アモデイCEOはブログ投稿で、最先端（フロンティア）AIモデルの能力向上が急速に進む現状を踏まえ、開発の進度を意図的に落とすべきだと提起し、今後の進め方として3つの方向性を示した。能力の加速が続く中、AI安全をめぐる議論は再び熱を帯び、リスク低減策の必要性が業界内で強く意識されているという。 アモデイ氏がまず打ち出したのは、第三者機関による"オンサイト評価者"の導入だ。AI企業に外部評価者を常駐させ、企業が既存の安全コミットメントを順守しているかを検証し、安全上のインシデントが迅速に報告されているかを監督する。運用はMETRのような外部組織が担う想定で、評価者には社員バッジ、机、コンピューターが提供され、アクセス権限も社内のリスク評価チームに概ね準じる。法務や契約上の制約により例外が生じ得る点にも触れた。Anthropicはこの枠組みを独自に先行実施し、政府には他の主要AI企業にも同様の対応を義務付けるよう求める考えだとしている。 2つ目の方向性として、"民主主義国"の主要AI企業が連携し、共通の安全基準を整備したうえで、制御不能な能力向上のペースを抑える枠組みづくりを提案した。アモデイ氏は、こうした議論は米政府が主導するか、少なくとも反トラスト上の懸念を和らげるため、限定的な適用除外などの後押しが望ましいと主張する。現状、トップモデル企業間の競争は激しく、関係も緊張しているため、研究開発の"足並みをそろえた減速"を直接協議すれば規制当局の監視を招きかねない。政府が前面に出る必要は必ずしもないが、安全に関する特定テーマで意思疎通できる条件整備が重要だという。 3つ目は、中国要因を織り込んだうえでの限定的な国際協調だ。研究開発を緩めれば中国の追い上げを許すとの反論に対し、アモデイ氏は、米政府とテック企業が高性能チップや半導体製造装置の対中流出を引き続き制限し、モデル蒸留などの手法も標的にするなら、今後3〜5年で米国が優位をさらに広げる余地があると述べる。そのうえで、米国と同盟国は中国を含む権威主義国家とも可能な範囲で関与し、全面的な足並みを求めるのではなく、高リスク領域から合意形成を図るべきだとした。例として、生物兵器開発におけるAI利用の制限を挙げている。 安全懸念の高まりは続いている。今回の投稿に先立ち、Anthropicでは社内研究者がAIリスクを公に批判し注目を集めた経緯がある。アモデイ氏は個別の退職には言及しなかったが、慎重姿勢を強めた背景として、（1）OpenAIとHugging Faceに関連するセキュリティ・インシデント、（2）ここ数カ月で"次世代AIを構築するAI"能力が大きく加速したこと、の2点を挙げた。 一方で、この提案には二つのタイプの批判がある。開発加速を支持する側は、アモデイ氏が長期的な破局リスクを過度に強調し、かえって業界の危機感を鈍らせると主張する。別の立場からは、安全を名目に先行企業が支配力を固め、すでに現実社会で起きているAIの問題を軽視する口実になり得るとの指摘も出ている。アモデイ氏は、開発をより慎重に進め、稼いだ時間を安全構築に実際に振り向けることができれば、AIは人々の生活の質を大きく押し上げるとする見解を改めて示した。