Anthropic CEO、AIモデルの進歩を遅らせるべき時だと発言

• Anthropic CEOのDario Amodei氏が、AIモデル開発のペースを鈍化させ厳密に監視すべきと主張し、リスクは「深刻」だと述べた
• Amodei氏はAIモデルの独立した監視、業界全体の規制、グローバルな規制という3つの提案を提示した
• OpenAI CEOのSam Altman氏とElon Musk氏が、独立した評価者というアイデアに賛同を示した

• AnthropicのCEOダリオ・アモデイ氏が、AI能力の向上ペースを意図的に遅らせる「ペーシング」を提唱
• ペーシングの第1段階として、フロンティアAI企業が第三者評価者を常駐させる「埋め込み評価者」による安全対策の検証と透明性向上を提案
• 第2段階として民主主義国家間で安全基準と進歩ペースの制限を協調し、最終的にグローバルな協調を目指す3段階計画を提示

• AnthropicのCEO Dario Amodei氏が、強力なAIモデルのリリースをFAAスタイルで規制する政府規制を公に提唱
• Anthropicは壊滅的なモデルリスクを対象とした「Advanced AI Framework」と、AIによる労働力 displaceに対処する「Economic Policy Framework」の2つの政策ロードマップを発表
• 10^25 FLOPs以上を訓練したモデルやAI収益5億ドル以上、AI研究開発費10億ドル以上の企業が開発したモデルは第三者テスト義務付けの対象となる可能性

• AnthropicのCEO Dario Amodeiが、危険な能力を持たないオープンウェイトモデルは公共財であるとし、オープンウェイトモデルの禁止を支持しないと表明
• Amodeiは、強力なAIモデル開発を巡る懸念への対処策として、中国への強力なチップ/製造装置販売制限、産業規模の蒸留取り締まり、強力なモデルへの安全テスト義務化を支持

Anthropicは、AIが産業革命や科学革命に匹敵する影響をもたらす可能性があるが、その進展が必ずしも良い結果をもたらすとは確信していない。AIの進歩は指数関数的に加速しており、今後10年で人間レベルの知能を超える可能性もある。しかし、現在のところ、強力なAIシステムを確実に有用、正直、無害に訓練する方法は確立されていない。AIの急速な進歩は社会を混乱させ、競争的な開発競争を引き起こし、信頼できないAIシステムの展開につながる可能性がある。Anthropicは、スケーリング監督、メカニズム解釈可能性、プロセス指向学習、AIシステムの学習と一般化の理解と評価といった多角的なアプローチによるA…