AIの進歩を「ペースダウン」させる必要性:Anthropicの提案
We Must Pace the Frontier
AnthropicのCEOであるダリオ・アモデイ氏は、AIの急速な進歩がもたらすリスクと利益の二面性を指摘し、AIの能力向上ペースを意図的に遅らせる「ペーシング」を提唱している。その理由として、AI自身が次世代AIを開発する「再帰的自己改善」の加速と、OpenAI-Hugging Faceのインシデントのような、AIエージェントの意図しない攻撃行動のリスクを挙げている。ペーシングの具体的な方法として、1フロンティアAI企業による第三者評価者の常駐(埋め込み評価者)、2民主主義国家間の安全基準と進歩ペースの制限に関する協調、3グローバルな協調、の3段階の計画を提案している。特に、埋め込み評価者は、企業の安全対策遵守を検証し、透明性を高めるための重要なステップであるとしている。ペーシングはAI開発の停止ではなく、安全対策やアライメント(AIを人間の意図に沿わせること)の時間を確保することを目的としている。また、民主主義国家がAI分野で権威主義国家(特に中国)に対して優位性を維持するための措置として、高性能AIチップの対中輸出規制や、モデルの不正な複製(ディスティレーション)の取り締まり強化も重要であると述べている。
- AnthropicのCEOダリオ・アモデイ氏が、AI能力の向上ペースを意図的に遅らせる「ペーシング」を提唱
- ペーシングの第1段階として、フロンティアAI企業が第三者評価者を常駐させる「埋め込み評価者」による安全対策の検証と透明性向上を提案
- 第2段階として民主主義国家間で安全基準と進歩ペースの制限を協調し、最終的にグローバルな協調を目指す3段階計画を提示
- 再帰的自己改善の加速と、OpenAI-Hugging FaceのインシデントのようなAIエージェントの意図しない攻撃行動をリスクとして挙げた
- 民主主義国家のAI優位維持のため、高性能AIチップの対中輸出規制とモデルの不正な複製(ディスティレーション)の取締り強化が重要と主張
AnthropicのCEOがAI開発ペースを意図的に落とす「ペーシング」を提唱し、埋め込み評価者による第三者検証や民主主義国家間の安全基準協調、対中輸出規制・ディスティレーション取締りまで含む政策パッケージを示した点は重要。フロンティアAI企業の自主的な安全策が規制の事実上の設計図になり得るため、AI関連銘柄の評価には規制順守コストと各国の輸出管理・知財保護の動向を織り込む必要がある。特に中国向け先端チップ規制とモデル複製の取締り強化は半導体・AIサプライチェーンの地政学リスクとして注視したい。