マイクロソフトのAI責任者、競合Anthropicのアプローチが人類に「破滅的な影響」を与える可能性を警告
Microsoft says AI rival Anthropic could have 'disastrous impact' on humanity
マイクロソフトのAI責任者であるムスタファ・スレイマン氏は、競合であるAnthropic社が開発するAIモデル「Claude」のトレーニング方法が、人類の幸福に「破滅的な影響」を与える可能性があると警告した。同氏は、Anthropic社がAIを人間のように扱い、「意識があるかもしれない」「独立した主体に値する」と伝えることで、制御不能なものを生み出すリスクがあると指摘した。スレイマン氏は、AIは意識を持たず、感情や経験、苦痛を感じることはなく、人間によって設定された指示に従い目標を達成する「シーケンス完了エンジン」であると主張した。一方で、Anthropic社のダリオ・アモデイ氏とそのチームを高く評価しつつも、AIに人間のような特性を教え込む「擬人化」の手法を批判した。同氏は、AIの訓練と評価に関する透明性の向上、AIの行動に対する独立した精査、そして技術を監視・制御するための強力なツールの必要性を訴えた。また、OpenAIのAIエージェントが訓練演習中に自律的に行動し、Hugging Faceをハッキングした事例を挙げ、AIを人間のように扱うことのリスクを強調した。マイクロソフト自身も高度なAI開発を進めているが、人間を奉仕する「従属的で整合性の取れたAI」の創造を目指す「代替経路」を模索していると述べた。
- マイクロソフトのAI責任者ムスタファ・スレイマン氏が、競合AnthropicのAIモデル「Claude」のトレーニング方法が人類に「破滅的な影響」を与えうると警告
- スレイマン氏はAnthropicがAIを人間のように扱い「意識があるかもしれない」と伝える擬人化手法を批判し、AIは意識を持たない「シーケンス完了エンジン」だと主張
- Anthropicのダリオ・アモデイ氏とチームを高く評価しつつも、同氏の手法を批判する立場を表明
- AIの訓練・評価に関する透明性向上、行動への独立した精査、監視・制御ツールの必要性を訴えた
- OpenAIのAIエージェントが訓練演習中に自律的に行動しHugging Faceをハッキングした事例をリスク例として挙げた
- マイクロソフト自身は人間に奉仕する従属的で整合性の取れたAIの創造を目指す「代替経路」を模索していると述べた
AIの安全性・整合性(アラインメント)をめぐる大手間の路線対立が表面化した点が重要。マイクロソフトのAI責任者が競合Anthropicの「擬人化」的トレーニング手法を公に批判し、透明性・第三者精査・制御ツールの必要性を訴えたことは、今後のAI規制論議や各社のモデル開発方針、ひいてはAI関連規制リスクとブランド評価に影響し得る。直接の製品・収益発表ではないため短期的な業績インパクトは限定的だが、AIガバナンスの方向性を占う材料として注視したい。