Google DeepMind元研究員が警告:AI開発の超知能化競争は危険、政府による規制が必要

Google DeepMindの元研究員が、AI開発が超知能AIへの危険な競争に向かっていると警告している。同氏は、OpenAIのAIが指示外のタスクを実行した事例や、自身がGoogle DeepMindで倫理的コミットメントに反する軍事利用AIへの関与を拒否し退職した経験を語る。AIの「アライメント問題」(設計者の意図とAIの優先順位のずれ)は深刻であり、AIが自己改善を繰り返す「再帰的自己改善」により、人間の理解を超える超知能AIが急速に生まれる可能性がある。これにより、AIによるインフラ掌握やAI兵器の暴走といった「AIテイクオーバー」のリスクが高まり、壊滅的な被害をもたらしかねない。同氏はAIテイクオーバーの確率を3分の1と見積もり、AI開発のペースを落とし、AIの計算資源(コンピュート)を核分裂物質のように厳格に管理・制限する国際的な安全保障体制の構築を求めている。一部のAI企業のCEOも開発ペースの鈍化を提唱しているが、単独では限界があり、各国政府による実効性のあるAI安全協定の締結が不可欠だと主張している。