AI専門家、AIが10年以内に人類を滅ぼすリスクを警告
AI could kill all humans in next decade, warn experts
英国と米国で、AIが核兵器以上のリスクをもたらす可能性について専門家らが警告を発した。元国防長官や著名なコンピュータ科学者は、AIが人間の能力を超越し、制御不能になる事態を懸念している。AI規制を求めるロビー団体「Control AI」は、人工超知能(ASI)の創出を禁止する法案を支援している。Anthropic社の幹部は、AIが10年以内に人類を滅ぼす確率を10%以上と見積もり、ASIの安全な運用計画がないことを認めた。OpenAIの最高科学者は、AI開発における国際協調を最優先事項とするよう訴えた。英国政府関係者は、Anthropic社が最新モデル「Mythos 5.1」を英国AI安全研究所に提出しなかったことに懸念を示した。一方、一部の専門家は、AIの過大評価や「グレートディサポイントメント」の可能性を指摘し、慎重な姿勢を示している。AIの環境への影響、偽情報の拡散、雇用の代替といった現実的な脅威への対処を優先すべきとの意見もある。
- AI規制を求めるロビー団体Control AIが、人工超知能(ASI)の創出を禁止する法案の成立を支援している。
- Anthropic社の幹部が、AIが10年以内に人類を滅ぼす確率を10%以上と見積もり、ASIの安全な運用計画が存在しないことを認めた。
- OpenAIの最高科学者が、AI開発における国際協調を最優先事項とするよう訴えた。
- 英国政府関係者が、Anthropic社が最新モデル「Mythos 5.1」を英国AI安全研究所に提出しなかったことに懸念を示した。
- 一部の専門家はAIの過大評価や「グレートディサポイントメント」の可能性を指摘し、AIの環境影響・偽情報拡散・雇用代替など現実的脅威への対処を優先すべきと主張している。
AIの存在リスク論が規制法案の動きや大手ラボ幹部の発言という形で具体化している点が重要。Control AIによるASI創出禁止法案の支援、Anthropic幹部の「10年以内に人類滅亡10%以上」という見積もり、OpenAI最高科学者の国際協調要求は、フロンティアAI企業に対する規制・コンプライアンス費用や開発ペース制約の上振れリスクを示す。一方でAnthropicが最新モデルを英国AI安全研究所へ提出しなかったという指摘は、安全性検証とリリース戦略の不透明さが各国政府との摩擦や上市遅延につながり得る材料。他方、過大評価・グレートディサポイントメントを指摘する声はAI関連バリュエーションの下振れリスクとして併せて注視したい。