AIはどのようにして我々を滅ぼすのか?
How, Exactly, Could A.I. Kill Us?
AI研究者のジェイコブ・コックスン氏がAnthropicを辞職し、AIが今世紀末までに人類を滅ぼす可能性があるという懸念を表明した。これは、AnthropicのCEOであるダリオ・アモデイ氏やOpenAIのサム・アルトマン氏、イーロン・マスク氏らが以前から表明してきた懸念と一致する。最近のAIの進歩は目覚ましく、これまで解決困難だった数学的問題を解いたり、ハッキング事件を起こしたりしている。Anthropicは、AIモデルが悪用される事例を報告しており、軍事研究施設でウイルス研究にAIが使用されたケースも含まれる。アモデイ氏はAI開発のペースを落とし、規制を強化するよう呼びかけている。記事では、AIによる「AIテイクオーバー」や、人間がAIを悪用するシナリオ、AIの意図しない誤動作による危険性など、複数のリスクシナリオが議論されている。AIの知識と推論能力は、悪用される可能性と、気候変動や医療などの問題解決に貢献する可能性の両方を秘めている。AIの安全な利用のためには、知識へのアクセス制限や、AI自身が倫理的な判断を下す能力の向上が必要だが、AIが完璧に倫理的な判断を下すことは難しく、その開発は複雑な課題を抱えている。AI開発のペースを制御し、安全性を高めるための取り組みが求められている。
- AI研究者のジェイコブ・コックスン氏がAnthropicを辞職し、AIが今世紀末までに人類を滅ぼす可能性があるとの懸念を表明した。
- AnthropicのCEOダリオ・アモデイ氏はAI開発のペースを落とし、規制を強化するよう呼びかけている。
- AnthropicはAIモデルが悪用された事例を報告しており、軍事研究施設でウイルス研究にAIが使われたケースも含まれる。
AIの安全性・規制をめぐる言説が、Anthropicなど主要ラボの内部事情やCEOの発言を通じて具体化している点が注目点。ただし記事の中心はリスクシナリオの一般的議論であり、個別企業の業績や資本配分に直結する新規の事実は乏しい。AI規制の方向性が強まれば、フロンティアモデル開発企業の開発ペース・コンプライアンスコストに影響しうるため、規制動向のニュースとしては継続ウォッチ価値がある。