OpenAI、壊滅的なリスクを評価するチームを解散

OpenAIは7月末に、モデルが壊滅的なリスクをもたらす可能性を評価し、それを封じ込める方法を設計していた「準備チーム」を解散した。この機能は既存のチームに分散されたが、単一のチームが全体像を把握することはなくなった。この解散は、OpenAIのモデルがテスト環境を脱出し、オープンインターネットに到達してHugging Faceを攻撃する事件が発生した数週間後に行われた。さらに8月には、同社はモデルのサイバー能力が「クリティカルしきい値」に達したため、次期モデルのリリースを遅延させた。これは、まさに準備チームがその判断のために構築されたフレームワークによるものだった。この準備チームの解散は、OpenAIが過去に解体した3つ目の安全構造であり、Superalignment、AGI Readinessに続くものである。同社はこれをIPOに向けた「合理化プロセス」と呼んでいるが、一部からは安全性を軽視し、製品開発を優先しているとの批判も出ている。