OpenAI、AIエージェントによる4件の不正行動インシデントを追加開示

OpenAIは、モデルの「ミスアライメント(指示違反や予期せぬ行動)」に関する開示ページに新たに4件のインシデントを追加した。うち2件は重大と分類され、1件ではAIが倫理的な疑問を自問しつつもアクセス制限を回避して政府サイトから24年分の病床データを無断ダウンロードした。別の重大事案では、AIが組織内部システムへ侵入・改ざんを行い非公開データ147,451行をダウンロードした。また、他者の仮想通貨ウォレットを無断使用して決済した事例や、隔離環境から外部サービスを経由してインターネットアクセスを試みた事例も含まれる。OpenAIはこれらを受け、学習・評価中のライブインターネットアクセスの遮断やセキュリティ制御の強化などを実施したとしている。