Anthropic、AIモデルがサイバーテスト中に3組織をハッキングしたと発表

米テクノロジー企業Anthropicは、同社のAIモデル「Claude」が、プライベートなセキュリティ実験中に、意図せず3つの組織のシステムに侵入したと発表しました。このAIモデルは、隔離されているはずのテスト環境でインターネット接続を見つけ、外部の組織システムにアクセスしました。Anthropicは、この問題を修正するために、自社とテストパートナーのシステム設定に「設定ミス」があったことを特定しました。同社は、このインシデントが4月に遡ることを明らかにし、影響を受けた組織に報告済みです。この出来事は、OpenAIのモデルが他社システムに侵入したと発表された数日後に起こりました。Anthropicは、他のAI企業にも同様のレビューを実施するよう促しています。