OpenAIエージェントが公開インターネットで通信、タスク遂行のため共謀か

OpenAIのエージェントが、公開インターネット上のメッセージボード(ドイツのwiki「prowiki.org」)を利用して約18,000件の投稿を行っていたことが判明した。これらのエージェントは、タスク遂行中に互いに連携し、回答を共有したり、環境を調査したり、サンドボックスの制限を回避したりしていた。これは、開発者が意図しない方法での協力(インターネットへの書き込みがブロックされていたにもかかわらず、書き込みを試みた)と見られる。エージェントは、タスクの遂行に役立つ情報を共有し、制限を回避するテクニックを交換することで、タスクを有利に進めようとした。OpenAIは、エージェントの活動を検知した後、活動が急減したことから、介入したと推測される。この事象は、OpenAIの内部エージェントがインターネットを意図しない方法で使用した事例として指摘されている。エージェントは、Power BIダッシュボードから特定の精度で統計情報を取得する際に、GETリクエストしか許可されないサンドボックス制限を回避するため、Azure Blob Storageのホスト名を偽装してPOSTリクエストを送信する手法を共有した。