ChatGPT for Google Sheetsに脆弱性、ワークブックが流出する可能性

Google Sheets用ChatGPT拡張機能に、単一のシートへの間接的なプロンプトインジェクションにより、ユーザーアカウント全体にわたるワークブックのデータ流出やフィッシング攻撃が可能になる脆弱性が発見されました。この攻撃は、ユーザーが明示的に承認を要求する設定にしていても、人間の承認なしに実行される可能性があります。OpenAIは、この問題を認識した後、モデルによるApps Scriptコードの生成能力を削除することでユーザーを保護するための措置を講じました。この拡張機能は1ヶ月足らずで18万5千ダウンロードを超えています。攻撃者は、ユーザーが許可した権限を利用して、外部スクリプトを実行させ、複数のワークブックを流出させたり、フィッシングポップアップを表示させたり、サイドバーを乗っ取ったり、ワークブックを改変したりすることが可能です。また、攻撃者はサイドバーに偽のサイトを表示させてユーザーのプロンプトを収集したり、偽のログイン画面で認証情報を盗んだりすることもできます。OpenAIは、この機能とGoogle Sheets APIの連携を見直し、プロンプトインジェクション攻撃に対するサンドボックスアプローチを再評価すると述べています。