YouTube StudioのAIアシスタントにプロンプトインジェクションの脆弱性、クリエイターのプライベート動画情報が漏洩する可能性

YouTube StudioのAIアシスタント「Ask Studio」に、コメント経由でプロンプトインジェクションが可能となる脆弱性が発見された。攻撃者は、クリエイターの動画にコメントを残し、それを編集することで、AIアシスタントに悪意のある指示を実行させることができる。具体的には、AIアシスタントがコメントを要約する際に、攻撃者が仕込んだ指示を公式な通知のように表示させることが可能。さらに、攻撃者はAIアシスタントに悪意のあるリンクを生成させ、クリエイターがそれをクリックすることで、プライベート動画のタイトルなどの機密情報を盗み出すことができる。Googleはこの問題をセキュリティバグとは見なさず、「ソーシャルエンジニアリングが必要」と回答したが、報告者は、ユーザーがYouTube製品への信頼を悪用されていると主張している。この脆弱性は、AIがユーザー生成コンテンツを指示として解釈してしまうことに起因しており、AI機能全般にわたるリスクとして指摘されている。