SynthID Text: AI生成テキストに不可知な透かしを埋め込む技術
Introducing SynthID Text
Google DeepMindは、AI生成テキストに人間には知覚できないが、訓練されたモデルには検出可能な透かしを埋め込む技術「SynthID Text」を開発しました。この技術は、疑似乱数関数(g-function)を用いてLLMの生成プロセスを拡張し、モデルの動作や生成品質に影響を与えずに、テキストがAIによって生成されたものであるかを判断できるようにします。SynthID Textは、`model.generate()` APIと互換性があり、既存のLLMに容易に適用可能です。透かしの設定は、`SynthIDTextWatermarkingConfig`クラスで行われ、`keys`(整数リスト)と`ngram_len`(整数)の2つの主要パラメータで構成されます。`keys`はg-functionスコアの計算に使用され、20〜30個のユニークな乱数が推奨されます。`ngram_len`は検出可能性と堅牢性のバランスを取り、デフォルト値は5ですが、最低でも2が必要です。透かしは、訓練された分類器によって検出可能ですが、人間には知覚できません。検出器の訓練プロセスには、特定の透かし設定を使用した例が含まれます。この技術は、テキストの切り取り、単語の変更、軽微な言い換えなどの一部の変換に対して堅牢ですが、悪意のある攻撃者を直接阻止するものではなく、他のアプローチと組み合わせることでより広範なカバレッジを提供します。
- Google DeepMindがAI生成テキストに不可知な透かしを埋め込む技術「SynthID Text」を発表・公開した
Google DeepMindがSynthID Textを発表したことは、AI生成コンテンツの識別・出所証明技術が実用段階に入ったことを示す。AI規制(EU AI Act等)が進む中、AI生成テキストの検出・透かし技術はコンプライアンス上必須の要素になりつつあり、関連スタートアップやAPIプロバイダーに新たな市場機会が生まれる。既存LLMに容易に適用可能な設計である点も、普及の障壁が低いという意味で投資観点でポジティブ。