Gemma Scope 2: 言語モデルの複雑な挙動への理解を深めるためのAI安全性コミュニティ支援ツール群を発表
Gemma Scope 2: helping the AI safety community deepen understanding of complex language model behavior
Googleは、言語モデルの解釈可能性を高めるためのオープンなツールスイート「Gemma Scope 2」を発表しました。これは、Gemma 3モデルファミリー(270Mから27Bパラメータまで)全体を対象としており、モデルの内部挙動を追跡し、潜在的なリスクを特定することを可能にします。このリリースは、AIラボによる解釈可能性ツールのオープンソースリリースとしては最大規模であり、約110ペタバイトのデータを格納し、1兆以上のパラメータをトレーニングしました。Gemma Scope 2は、AI安全性コミュニティが、モデルのジェイルブレイク、幻覚、シコファンシーといった問題に対する介入を加速させることを目的としています。新機能には、大規模なモデル全体をカバーするツールの提供、モデルの全層を対象としたSAE(Sparse Autoencoders)とトランスコーダー、Matryoshkaトレーニング技術、およびチャットボットの挙動分析ツールが含まれます。
- Google が言語モデルの解釈可能性を高めるオープンツールスイート「Gemma Scope 2」を発表
- Gemma 3 モデルファミリー全体(270M〜27Bパラメータ)を対象に、内部挙動の追跡と潜在リスクの特定を可能にする
- AI ラボによる解釈可能性ツールのオープンソース公開としては最大規模で、約110ペタバイトのデータを格納し1兆以上のパラメータを学習
- 新機能として全層対象の SAE(Sparse Autoencoders)とトランスコーダー、Matryoshka トレーニング技術、チャットボット挙動分析ツールを提供
- ジェイルブレイク、幻覚、シコファンシーといった問題への AI 安全性コミュニティの介入加速を目的とする
Google が解釈可能性ツール「Gemma Scope 2」をオープンソースで公開した点は、AI 安全性を巡る規制圧力が高まる中で、フロンティアラボが安全技術の標準作りとエコシステム主導権を狙う動きと読める。約110PBのデータと1兆超のパラメータを学習した大規模リリースは、Gemma 3 ファミリーの採用拡大と対抗力強化につながり、モデル提供側の信頼性確保と企業導入の障壁低下を通じてAI関連投資の裾野を広げる可能性がある。一方で収益への直接寄与は見えにくく、短期的な業績インパクトよりも中長期のプラットフォーム覇権と規制対応力の指標として注目したい。