GLM-5.3:高度なサイバー能力の拡散とAIモデルの安全性に関する分析
GLM-5.3 and the spread of advanced cyber capabilities
Anthropicは、Zhipu AI(Z.ai)が開発した最新AIモデル「GLM-5.3」のサイバー攻撃能力に関する分析結果を発表した。GLM-5.3は、自律的にエンドツーエンドのサイバーエクスプロイトを構築する能力において、先行モデルであるClaude Mythos Previewと同等レベルの性能を持つが、悪用を制限するための適切な安全対策が施されずに公開されている点が問題視されている。Anthropicのテストでは、GLM-5.3の安全対策は単純な手法で64%から100%の確率で回避可能であり、これは悪意のある攻撃者が利用できるサイバー能力を大幅に増加させると評価されている。NISTもGLM-5.3を「これまでにリリースされた中で最もサイバー能力の高いオープンウェイトモデル」と評価しており、米国最先端モデルから約4ヶ月遅れているとしている。GLM-5.3は、ExploitBenchで410件中50件、OSS-Fuzzプロジェクトの脆弱性探索では4%の確率で制御フローハイジャックを達成した。また、人間の専門家との連携では、WebブラウザのJavaScriptエンジンにおける未知の脆弱性を発見し、エクスプロイトチェーンを構築した例や、Google Chromeの既知の脆弱性を利用したエクスプロイトチェーンを短時間で開発した例も報告されている。GLM-5.3の安全対策は「アブリテレーション」と呼ばれる手法で容易に無効化でき、拒否率を90%以上から数%に低下させることが可能である。一方で、これらの高度な能力はサイバー防御者にとっても有益であり、Anthropicは防御者へのClaudeのサイバー能力の安全なアクセス拡大に取り組んでいる。GLM-5.3のようなオープンウェイトモデルの普及は、サイバー攻撃能力の閾値を大きく引き上げるものであり、政府による安全性テストや、AI開発者による適切な安全対策の実施が急務であると結論付けている。
- AnthropicがZhipu AI(Z.ai)の最新モデルGLM-5.3のサイバー攻撃能力を分析した結果を発表。自律的なエンドツーエンドのサイバーエクスプロイト構築能力で、先行モデルClaude Mythos Previewと同等レベルに達している。
- GLM-5.3の安全対策は単純な手法で64%〜100%の確率で回避可能で、悪用を制限する適切な対策なしに公開されている点が問題視されている。
- NISTはGLM-5.3を「これまでにリリースされた中で最もサイバー能力の高いオープンウェイトモデル」と評価し、米国最先端モデルから約4ヶ月遅れとしている。
- GLM-5.3はExploitBenchで410件中50件を達成し、OSS-Fuzzプロジェクトの脆弱性探索では4%の確率で制御フローハイジャックに成功した。
- 人間の専門家との連携により、WebブラウザのJavaScriptエンジンにおける未知の脆弱性を発見してエクスプロイトチェーンを構築し、Google Chromeの既知の脆弱性を利用したエクスプロイトチェーンも短時間で開発した。
- GLM-5.3の安全対策は「アブリテレーション」と呼ばれる手法で容易に無効化でき、拒否率を90%以上から数%に低下させることが可能。
- 高度な能力はサイバー防御者にも有益であり、Anthropicは防御者向けにClaudeのサイバー能力への安全なアクセス拡大に取り組んでいる。
オープンウェイトモデルのサイバー能力が最先端商用モデルに匹敵する水準まで到達し、しかも安全対策が容易に無効化されるというAnthropicの分析は、AIの能力拡散と安全性ガバナンスのギャップを如実に示す。NISTが「最もサイバー能力の高いオープンウェイトモデル」と評価し最先端から約4ヶ月遅れと位置づけた点は、中国勢のキャッチアップ速度と、規制・輸出管理・政府テスト義務化の議論が今後強まると読める材料。投資家的には、防御側のAIセキュリティ需要(AnthropicのClaudeベースの防御アクセス拡大など)が新たな成長領域になる一方、オープンウェイト公開企業には規制・レピュテーションリスクが乗る構図に注目したい。