SlopShape: AI生成された商用ウェブコンテンツを構造のみで識別するモデル
Show HN: Training a model to identify AI web content from structure alone
本研究では、AI生成コンテンツを単語レベルではなく、情報提示の順序、証拠、声の調子といった構造的特徴から識別する「SlopShape」という手法を提案する。ChatGPT以前の2,250件の人間によるブログ投稿と、5つの最先端モデルによって生成された11,250件のAIミラーコンテンツを比較した。214の特徴量を持つインストゥルメントをLLMで適用し、人間によるアノテーションで検証した結果、AI投稿を構造的特徴のみで98.0のマクロF1スコアで検出できた。このスコアは、AI投稿をリライトしても98.1と変化しなかった。AI投稿は整然とした自己言及的な形状を持ち、79.3%が正しいソースに帰属された。この手法は、AI生成コンテンツの識別と属性特定に有効であり、人間が作成した投稿は稀な構造的構成を占めることが示された。研究チームは、パイプライン、インストゥルメント、プロンプト、コード、および集計アーティファクトを公開する。
- AI生成コンテンツを単語ではなく構造的特徴から識別する手法「SlopShape」を提案し、AI投稿を98.0のマクロF1で検出した。
- ChatGPT以前の人間によるブログ投稿2,250件と、5つの最先端モデルが生成したAIミラーコンテンツ11,250件を比較した。
- 214の特徴量を持つインストゥルメントをLLMで適用し、人間のアノテーションで検証。AI投稿をリライトしてもスコアは98.1とほぼ変わらなかった。
- AI投稿の79.3%が正しいソースに帰属され、人間が作成した投稿は稀な構造的構成を占めることが示された。
- 研究チームはパイプライン、インストゥルメント、プロンプト、コード、集計アーティファクトを公開した。
AI生成コンテンツの検出を「単語」ではなく「構造」で行う研究で、98.0という高いマクロF1を達成し、リライト後も98.1と性能が落ちない点が重要。モデル出力の微修正では回避できない検出軸を示しており、コンテンツ真正性・帰属(79.3%が正しいソースに帰属)は、検索・広告・パブリッシャー・プラットフォームの信頼性担保やAI開示規制対応の技術基盤になり得る。パイプラインやコードを公開しているため、こうした検出技術を取り込むSEO/コンテンツ管理・モデレーション・AIガバナンス系ベンダーへの波及に注目したい。