grepは万能か?エージェントハーネスがエージェント検索を再構築する方法
Is Grep All You Need? How Agent Harnesses Reshape Agentic Search
大規模言語モデル(LLM)エージェントの進歩により、モデルが自律的に情報を取得し、ツールを呼び出し、大規模コーパス上で推論を行うことで、ユーザーに代わってタスクを完了する複雑なエージェントワークフローが可能になった。エージェント検索システムにおけるRetrieval-Augmented Generation(RAG)の採用が増加しているにもかかわらず、既存の文献では、検索戦略の選択がエージェントアーキテクチャやツール呼び出しパラダイムとどのように相互作用するかについての体系的な比較が不足している。ツール出力がモデルにどのように提示されるか、検索がより多くの無関係な周辺テキストに対処する必要がある場合にパフォーマンスがどのように変化するかといった重要な実践的側面は、エージェントループにおいて十分に探求されていない。本稿では、2つの実験からなる経験的研究を報告する。実験1では、LongMemEvalの116の質問サンプルに対し、カスタムエージェントハーネス(Chronos)とプロバイダーネイティブCLIハーネス(Claude Code、Codex、Gemini CLI)を使用して、インラインツール結果とファイルベースツール結果の両方について、grepとベクトル検索を比較する。実験2では、grepのみとベクトルのみの検索を比較し、徐々に関連性のない会話履歴を混入させることで、各クエリが、重要なパッセージの隣に追加の気を散らす材料に埋め込まれるようにする。ChronosとプロバイダーCLI全体で、grepは実験1の比較において一般的にベクトル検索よりも高い精度をもたらすが、基盤となる会話データが同じであっても、全体的なスコアは依然として使用されるハーネスとツール呼び出しスタイルに強く依存する。
- grepはベクトル検索よりも高い精度を示したが、使用するハーネスやツール呼び出しスタイルに結果が強く依存することが判明
本稿はエージェント検索における検索戦略(grep vs ベクトル検索)とエージェントハーネス(Chronos, Claude Code, Codex, Gemini CLI)の相互作用を実証的に比較した研究である。grepが一般的にベクトル検索より高い精度を示す一方で、使用するハーネスやツール呼び出しスタイルによって結果が大きく変わる点は、LLMエージェントの検索アーキテクチャ設計の実務に重要な示唆を与える。エージェント検索の性能がツール実装の詳細に依存するという知見は、AIエージェント製品の品質差別化要因として注視すべきである。