Castform、100倍安価なオープンモデルで検索性能をGPT-5.6 Sol超えに
Beating GPT-5.6 Sol on retrieval with 100x cheaper open models
Castformは、オープンソースモデルをRL(強化学習)でポストトレーニングし、GPT-5.6 Solのような最先端モデルを検索タスクで凌駕する技術を発表した。この技術は、既存の企業データを活用し、データエンジニアリングや機械学習の専門知識なしに、モデルの検索能力を向上させることを目指している。NeonのPostgresデータベースとLakebase Searchを連携させ、文書の保存、合成データ生成、RLトレーニング、本番推論の各段階で効率的な検索を実現する。従来のマルチホップ検索は高コスト・高遅延だったが、Castformは低コストなオープンモデルを活用することで、1リクエストあたり数セントのコストと10秒以上の遅延を大幅に削減する。Neonの動的コンピューティングスケーリングは、トレーニング中のバースト的なワークロードに対応し、コスト効率を高める。また、Neonのブランチング機能は、状態を持つエージェントのトレーニングに必要な、安価で隔離されたデータベース環境を提供する。
- CastformがオープンソースモデルをRLでポストトレーニングし、検索タスクでGPT-5.6 Solを凌駕する性能を約100倍安価なコストで実現したと発表
- NeonのPostgresデータベースとLakebase Searchを連携し、文書保存・合成データ生成・RLトレーニング・本番推論の各段階で効率的な検索を実現
- 1リクエストあたり数セントのコストと10秒以上の遅延を大幅に削減し、従来のマルチホップ検索の高コスト・高遅延課題を解決
本記事は、オープンソースモデルをRLポストトレーニングで強化するCastformの技術が、検索タスクにおいてGPT-5.6 Solのような最先端モデルを凌駕しつつ、コストを大幅に削減する点に投資価値がある。特に、モデル性能を「価格対性能比」で競争するトレンドが加速する中、既存の企業データを活用して専門知識なしに検索能力を向上させるアプローチは、エンタープライズ向けAI市場での差別化要因となり得る。さらに、NeonのPostgresおよび動的コンピューティングスケーリングを活用したインフラ連携は、AIスタートアップとデータベース基盤企業の相互成長を示唆しており、エコシステム全体の投資機会として注目に値する。