KVキャッシュを購入できますか?

AIエージェントがドキュメントを処理する際に、各エージェントが独立してプリフィル計算を行い、同一のKVキャッシュを再計算している非効率性を指摘。提案として、発行元がKVキャッシュを事前に計算し、他のエージェントがそのロード権を購入することでプリフィル計算をスキップする仕組みを提唱。この方法により、計算コストを大幅に削減できる(Qwen3-4Bで9-50倍の効率化)。KVキャッシュは圧縮が難しいため、プロバイダー側でホスティングすることで、ロード時のデータ転送コストを削減。人気のあるドキュメントの場合、プリフィル計算に約150万ドルかかるのに対し、KVキャッシュの再利用では約3万ドルで済む計算になる。API料金体系を考慮しても、ユーザーには10倍の割引が提供され、プロバイダー側にも利益が生まれる可能性がある。この仕組みを「エージェントネイティブ・プリフィルCDN」と位置づけ、KVキャッシュのロスレス圧縮とクロスパーティ決済レイヤーを今後の課題としている。