Cloudflare、AIモデルの過剰利用を特定する「User Insights」の新機能を追加

Cloudflareは、AI利用状況を可視化する「User Insights」に新機能を追加し、AIモデルの過剰利用を特定できるようにした。新機能では、タスクの種類(コーディング、リサーチ、要約など)や、モデルがタスクに対して過剰な能力を持っている可能性のある会話を特定できる。これにより、組織はどのユーザーやエージェントが過剰なモデル利用を牽引しているかを把握し、コストやパフォーマンスの最適化を図ることができる。また、この機能はAI Gatewayユーザーには無料で提供される。さらに、これらのインサイトを活用して、コストを抑えつつ最適なモデルへ自動ルーティングする「Auto Router」のクローズドベータ版も提供開始された。User Insightsは、AI Gatewayのログを非同期で処理し、約1日遅れで分析結果を提供する。