Cohere、Hugging Face Inference Providers に対応開始

CohereがHugging Face Hubのインファレンスプロバイダーとしてサポート開始した。これは、モデル作成者が自身のモデルをHub上で共有・提供する初の事例となる。Cohereはエンタープライズ向けのAIソリューションを提供しており、Generative AI、Embeddings、Rankingモデルなどが含まれる。今回、CohereLabs/c4ai-command-r-v01、CohereLabs/c4ai-command-r-plus、CohereLabs/c4ai-command-r-08-2024、CohereLabs/c4ai-command-r7b-12-2024、CohereLabs/c4ai-command-a-03-2025、CohereLabs/aya-expanse-8b、CohereLabs/aya-expanse-32b、CohereLabs/aya-vision-8b、CohereLabs/aya-vision-32bといったモデルがサーバーレスインファレンスで利用可能になった。特に、CohereLabs/c4ai-command-a-03-2025は256kのコンテキスト長、23言語対応、検証可能な引用付きRAG、エージェントツール利用、エンタープライズグレードのセキュリティを備える。CohereLabs/aya-expanse-32bは多言語対応に特化し、128Kのコンテキスト長を持つ。CohereLabs/c4ai-command-r7b-12-2024は低コスト・低遅延用途に適しており、128kのコンテキスト長、多言語対応、RAG、推論、ツール利用、エージェント機能を提供する。CohereLabs/aya-vision-32bは320億パラメータのマルチモーダルモデルで、OCR、キャプション生成、画像理解、コード生成などに最適化されている。これらのモデルはHugging Face HubのUIまたはクライアントSDKから利用可能で、Pythonのhuggingface_hubライブラリやJavaScriptのHfInference、OpenAIクライアントライブラリ経由での利用方法も示されている。ツール利用の例も紹介されており、API連携などが可能。Hugging Face PROユーザーは毎月2ドルのインファレンスクレジットが付与される。