Public AI、Hugging Faceの推論プロバイダーとしてサポート開始
Public AI on Hugging Face Inference Providers 🔥
Public AIがHugging Face Hubの推論プロバイダーとしてサポートされた。これにより、Hugging Faceのモデルページから直接、サーバーレス推論を利用できるようになった。Public AIは、スイスAIイニシアチブやAIシンガポールなどの公共AIモデル開発者を支援する非営利のオープンソースプロジェクトである。その推論ユーティリティは、vLLMベースのバックエンドと、複数のパートナーにわたる耐障害性を持つデプロイメントレイヤーを組み合わせた分散インフラストラクチャ上で動作する。推論はOpenAI互換APIを公開するvLLMサーバーによって処理され、グローバルなロードバランシングレイヤーを通じて効率的にリクエストがルーティングされる。無料アクセスは寄付されたGPU時間と広告補助金によって支えられ、長期的な安定性は国家および機関からの貢献によって確保される予定である。現在、Hugging Face経由でのPublic AI推論ユーティリティの利用は無料だが、価格と利用可能性は変更される可能性がある。PROユーザーは毎月2ドルの推論クレジットが付与される。
- Public AIがHugging Face Hubの推論プロバイダーとしてサポート開始
Public AIがHugging Faceの推論プロバイダーに加わったことで、オープンソースAIモデルの推論インフラがより民主化される可能性がある。非営利かつ分散型の推論レイヤーは、営利クラウドベンダーによるAIインフラ寡占に対抗する動きであり、中長期的にはAI推論の価格競争やエコシステムの多様化につながる可能性がある。ただし現時点では無料提供であり、直接的な収益モデルは不明。PROユーザー向けの2ドルクレジット付与は小規模な収益化の試みとして注目だが、持続可能性は今後の国家・機関からの貢献次第。