Ollaya – オープンソースでJevスタイルの意思決定モデルを実行
Ollaya – Ollama for open-source, Jev-style decision models
Ollayaは、ローカル環境で意思決定モデルを実行できるオープンソースのプラットフォームです。テキストやJSONに対してタイプされた質問を投げかけ、ミリ秒単位で校正された回答を得ることができます。プライベートで、自身のハードウェア上で動作します。特に、Convai Innovationsの「Laya」モデルは、英語および100以上の言語に対応し、タイプされた意思決定に特化しています。OllayaはTypeSafeのAPIと互換性があり、Python SDKもそのまま利用可能です。ローカル実行により、データはプライベートに保たれ、トークンごとの料金も発生しません。macOS、Windows、Linux、Dockerに対応しており、CPUまたはNVIDIA GPUで高速に動作します。例えば、RTX 4090 GPUでは、5つの質問に対して約10ミリ秒で回答が得られます。
- Convai Innovationsの「Laya」モデルを搭載し、英語および100以上の言語に対応したタイプ入力ベースの意思決定モデルを、ローカル環境で実行できるオープンソースプラットフォームOllayaが公開された。
- テキストやJSONに対して質問を投げ、ミリ秒単位で校正された回答を取得でき、RTX 4090 GPUでは5つの質問に約10ミリ秒で応答するとされる低レイテンシ性能が示されている。
- macOS、Windows、Linux、Dockerに対応し、CPUまたはNVIDIA GPUで動作。TypeSafeのAPIと互換性を持ち、Python SDKをそのまま利用可能。ローカル実行によりデータはプライベートに保たれ、トークン単位の課金も発生しない。
オープンソースでローカル実行可能な意思決定モデル基盤の登場は、推論コストとデータ主権を武器にエッジ/オンプレ推論市場を開拓しうる点が注目に値する。RTX 4090で5問あたり約10ミリ秒という低レイテンシは実用域であり、NVIDIA GPU需要を前提とする構成は半導体サイドにも波及する。一方、モデル名「Laya」や開発元「Convai Innovations」の実体・商用採用状況は記事からは確認できず、収益化や導入実績の裏付けが乏しいため、投資判断には追加の検証が必要。API互換性とPython SDK対応は既存開発者を取り込みやすい設計で、エコシステム形成の巧拙が成否を分けると見る。