TypeSafe AI、Jevモデルを発表:従来のLLMより40~200倍高速、40~400倍安価な新クラスのフロンティアモデル
Jev: New frontier model 40-400x cheaper and 20-200x faster
TypeSafe AIは、ソフトウェアが直接利用できる高速な構造化決定を行う新クラスのフロンティアモデル「System One Model」を発表した。その最初のモデルである「Jev」は、既存のLLMと同等の知能を持ちながら、2桁高速かつ効率的である。Jevは文字列生成を諦め、構造化出力に特化し、幻覚(ハルシネーション)を起こさない。新しいモデルアーキテクチャ、並列サンプラー、RLCD(Reinforcement Learning for Calibrated Decisions)と呼ばれる学習手法を採用している。従来のLLMが人間からのフィードバックや検証可能な報酬を最適化するのに対し、JevはSystem Oneタスクにおける確からしい確率を持つ決定を最適化する。コスト面では、従来のLLMがトークンあたり0.20ドルから10ドルかかるのに対し、Jevは入力トークンあたり0.042ドルで、出力トークンはほぼ無料である。速度面では、従来のLLMが3秒から329秒かかるのに対し、Jevは70ミリ秒から500ミリ秒で、40倍から200倍高速である。Jevは、AI駆動ワークフローやスマートIF文として、従来のソフトウェアに組み込むことができる。また、DoomやWikiracingといった新しいユースケースの実現も示唆されている。現在、Jevは早期アクセスで提供されており、開発者からのフィードバックを求めている。
- TypeSafe AI が新クラスのフロンティアモデル「System One Model」とその第1弾「Jev」を発表し、早期アクセスで提供開始した。
- Jev は既存 LLM 比で 40〜200 倍高速、コストも 40〜400 倍安価とされ、入力トークン 0.042 ドル・出力トークンはほぼ無料という価格体系を示す。
- 文字列生成を放棄し構造化出力に特化することでハルシネーションを起こさず、ソフトウェアに直接組み込める「スマートIF文」としての利用を想定している。
- 新モデルアーキテクチャ、並列サンプラー、RLCD(Reinforcement Learning for Calibrated Decisions) と呼ぶ学習手法を採用し、System One タスクでの較正された確率を持つ決定を最適化する。
TypeSafe AI の「Jev」は、文字列生成を捨てて構造化出力に特化し、LLM比40〜200倍高速・出力トークンほぼ無料という価格体系を提示した点が注目に値する。幻覚を起こさずソフトウェアに直接組み込める「System One Model」という新カテゴリは、LLM推論コストが導入障壁となっている企業システムやエージェント用途の置き換え需要を取り込む可能性がある。ただし現時点は早期アクセス提供に留まり、性能の第三者検証や採用実績、収益モデルは未確認であり、投資判断には今後のベンチマーク公開と商用展開の進展を待つ必要がある。