OpenAI、新しいオープンソースモデルファミリー「GPT OSS」を発表

OpenAIは、Apache 2.0ライセンスで提供される新しいオープンソースモデルファミリー「GPT OSS」を発表しました。このモデルは、21Bおよび117Bの総パラメータ数(3.6Bおよび5.1Bのアクティブパラメータ)を持ち、4ビット量子化(mxfp4形式)を採用しています。推論、テキスト生成、指示追従、ツール利用をサポートし、transformers、vLLM、llama.cpp、ollamaなどの推論フレームワークと互換性があります。Hugging FaceのInference Providersサービスを通じてAPIアクセスが可能で、ローカルでの推論やファインチューニングもサポートされています。特に、Hopper GPUではmxfp4とFlash Attention 3の併用、AMD Instinct MI300シリーズではMegaBlocks MoEカーネルによる高速化が可能です。モデルの出力は「analysis」と「final」のチャンネルに分かれており、通常は「final」チャンネルの内容のみがユーザーに表示されます。評価時には、推論トレースを除外するために適切な生成サイズと後処理が必要です。