A.I.AI
Show HN: 48GBのMacで104GBのQwen3.8-Flash-Nextを約12トークン/秒で実行
Show HN: Running 104GB Qwen3.8-Flash-Next on 48GB Mac with at ~12 tok/s
YHacker News
AIが原文を翻訳・要約しています
Slotstreamというツールを使用すると、メモリに収まらない104GBのQwen3.8-Flash-Nextモデルを48GBのMacで約12トークン/秒で実行可能です。このモデルはSSDからストリーミングされ、最低8.1GBのメモリで動作します。実行には約110GBの空き容量が必要で、512GBのMacが現実的な最小構成となります。ダウンロードはHugging Faceがボトルネックとなり、高速な接続でも30〜50分かかります。このツールはApple SiliconとmacOS 14以降に対応しており、OllamaやOpenAIのAPIエンドポイントもサポートしています。モデルの重みはMITライセンス、ツール本体はQwenコミュニティライセンスの下で提供されます。
KEY POINTS要点記事から抽出した重要情報
- Slotstreamツールにより、48GBメモリのMacで104GBのQwen3.8-Flash-NextモデルをSSDストリーミングで約12トークン/秒で実行可能。最低8.1GBメモリで動作。
- Apple SiliconとmacOS 14以降に対応し、OllamaやOpenAIのAPIエンドポイントをサポート。モデルの重みはMITライセンス。
CONTEXT文脈編集部による背景整理
本記事は、メモリ容量を超える大規模AIモデルをローカル環境で実行する技術的成果を示しており、AIモデルの推論インフラに関わる投資判断における注目点といえる。特に、48GBメモリのMacで104GBのモデルをSSDストリーミングにより約12トークン/秒で実行可能という点は、エッジ/ローカル推論の実用性向上を示す具体的事象であり、AI推論コスト削減やデバイス上でのモデル実行市場の拡大可能性に関連する。
原文を読むAnalyzed at 2026年9月2日 03:01