Laya (OS Jev) on Mac M4 CoreML Offline (45 decisions per second)
Laya (OS Jev) on Mac M4 CoreML Offline (45 decisions per second)
LayaがMac M4 CoreMLオフラインで動作し、毎秒45回の推論が可能であることが示されています。GitHub Desktopで利用可能なordnox/e592d0f68b543fd044be8e6d040863a0ファイルを使用し、ターミナルコマンド(mkdir test-laya, cd test-laya, uv init, uv add 'laya-coreml[demo]', hf download aac6fef/laya-multilingual-coreml-ane --local-dir models/snake, uv run laya-coreml-snake --model models/snake)を通じてセットアップと実行が行われます。
- AIモデルLayaがMac M4のCoreML(Apple Neural Engine)上でオフライン動作し、毎秒45回の推論を達成した
- 実装手順と重みがGitHubおよびHugging Faceで公開され、uv経由のコマンドで再現可能な形で提供されている
AIモデル「Laya」がMac M4上でCoreML/ANEを使いオフライン・オンデバイスで毎秒45回の推論を実現した点は、クラウド推論コストに依存しない端末側AIの実用性が一段上がったことを示す。モデル・重み・デモ一式がHugging FaceとGitHub経由で即時入手・実行できる形で公開されており、オープンウェイトのエッジAIエコシステムがApple Siliconへ急速に広がる兆候として、オンデバイス推論を手掛ける企業やApple系サプライチェーンの競争環境を占う材料になる。ただし現時点ではデモ公開の域を出ず、商用契約や性能ベンチマークの第三者検証は示されておらず、投資判断には追加情報が必要。