Rustで安全かつデータ競合のないGPUカーネルを記述するタイルベースシステム「cuTile Rust」が公開
Show HN: cuTile Rust: Safe, data-race-free GPU kernels in Rust
cuTile Rust (cutile-rs) は、Rust言語でメモリ安全かつデータ競合のないGPUカーネルを記述するためのタイルベースシステムです。Rustの所有権規律をGPU起動境界を越えて拡張し、ミュータブルテンソルは起動前に分割され、イミュータブルテンソルは共有されます。#[cutile::module]マクロは、ホストバイナリにカーネルのRust ASTを埋め込み、必要に応じてCUDA Tile IR経由でJITコンパイルされます。NVIDIA B200での要素ごとの操作で7 TB/s、GEMMで2 PFlop/sを達成し、cuBLASに匹敵する性能を示しています。また、Hugging Faceとの共同開発によるQwen3推論エンジン「Grout」もcuTile Rustで構築されており、RTX 5090やB200でSOTA性能を達成しています。本プロジェクトは研究段階であり、活発に開発が進められています。
- cuTile Rustが公開され、NVIDIA B200でのGEMMで2 PFlop/sを達成しcuBLASに匹敵する性能を示した
- Hugging Faceとの共同開発によるQwen3推論エンジン「Grout」がcuTile Rustで構築され、RTX 5090やB200でSOTA性能を達成
cuTile Rustは、Rustのメモリ安全性をGPUカーネル開発に拡張する画期的な技術であり、NVIDIA B200でcuBLASに匹敵する性能(GEMMで2 PFlop/s)を達成している点が注目に値する。特に、Hugging Faceとの共同開発でQwen3推論エンジン「Grout」に採用され、RTX 5090やB200でSOTA性能を達成していることは、実用性の高さを示している。研究段階ではあるが、GPUプログラミングのパラダイムを変える可能性があり、半導体・AI領域のインフラ技術として独自のポジションを築く可能性がある。今後の正式リリースとエコシステムの拡大に注目したい。