Show HN: エージェント型CUDAカーネルオプティマイザー
Show HN: Agentic CUDA Kernel Optimizer
LangGraphを基盤としたエージェント型CUDAカーネルオプティマイザーは、ワークロード記述からGPU実装を生成します。コード生成、正しさチェック、ベンチマーク、改良の自動サイクルを通じて動作します。エージェントはカーネル実装と起動構成を探索し、GPUプロパティを問い合わせ、NVIDIAのドキュメントを調査して最適化ガイダンスを得たり、Nsight Computeカウンターを検査して次の実験に役立てたりします。各実験は記録され、検証済みの最速実装が保持されます。モデルはカーネルコードとケースごとの起動構成の両方を変更できます。スタンドアロンC++ハーネスはNVRTCでカーネルをコンパイルし、CUDA Driver API経由で起動し、出力を保存します。Pythonは比較と候補選択を処理します。開発はWindows上のRTX 3060 Laptop GPUで行われ、Python 3.12+、NVIDIA GPUと互換性のあるCUDA Toolkit/ドライバ、CMake 3.24+、C++17コンパイラ、OpenAI APIキーが必要です。各セッションはresults/run-NNN/ディレクトリにカーネルソース、リクエスト、入出力データ、モデル/ツールの応答、history.json、summary.jsonを格納します。このオプティマイザーは個々のカーネルを対象とした実験的なものであり、生成された参照カーネルは独立した正しさのオラクルではありません。
- LangGraphを基盤としたエージェント型CUDAカーネルオプティマイザーが公開され、ワークロード記述からGPU実装を自動生成する
- コード生成・正しさチェック・ベンチマーク・改良を自動サイクルで回し、GPUプロパティ照会やNsight Computeカウンター検査、NVIDIAドキュメント調査を通じて最適化を探索する
- NVRTCでコンパイルしCUDA Driver API経由で起動するスタンドアロンC++ハーネスと、比較・候補選択を担うPythonで構成される
- 開発はRTX 3060 Laptop GPU上で行われ、各セッションのカーネルソースや応答履歴をresults/run-NNN/配下に記録・保持する
エージェント型の開発ツールがコード生成から検証・ベンチマーク・改良までを自律ループで回す点は、AIエージェントの適用領域がソフトウェア開発の生産性向上へ広がる流れを示す。ただし本件は個人開発の実験的オープンソースで、商用製品や収益・調達の発表ではなく、GPU最適化というニッチ領域に限定される。生成カーネルが正しさのオラクルにならないと明記されている点も投資評価上は留意が必要で、当面はNVIDIAのCUDAエコシステムに対するAI活用の裾野拡大を示すシグナルとして見るのが妥当。