Hugging Face HubでSQLコンソールが利用可能に、データセットを直接クエリ可能に
Introducing the SQL Console on Datasets
Hugging Faceは、同社のHub上で提供するデータセットに対して直接SQLクエリを実行できる「SQLコンソール」を発表した。この機能はDuckDB WASMを基盤としており、ブラウザ上で完結するため依存関係なしに利用できる。SQLコンソールでは、DuckDBのフル構文がサポートされ、クエリ結果はParquet形式でエクスポート可能。また、公開データセットであればクエリ結果をリンクで共有することもできる。ほとんどのデータセットはParquet形式で保存されているが、他の形式の場合でも最初の5GBは自動的にParquetに変換される。この機能は、特に大規模言語モデル(LLM)のファインチューニングなどでデータ形式を変換する際に、Pythonによる前処理ステップを代替し、効率的なデータ操作を可能にする。例えば、Alpacaデータセットを対話形式に変換する例が紹介されている。メモリ制限は約3GBだが、フィルタリングやLIMIT句の使用で対応可能。現時点ではhf://プロトコルには非対応。
- Hugging FaceがHub上のデータセットにSQLクエリを実行できる「SQLコンソール」を発表
Hugging FaceがHub上でSQLコンソールを提供開始したことは、ML/AIデータ準備のワークフローを大幅に効率化する。従来Pythonスクリプトが必要だったデータセットのフィルタリング・変換・エクスポートがブラウザ上で完結し、LLMファインチューニング前処理の障壁が下がる。DuckDB WASMを採用し依存関係ゼロで動作する点も、Hugging Faceのプラットフォームとしての粘着力を高め、AI開発におけるデータ基盤の標準化をさらに進める動きと評価できる。