A.I.AI
NVIDIAとIIT Madras、インド22言語に対応する2.8兆トークンの事前学習コーパスとオープン生成パイプラインを発表
Scaling Indic Pretraining: 2.8 Trillion Tokens and an Open Data Generation Pipeline
HFHugging Face
AIが原文を翻訳・要約しています
NVIDIAとインド工科大学マドラス校のAI4Bharatは、インド憲法に記載された22言語を網羅する約2.8兆トークンの事前学習コーパス「Nemotron-pretraining-Indic-v1」とGPU高速化データ生成パイプラインの公開を発表した。コーパスは2兆6,010億トークンの固有文字データと2,246億トークンのローマ字転写データ(12言語対応)で構成され、NeMo Data DesignerとGemma-4-31B-it等を用いて英語文書を翻訳・評価・修復している。このデータを継続事前学習(CPT)に適用したNemotron 3.5 Super VLは、MILUやIndic MMLU-Proなどの推論・知識ベンチマークで4.98〜9.82ポイントの性能向上を達成した。
KEY POINTS要点記事から抽出した重要情報
- NVIDIAとインド工科大学マドラス校のAI4Bharatが、インド22言語を網羅する約2.8兆トークンの事前学習コーパス「Nemotron-pretraining-Indic-v1」とGPU高速化データ生成パイプラインを公開した。
- 新データを継続事前学習に適用したNemotron 3.5 Super VLは、MILUやIndic MMLU-Proなどの推論・知識ベンチマークで4.98〜9.82ポイントの性能向上を達成した。
CONTEXT文脈編集部による背景整理
NVIDIAがインド市場向けに22言語対応の大規模コーパスと生成パイプラインを整備・公開したことは、急成長する同国AIエコシステムにおける同社プラットフォーム(NeMo等)の浸透とハードウェア需要の定着を後押しする戦略的動きです。
原文を読むAnalyzed at 2026年10月16日 11:02