Nemotronプレトレーニングのためのタスクシード合成Q&A生成

Nemotronファミリーのトレーニング用に、タスクシード合成Q&A生成ワークフローが開発された。このワークフローは、広範な公開タスクファミリーのトレーニングスプリットを能力シードとして使用し、新しいタスク整合性のある例を生成し、推論と関連知識でそれらを強化し、キュレーションされた合成データセットにフィルタリングする。Nemotron-3 Nanoモデルの100Bトークン継続実験では、タスクシード合成Q&A生成(SDG)により、MMLU-Proが+1.8、平均コードが+1.9、常識理解が+1.6、GPQAが+11.1向上し、平均数学は安定した。この手法は、知識集約型タスクと推論集約型タスクの両方をカバーし、転移学習を通じてタスクファミリー間の再利用可能な行動を強化することを目指している。特に、推論やタスク関連の知識で強化されたコンテキスト付きの回答は、モデルのパフォーマンスを向上させることが示された。