MiniMax M2におけるエージェント汎化の再考:何へのアラインメントか?

LLMエージェントは、特定のフレームワークでは優秀でも、別の環境では機能しないという課題を抱えている。このベンチマーク性能と実用性のギャップを解消するため、M2は「オープンソースベンチマークでの卓越」と「実世界への堅牢な汎化」という2つの目標を掲げた。特に後者について、エージェントの思考プロセスがタスクの途中で随時行われる「インターリーブドシンキング」が重要であると結論付けた。これは、長期間タスクにおける集中維持と、外部からの予期せぬ変化(ツールの出力など)への適応に不可欠である。当初はツールの数を増やすことで汎化能力を高めようとしたが、プロンプトや環境、ツールの応答など、操作空間全体での摂動への適応が真の汎化には必要であると第二の結論に至った。この理解に基づき、M2はデータパイプラインを改善し、あらゆるステップでの摂動に対して安定したモデルを訓練した結果、未知の環境でも高い性能を示した。