論文の概要: Molt: A Scalable PyTorch-Native Training Framework for Agentic Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2607.21653v1
- Date: Wed, 22 Jul 2026 18:06:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 20:58:56.943799
- Title: Molt: A Scalable PyTorch-Native Training Framework for Agentic Reinforcement Learning
- Title(参考訳): Molt: エージェント強化学習のためのスケーラブルなPyTorch-Nativeトレーニングフレームワーク
- Abstract要約: MoltはPyTorchネイティブのトレーニングフレームワークで、そのコストを小さく抑える。
1つの非同期ループはマルチモーダルとミックス・オブ・エキスパートのポリシーを訓練する。
Moltは、最先端のメガトロンベースのスタックに統計的に匹敵する。
- 参考スコア(独自算出の注目度): 56.80047499513455
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agentic reinforcement learning research is constant algorithm modification, new estimators, new pipeline stages, new rollout schemes, and in mainstream frameworks each change threads through layers of trainer, distributed backend, and rollout glue: the cost lands on the researcher at every iteration. Molt is a PyTorch-native training framework built to keep that cost small: a codebase compact and clean enough for a researcher to hold in their head, and for an AI coding assistant to read and reason about in its entirety, so the algorithm flow can be traced and changed end to end. The agent is an ordinary program, and one asynchronous loop trains multimodal and mixture-of-experts policies while never training on a token it did not generate, consistent in tokens, policy versions, and model semantics. Leanness does not cost performance: under a matched, fully asynchronous protocol, Molt is statistically comparable to a state-of-the-art Megatron-based stack. Molt is open source and provides recipes and containers at https://github.com/NVIDIA-NeMo/labs-molt.
- Abstract(参考訳): エージェント強化学習の研究は、一定のアルゴリズム修正、新しい推定器、新しいパイプラインステージ、新しいロールアウトスキーム、メインストリームフレームワークでは、トレーナー層、分散バックエンド、ロールアウトグルーを通じて各スレッドを変更する。
MoltはPyTorchネイティブなトレーニングフレームワークで、そのコストを小さく抑えるために構築されている。コードベースはコンパクトで、研究者が頭を抱えることができる。
エージェントは通常のプログラムであり、1つの非同期ループはマルチモーダルとミックス・オブ・エキスパートのポリシーを訓練するが、生成していないトークンをトレーニングせず、トークン、ポリシーバージョン、モデルセマンティクスに一貫性がある。
一致した完全に非同期なプロトコルの下では、Moltは統計的に最先端のMegatronベースのスタックに匹敵する。
Moltはオープンソースで、https://github.com/NVIDIA-NeMo/labs-molt.comでレシピとコンテナを提供する。
関連論文リスト
- AgentFold: Closed-Loop Agentic Search for Protein Folding Model Design [27.154390712714264]
我々は,折りたたみモデル開発を,実行可能なコードバリアントに対するクローズドループ検索として定式化するフレームワークであるAgentFoldを提案する。
一致した計算予算の下で、AgentFoldは、独立したCodex提案よりも最高のlDDTを7.5%改善する。
結果として生じる介入の痕跡は、反復的な経験的デザインパターンを示す。
論文 参考訳(メタデータ) (2026-08-27T07:38:16Z) - Dynamic Mixture of Latent Memories for Self-Evolving Agents [57.20419419302731]
MoLEMは、動的混合(MoE)に基づく潜在メモリフレームワークの生成混合物である。
我々は、数学、科学、コードドメインにまたがる連続的な学習シーケンスに基づいて、このフレームワークを訓練する。
連続学習を完了した後、Vanilla事前学習ベースラインよりも平均精度を10.40%向上させる。
論文 参考訳(メタデータ) (2026-05-21T03:35:10Z) - ChipMATE: Multi-Agent Training via Reinforcement Learning for Enhanced RTL Generation [55.947962672433675]
ChipMATEは、RTL生成のための最初の自己学習型マルチエージェントフレームワークである。
ChipMATEは産業的な実践に触発され、VerilogエージェントとPythonのリファレンスモデルエージェントをペアにし、相互に出力を検証する。
ChipMATEは、VerilogEval V2で75.0%と80.1%パス@1を4Bと9Bベースモデルで達成している。
論文 参考訳(メタデータ) (2026-05-13T01:04:21Z) - Model Merging: Foundations and Algorithms [4.528573838858818]
この論文はモデルマージを研究し、独立に訓練されたニューラルネットワークを直接重み空間で組み合わせる。
C$2$M$3$は、Frank-Wolfe最適化に基づくサイクル一貫性のマージアルゴリズムである。
マルチタスク設定では、まずタスクベクトルを近似勾配として理論的に記述する。
次に,TSV幾何を用いた入力適応型ルーティング手法であるMASSを提案し,推定時にタスク関連部分空間を選択する。
論文 参考訳(メタデータ) (2026-05-02T19:06:35Z) - MIP Candy: A Modular PyTorch Framework for Medical Image Processing [4.024630879799288]
MIPCandyは医療画像処理に特化したPyTorchベースのフレームワークである。
設計の中心は$textttLayerT$で、畳み込み、正規化、アクティベーションモジュールのランタイム置換を可能にする遅延設定機構である。
MIPCandyはApache-2.0ライセンスの下でオープンソースであり、Python3.12以降を必要とする。
論文 参考訳(メタデータ) (2026-02-24T15:55:04Z) - MDPO: Overcoming the Training-Inference Divide of Masked Diffusion Language Models [28.79185891706149]
拡散言語モデルは、トレーニングと推論の主な相違に悩まされる。
本稿では,マルコフ特性拡散を利用するためのMasked Diffusion Policy Optimization (MDPO)を提案する。
本研究は,MDLMの事前学習と推測の相違を調査するための大きな可能性を見出した。
論文 参考訳(メタデータ) (2025-08-18T17:58:13Z) - MALT: Improving Reasoning with Multi-Agent LLM Training [67.76186488361685]
MALT(Multi-Agent LLM Training)は、推論プロセスを生成、検証、改善ステップに分割する、新しいポストトレーニング戦略である。
MATH、GSM8K、CSQAでは、MALTは、それぞれ15.66%、7.42%、9.40%の相対的な改善で同じベースラインLLMを上回っている。
論文 参考訳(メタデータ) (2024-12-02T19:30:36Z) - Multimodal Learned Sparse Retrieval with Probabilistic Expansion Control [66.78146440275093]
学習検索(LSR)は、クエリとドキュメントを疎語彙ベクトルにエンコードするニューラルネットワークのファミリーである。
テキスト画像検索に焦点をあて,マルチモーダル領域へのLSRの適用について検討する。
LexLIPやSTAIRのような現在のアプローチでは、大規模なデータセットで複雑なマルチステップのトレーニングが必要です。
提案手法は, 密度ベクトルを凍結密度モデルからスパース語彙ベクトルへ効率的に変換する。
論文 参考訳(メタデータ) (2024-02-27T14:21:56Z) - MADiff: Offline Multi-agent Learning with Diffusion Models [79.18130544233794]
MADiffは拡散型マルチエージェント学習フレームワークである。
分散ポリシと集中型コントローラの両方として機能する。
実験の結果,MADiffは様々なマルチエージェント学習タスクにおいて,ベースラインアルゴリズムよりも優れていた。
論文 参考訳(メタデータ) (2023-05-27T02:14:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。