論文の概要: RLAX: Large-Scale, Distributed Reinforcement Learning for Large Language Models on TPUs

• arxiv url: http://arxiv.org/abs/2512.06392v2
• Date: Thu, 11 Dec 2025 02:38:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-12 14:11:15.175897
• Title: RLAX: Large-Scale, Distributed Reinforcement Learning for Large Language Models on TPUs
• Title（参考訳）: RLAX: TPU上の大規模言語モデルのための大規模分散強化学習
• Abstract要約: 強化学習(RL)は,大規模言語モデル(LLM)の推論能力向上のためのデファクトパラダイムとして登場した。 我々は,TPU 上でスケーラブルな RL フレームワーク RLAX を開発した。 本稿では,多種多様な最先端RLアルゴリズムに対して,スケーラブルでプリエンプティブルなRLを実現するための一連のシステム技術を紹介する。
• 参考スコア（独自算出の注目度）: 40.00633346428162
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reinforcement learning (RL) has emerged as the de-facto paradigm for improving the reasoning capabilities of large language models (LLMs). We have developed RLAX, a scalable RL framework on TPUs. RLAX employs a parameter-server architecture. A master trainer periodically pushes updated model weights to the parameter server while a fleet of inference workers pull the latest weights and generates new rollouts. We introduce a suite of system techniques to enable scalable and preemptible RL for a diverse set of state-of-art RL algorithms. To accelerate convergence and improve model quality, we have devised new dataset curation and alignment techniques. Large-scale evaluations show that RLAX improves QwQ-32B's pass@8 accuracy by 12.8% in just 12 hours 48 minutes on 1024 v5p TPUs, while remaining robust to preemptions during training.
• Abstract（参考訳）: 強化学習(RL)は、大規模言語モデル(LLM)の推論能力を改善するためのデファクトパラダイムとして登場した。 我々は,TPU 上でスケーラブルな RL フレームワーク RLAX を開発した。 RLAXはパラメータサーバアーキテクチャを採用している。 マスタートレーナーは定期的に更新されたモデルウェイトをパラメータサーバにプッシュし、推論ワーカーのフリートは最新のウェイトをプルして新しいロールアウトを生成する。 本稿では,多種多様な最先端RLアルゴリズムに対して,スケーラブルでプリエンプティブルなRLを実現するための一連のシステム技術を紹介する。 収束を加速し、モデル品質を向上させるため、我々は新しいデータセットキュレーションとアライメント技術を開発した。 大規模な評価では、RLAXはQwQ-32Bのパス@8の精度を1024 v5pのTPUでわずか12時間48分で12.8%向上し、トレーニング中のプリエンプションに頑健である。

関連論文リスト

• RLLaVA: An RL-central Framework for Language and Vision Assistants [12.539656504139716]
  マルコフ決定過程(MDP)を定式化した言語・視覚アシスタント(RLLaVA)のためのRL分散フレームワークを提案する。 RLLaVAはモデルアーキテクチャと分散実行からRLアルゴリズムロジックを分離し、研究者が最小限のコードで新しいRLアルゴリズムを実装するのをサポートする。
  論文  参考訳（メタデータ） (2025-12-25T00:09:02Z)
• QeRL: Beyond Efficiency -- Quantization-enhanced Reinforcement Learning for LLMs [80.76334908639745]
  大規模言語モデル(LLM)のための量子化強化学習フレームワークQeRLを提案する。 QeRLは、NVFP4量子化とローランド適応(LoRA)を組み合わせた問題に対処する。 実験によると、QeRLはロールアウトフェーズで1.5倍以上のスピードアップを実現している。
  論文  参考訳（メタデータ） (2025-10-13T17:55:09Z)
• Reinforcement Learning Fine-Tunes a Sparse Subnetwork in Large Language Models [0.0]
  強化学習(Reinforcement Learning, RL)の微調整では、モデルのパラメータの大部分を更新する必要があると仮定されることが多い。 我々はこの現象をRLにより引き起こされるパラメータ更新空間と呼ぶ。 このスパースサブネットワークのみを微調整することで、完全なモデル性能が回復し、完全に微調整されたモデルとほぼ同じパラメータが得られることを示す。
  論文  参考訳（メタデータ） (2025-07-23T01:02:17Z)
• Beyond Accuracy: Dissecting Mathematical Reasoning for LLMs Under Reinforcement Learning [93.00629872970364]
  強化学習(Reinforcement Learning, RL)は, 複雑な推論タスクにおいて, 言語モデルの性能向上のための主要なパラダイムとなっている。 SPARKLE(SPARKLE)は、3つの重要な次元にわたるRLの効果を詳細に解析するフレームワークである。 我々は、RL信号と混合品質の推論トレースを産出しない難題が、依然としてトレーニングに有効であるかどうかを調査する。
  論文  参考訳（メタデータ） (2025-06-05T07:53:59Z)
• RAST: Reasoning Activation in LLMs via Small-model Transfer [33.32587030836428]
  強化学習(RL)は,大規模言語モデル(LLM)の推論能力向上のための強力なアプローチとなっている。 大規模にRLを適用することは、潜在的にリソース集約であり、複数のモデルコピーと広範なGPUワークロードを必要とします。 本稿では、RL学習モデルからRL学習モデルからより大規模なモデルにRL誘導確率調整を注入することにより、推論挙動を伝達する簡易かつ効果的なRASTを提案する。
  論文  参考訳（メタデータ） (2025-05-30T17:57:08Z)
• LlamaRL: A Distributed Asynchronous Reinforcement Learning Framework for Efficient Large-scale LLM Training [32.575669924032276]
  強化学習(RL)は、大規模言語モデル(LLM)の能力向上のための訓練後の最も効果的なアプローチとなっている。 本稿では,LlamaRLについて述べる。LlamaRLは大規模LLMの効率的なトレーニングに最適化された,完全に分散された非同期RLフレームワークである。
  論文  参考訳（メタデータ） (2025-05-29T22:14:15Z)
• AceReason-Nemotron: Advancing Math and Code Reasoning through Reinforcement Learning [50.02117478165099]
  大規模強化学習は, 強大・中小モデルの推論能力を大幅に向上させることができることを示す。 まずは算数のみのプロンプト、次にコードのみのプロンプトのトレーニングを行う。
  論文  参考訳（メタデータ） (2025-05-22T08:50:47Z)
• Echo Chamber: RL Post-training Amplifies Behaviors Learned in Pretraining [74.83412846804977]
  強化学習(RL)に基づく微調整は、訓練後の言語モデルにおいて重要なステップとなっている。 数理推論のためのRLファインタニングを、スクラッチから完全にトレーニングモデルを用いて体系的にエンドツーエンドに研究する。
  論文  参考訳（メタデータ） (2025-04-10T17:15:53Z)
• SRL: Scaling Distributed Reinforcement Learning to Over Ten Thousand Cores [13.948640763797776]
  本稿では,RLトレーニングアプリケーションを汎用フレームワークに統合する,RLトレーニングのデータフローに関する新しい抽象化を提案する。 スケーラブルで効率的で分散的なRLシステムであるReaLly scalableRLを開発した。 SRLは15k以上のCPUコアでRL実験を大規模に実施した初めての学術コミュニティである。
  論文  参考訳（メタデータ） (2023-06-29T05:16:25Z)
• Learning to Prune Deep Neural Networks via Reinforcement Learning [64.85939668308966]
  PuRLは、ニューラルネットワークのプルーニングのためのディープ強化学習ベースのアルゴリズムである。 現在の最先端の手法に匹敵する幅と精度を実現している。
  論文  参考訳（メタデータ） (2020-07-09T13:06:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。