論文の概要: DART: Distributional Adversarial Recurrent Training for Algorithm Learning
- arxiv url: http://arxiv.org/abs/2609.05988v1
- Date: Sat, 05 Sep 2026 09:12:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.176087
- Title: DART: Distributional Adversarial Recurrent Training for Algorithm Learning
- Title(参考訳): DART: アルゴリズム学習のための分散逆数反復訓練
- Abstract要約: リカレント推論モデル(RRM)は構造化された問題を解くことができ、隠れた空間における反復的な計算によって容易に一般化できる。
これらのモデルは典型的にはインスタンスレベルの監視で訓練されるが、タスクの難しさが増大するにつれて、ますます問題になる。
本稿では,単一点監視をローカルな目標分布に置き換える訓練フレームワークDARTを提案する。
- 参考スコア(独自算出の注目度): 1.6874375111244329
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recurrent reasoning models (RRMs) can solve structured problems, achieving easy-to-hard generalization through iterative computation in hidden space. These models are typically trained with instance-level supervision, which becomes increasingly problematic as task difficulty grows: valid solutions occupy a tiny region of the solution space, while invalid solutions proliferate rapidly. We propose Distributional Adversarial Recurrent Training (DART), a training framework that replaces single-point supervision with a local target distribution around the ground-truth solution and aligns model outputs with this distribution through an adversarial objective. DART provides a richer learning signal and encourages more stable iterative trajectories toward valid solutions. When evaluated on Maze, Chess, and masked Sudoku with multiple RRMs, including Deep Thinking Systems and Tiny Recursive Models, DART improves solution quality, stability, and robustness under the evaluated distribution shifts. Comparisons with label smoothing, Gaussian softened targets, and progressive training show that DART is not explained by target softening alone and is complementary to training schemes that stabilize long-horizon recurrence. These results identify DART as a promising approach for improving robustness across the evaluated recurrent reasoning models.
- Abstract(参考訳): リカレント推論モデル(RRM)は構造化された問題を解くことができ、隠れた空間における反復的な計算によって容易に一般化できる。
これらのモデルは典型的にはインスタンスレベルの監視で訓練されるが、タスクの難しさが増大するにつれて問題が増え、有効なソリューションがソリューション空間の小さな領域を占有する一方で、無効なソリューションは急速に増殖する。
本稿では,DART(Distributal Adversarial Recurrent Training)を提案する。DARTは,単一点の監視を地道付近の局所的な目標分布に置き換え,モデル出力を逆向きの目的によってこの分布に整合させるトレーニングフレームワークである。
DARTはより豊かな学習信号を提供し、有効解に対するより安定した反復軌道を奨励する。
Maze, Chess, and masked Sudoku with multiple RRMs, including Deep Thinking Systems and Tiny Recursive Models, DART improves solution quality, stability, and robustness under the evaluation distribution shifts。
ラベル平滑化,ガウス軟化ターゲット,プログレッシブトレーニングとの比較から,DARTは標的軟化単独では説明されず,長軸再発を安定化させるトレーニングスキームと相補的であることが示された。
これらの結果は、DARTを、評価された再帰的推論モデルにおけるロバスト性を改善するための有望なアプローチであるとみなしている。
関連論文リスト
- Learning Discrete Decisions for MIPs with Constraint-Aware Diffusion [40.25954048196068]
本稿では,混合整数最適化問題の事例を大まかに解くための,学習に基づく新しい手法を提案する。
提案手法は,混合整数最適化問題の離散成分を学習するグラフベース生成拡散モデルに依存する。
Constrained Graph Diffusion (CGD) という名前のフレームワークは問題に依存しず、様々な混合整数最適化問題に対応できる。
論文 参考訳(メタデータ) (2026-08-13T10:46:18Z) - Focus When Necessary: Adaptive Routing and Collaborative Grounding for Training-Free Visual Grounding [56.38477453373368]
LazyMCoTは動的でトレーニング不要なフレームワークで、サンプルの難易度に基づいて視覚的接地作業を適応的に割り当てる。
LazyMCoTは、推論精度を同時に改善し、平均推論レイテンシを低減することで、トレーニングベースのアプローチと競合する。
論文 参考訳(メタデータ) (2026-06-15T03:17:44Z) - TD-Grokking: Learning from Zero-Reward Problems by Training-Time Decomposition [10.882920019894451]
ゼロ逆問題に対する学習時間分解フレームワークTD-Grokkingを提案する。
TD-Grokking はバニラGRPO と全てのベースラインアプローチに優れることを示す。
論文 参考訳(メタデータ) (2026-06-03T06:40:04Z) - Better, Faster: Harnessing Self-Improvement in Large Reasoning Models [88.9107786925265]
本稿では,2つの単純なyet- Effectiveアプローチにより,大規模推論モデルにおける自己改善を効果的に促進するHSIRを提案する。
具体的には、HSIRはデータの不均衡を軽減するために、検証済みの外部サンプリング戦略を導入する。
HSIRはまた、望ましくないソリューションを定量化しフィルタリングするために、固有の多様性スコアも設計している。
論文 参考訳(メタデータ) (2026-05-24T10:54:46Z) - DiffusionOPD: A Unified Perspective of On-Policy Distillation in Diffusion Models [55.01951088768769]
DiffusionOPDはオンライン政策蒸留(OPD)に基づく拡散モデルのための新しいマルチタスクトレーニングパラダイムである
本研究では,DiffusionOPDがトレーニング効率と最終性能において,マルチリワードRLとカスケードRLのベースラインを一貫して上回っていることを示す。
論文 参考訳(メタデータ) (2026-05-14T16:49:09Z) - StepHint: Multi-level Stepwise Hints Enhance Reinforcement Learning to Reason [29.18375308269387]
検証可能な報酬を用いた強化学習(RLVR)は、大規模言語モデル(LLM)の推論能力を向上させるための有望なアプローチである。
我々は,モデルがより効率的に解空間を探索するのを助けるために,多段階のヒントを利用する新しいRLVRアルゴリズムであるStepHintを提案する。
ヒントを提供することで、StepHintはニアミス報酬問題を緩和し、トレーニング効率を向上させる。
論文 参考訳(メタデータ) (2025-07-03T17:51:06Z) - Distributionally Robust Reinforcement Learning with Interactive Data Collection: Fundamental Hardness and Near-Optimal Algorithm [14.517103323409307]
Sim-to-realのギャップは、トレーニングとテスト環境の相違を表している。
この課題に対処するための有望なアプローチは、分布的に堅牢なRLである。
我々は対話型データ収集によるロバストなRLに取り組み、証明可能なサンプル複雑性を保証するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-04-04T16:40:22Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - Learning What to Defer for Maximum Independent Sets [84.00112106334655]
本稿では,各段階における解の要素的決定を学習することにより,エージェントが適応的に段階数を縮小あるいは拡張する,新たなDRL方式を提案する。
提案手法を最大独立集合(MIS)問題に適用し、現状のDRL方式よりも大幅に改善したことを示す。
論文 参考訳(メタデータ) (2020-06-17T02:19:31Z) - Global Distance-distributions Separation for Unsupervised Person
Re-identification [93.39253443415392]
既存の教師なしのReIDアプローチは、距離ベースのマッチング/ランク付けを通じて正のサンプルと負のサンプルを正しく識別するのに失敗することが多い。
本研究では,2つの分布に対する大域的距離分布分離の制約を導入し,大域的視点から正と負のサンプルを明確に分離することを奨励する。
本研究では,本手法がベースラインを大幅に改善し,最先端の性能を実現することを示す。
論文 参考訳(メタデータ) (2020-06-01T07:05:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。