論文の概要: Does This Action Still Explain the Task? Reverse Scoring for Diffusion Language Model Agents
- arxiv url: http://arxiv.org/abs/2609.38536v1
- Date: Tue, 29 Sep 2026 20:54:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.729854
- Title: Does This Action Still Explain the Task? Reverse Scoring for Diffusion Language Model Agents
- Title(参考訳): この行動は依然としてタスクを説明するか?拡散言語モデルエージェントのリバース・スコーリング
- Abstract要約: 拡散ベースの大規模言語モデル(dLLM)は、並列デコーディングを通じて自動回帰エージェントのシーケンシャル遅延ボトルネックを壊すことを約束する。
最近の評価では、この効率はエンボディード・エージェント・コンピテンスに移行しない。
我々は、この失敗とトレーニングなしの治療法について、機械学的に説明します。
- 参考スコア(独自算出の注目度): 25.947103954467874
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion-based large language models (dLLMs) promise to break the sequential latency bottleneck of autoregressive agents through parallel decoding, but recent evaluations show this efficiency does not transfer to embodied agentic competence: dLLM-backed agents repeatedly fall into retry loops, re-issuing an action long after it has failed. We give a mechanistic account of this failure and a training-free remedy. We trace the retry loop to the adaptivity of masked decoding: the sampler commits the positions it is most confident about and defers the uncertain ones, and at a failure state the context already offers a confident fill for the deferred decision, i.e. the failed action itself, so the retry is committed without the failure feedback ever being confronted. We model the resulting distortion of the action distribution as a task-blind corruption: contextually salient actions (e.g., the action just taken) receive inflated probability by a factor that depends on the state and the action but not on the task. Under this model, we analyse an invariance proposition: the task-blind factor cancels exactly from the reverse conditional, i.e. the likelihood of the task given the state and a candidate action, which coincides with the task posterior of an idealized uncorrupted model. Masked dLLMs evaluate the reverse conditional natively, unlike autoregressive models, by masking the task tokens and denoising, at the cost of a few parallel passes per candidate. We instantiate the rule as Reflect Reverse and evaluate it on four multi-turn embodied benchmarks, where it improves task success and progression rates over forward-scoring baselines.
- Abstract(参考訳): 拡散ベースの大規模言語モデル(dLLM)は、並列デコーディングによって自動回帰エージェントのシーケンシャルレイテンシのボトルネックを突破することを約束するが、最近の評価では、この効率はエンボディエージェント能力に移行しない。
我々は、この失敗とトレーニングなしの治療法について、機械学的に説明します。
我々は、再試行ループをマスクされた復号の適応性に追従する: サンプリング者は、最も自信のある位置をコミットし、不確実な位置を無視する。
動作分布の歪みをタスクブラインドの汚損としてモデル化する: 状況に応じて健全な動作(例えば、アクションが取られた)は、状態や動作に依存するがタスクに依存しない要因によって膨らませられた確率を受ける。
このモデルでは,タスクブラインド係数が逆条件から正確にキャンセルされる,すなわち与えられたタスクの確率と,理想化された未破損モデルのタスク後部と一致する候補動作を解析する。
Masked dLLMsは、自己回帰モデルとは異なり、タスクトークンをマスキングして、候補毎に数回の並列パスを犠牲にして、逆条件をネイティブに評価する。
ルールをリフレクションリバースとしてインスタンス化し、4つのマルチターン実施ベンチマークで評価し、前向きのベースラインよりもタスクの成功率と進捗率を改善する。
関連論文リスト
- Controlled Decoding Attacks on Black-Box LLMs [68.46062477706256]
Methodは、繰り返しサンプリングとアシスタント-継続を可能にする、テキストのみの継続インターフェイスを通じてジェイルブレイクを行うためのフレームワークである。
Risk-Gated Residual Controlは、進化する応答プレフィックスを使用して、配布の再構築と修正をいつ行うかを決定する。
Speculative Multi-Token Executionは、介入を必要としないドラフトプレフィックスの検証と受け入れによって、さらにターゲットコールを償却する。
論文 参考訳(メタデータ) (2026-09-29T07:58:49Z) - Self-Confirming Superposition Traps in Reinforcement Learning [62.71685993550818]
強化学習はエージェントのポリシーによって選択されたデータに基づいて表現し、その結果のリターンを使って次の選択を導く。
これらのデータに対して表現フィッティングがグローバルに最適である場合でも,このループは低リターンポリシーを維持可能であることを示す。
論文 参考訳(メタデータ) (2026-09-26T21:56:26Z) - CARE: Experience-Guided Atomic Corrective Execution for Vision-Language-Action Policies [52.32735203969873]
VLA(Vision-Language-Action)ポリシーは、ロボット操作において強力なパフォーマンスを達成するが、実行が名目上の軌道から逸脱した後も不安定なままである。
本稿では,実行時に発生する障害から学習することで回復を改善するフレームワークであるCARE(Corrective Atomic Robotic Execution)を提案する。
論文 参考訳(メタデータ) (2026-09-21T05:14:34Z) - MAGMA-GEN: Validated Recovery Supervision from Ambiguous Failures via Counterfactual Re-Execution [1.0074626918268836]
本稿では、不明瞭なロールアウトを検証されたリカバリ監視に変換する、オンラインデータ生成パイプラインであるMAGMA-GENを提案する。
MaGMA-GENは、まず特権コーチを使用して早期決定レベルのエラーを仮説化し、局所的な修正または回復アクションを提案する。
この診断は誤りであり、一致した条件下での同一状態からの再実行が下流の進行を改善した場合のみ、候補は保持される。
論文 参考訳(メタデータ) (2026-09-17T11:07:47Z) - Safety Does Not Compose: Non-Decaying Loop State for Autonomous LLM Agents [16.24087700490158]
大規模言語モデルエージェントは、自律ループとしてますますデプロイされる。
これは実装の詳細ではなく、構成の失敗であることを示す。
LoopHarnessは、ループレベルでの永続的非遅延安全状態を復元する。
論文 参考訳(メタデータ) (2026-08-27T13:52:31Z) - ResiSpec: Enhancing Multi-Candidate Speculative Sampling via Residual Distribution Shaping [79.1905186547363]
ResiSpecは、検証中に提案の配布を戦略的に改革するフレームワークである。
候補の偏光を防止し、最先端のマルチ候補法よりも最大1.92$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-08-25T11:25:55Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳(メタデータ) (2026-04-21T15:05:58Z) - Time-series Generation by Contrastive Imitation [87.51882102248395]
モーメントマッチングの目的によってモチベーションされ、複合的エラーを軽減し、局所的(しかし前方的な)遷移ポリシーを最適化する。
推論において、学習されたポリシーは反復的なサンプリングのジェネレータとして機能し、学習されたエネルギーはサンプルの品質を評価するための軌道レベル尺度として機能する。
論文 参考訳(メタデータ) (2023-11-02T16:45:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。