論文の概要: Trust Guided Decision Transformer
- arxiv url: http://arxiv.org/abs/2609.31586v1
- Date: Fri, 25 Sep 2026 17:42:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.525624
- Title: Trust Guided Decision Transformer
- Title(参考訳): Trust Guided Decision Transformer
- Abstract要約: 本稿では、価値ガイダンスを適用する前にコンテキストを選択するTrust Guided Decision Transformerを紹介する。
このドリフトは、ロールアウト中に上昇し、上昇し続けるモデル自身の次の状態予測エラーを通して可視であることを示す。
D4RLナビゲーションとロコモーションタスクの実験では、状態予測、批評家のガイダンス、ハードコンテキストリセットがそれぞれ問題の一部だけを解決することを示している。
- 参考スコア(独自算出の注目度): 2.9030032431209
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Decision Transformer performance degrades on long rollouts because the conditioning context drifts out of the training distribution. We show that this drift is visible through the model's own next state prediction error, which rises during rollout and stays elevated, giving a direct signal of when context has become unreliable. We introduce Trust Guided Decision Transformer (TGDT), which selects context before applying value guidance. At each step, TGDT evaluates several recent context suffixes using rolling next state prediction error, calibrated against held out offline data via split conformal prediction. It keeps only suffixes whose error stays within the calibrated threshold, then uses a frozen critic to choose the highest value action among the trusted suffixes. This reverses the order used by value only elastic selection, where the critic may choose an action generated from a context the model itself has flagged as unreliable. Experiments on D4RL navigation and locomotion tasks show that state prediction, critic guidance, and hard context reset each solve only part of the problem. TGDT reduces persistent high error runs and improves return over vanilla Decision Transformer, reset based context control, and value only context selection.
- Abstract(参考訳): 条件付けコンテキストがトレーニング分布から逸脱するため、長いロールアウトで決定変換器の性能は低下する。
このドリフトは、ロールアウト中に上昇し、上昇し続けるモデル自身の次の状態予測エラーを通して可視であり、いつコンテキストが信頼できないかという直接的なシグナルを与える。
本稿では,TGDT(Trust Guided Decision Transformer)を導入する。
各ステップにおいて、TGDTは次の状態予測誤差を用いて、いくつかの最近のコンテキストサフィックスを評価し、分割整合予測によりオフラインデータの保持を校正する。
エラーがキャリブレーションされたしきい値内に留まっている接尾辞のみを保持し、凍結された批評家を使用して信頼できる接尾辞の中で最高の値アクションを選択する。
これは、値のみの弾性選択で使われる順序を逆転させ、モデル自体が信頼できないとフラグ付けしたコンテキストから生成されたアクションを選択することができる。
D4RLナビゲーションとロコモーションタスクの実験は、状態予測、批評家のガイダンス、ハードコンテキストリセットがそれぞれ問題の一部だけを解決することを示している。
TGDTは、永続的な高エラー実行を削減し、バニラ決定変換器の戻り値、リセットベースのコンテキスト制御、値のみのコンテキスト選択を改善する。
関連論文リスト
- Drift-Constrained Optimization: Only Direction Matters in Fine-Tuning Instruct Models [58.27409489926424]
微調整インストラクションモデルは、参照モデルから振る舞いのドリフトを誘導しながら、しばしば目標性能を改善する。
行動ドリフトが参照モデルに固定された共有幾何をいかに誘導するかを示し、ドリフト予算が空間内の境界を定義する。
私たちの結果は、微調整はモデルの変更量だけでなく、その変更にどのように費やされているかを示唆しています。
論文 参考訳(メタデータ) (2026-09-12T03:13:54Z) - REER-PT: Reverse-Engineered Reasoning for Perplexity-Guided Pre-training Data Augmentation [64.84437332310516]
我々は,Reverse-Engineered Reasoning (REER) を生の事前学習データに拡張するスケーラブルなフレームワークである textbfREER-PT を紹介する。
REER-PTは予測が難しいが、それ以前のコンテキストから推論できる継続を識別し、コンテキストと継続の間の欠落した接続を再構築する簡潔な推論アノテーションを挿入する。
このスパース変換は、ソーステキストを保存し、トレーニング前のオンライン推論ロールアウトを避けることで、標準的な次世代の予測と互換性を維持します。
論文 参考訳(メタデータ) (2026-08-31T11:34:19Z) - Deterministic Denominator Design for Localized Tamed Stochastic-Gradient Langevin Dynamics [10.599439539657785]
Tamed-gradient Langevin dynamics (SGLD) は、更新に分母を追加することで大きなドリフトを安定化する。
本研究では, 状態依存エンベロープを現行のオラクルサンプルを描画する前に固定する決定論的ディノミネータについて検討する。
実験により、プロキシ量子分母はオラクルスコアの挙動に近づき、ランダム・デノミネータ平均シフトチャネルを避け、単純な決定論的選択を改善することが示されている。
論文 参考訳(メタデータ) (2026-06-09T08:25:41Z) - In-Context Learning for Data-Driven Censored Inventory Control [4.623995431718261]
我々は、検閲または繰り返しニュースベンダ(R-NV)に着目して、意思決定依存の検閲による在庫管理について研究する。
パラメトリックトンプソンサンプリング(TS)に基づく既存のアプローチは、事前のミスマッチの下で脆くすることができる。
In-context Generative rear sample (ICGPS) を提案する。
論文 参考訳(メタデータ) (2026-05-14T13:45:20Z) - Improving DNS Exfiltration Detection via Transformer Pretraining [0.0]
変換器(BERT)モデルからの双方向表現のドメイン内事前学習は、偽陽性率の低いサブドメインレベルの抽出を改善する。
私たちは、検証の操作ポイントを凍結し、テストセットに転送する制御パイプラインを開発します。
論文 参考訳(メタデータ) (2026-04-09T15:58:34Z) - Transformer-Based Predictive Maintenance for Risk-Aware Instrument Calibration [0.13543803103181612]
キャリブレーションスケジューリングを予測的メンテナンス問題として検討する。
我々は、NASA C-MAPSSベンチマークをキャリブレーション設定に適合させる。
本研究では,条件に基づくキャリブレーションを共同予測と決定の問題とみなすことができることを示す。
論文 参考訳(メタデータ) (2026-03-19T06:32:01Z) - LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。
我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。
本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
論文 参考訳(メタデータ) (2025-12-01T11:27:09Z) - ResAD: Normalized Residual Trajectory Modeling for End-to-End Autonomous Driving [64.42138266293202]
ResADは正規化された残留軌道モデリングフレームワークである。
学習タスクを再編成し、慣性参照からの残留偏差を予測する。
NAVSIMベンチマークでは、ResADはバニラ拡散ポリシーを用いて最先端のPDMS 88.6を達成している。
論文 参考訳(メタデータ) (2025-10-09T17:59:36Z) - Double Check My Desired Return: Transformer with Target Alignment for Offline Reinforcement Learning [64.6334337560557]
教師付き学習(RvS)による強化学習は、シーケンスモデリングタスクとしてオフラインRLをフレーム化する。
決定変換器(DT)は、実際の完了したリターンを特定のターゲットリターンと確実に整合させるのに苦労する。
そこで我々は,Offline RLの目標アライメントによる変換器の二重チェックを行う新しいアプローチであるDoctorを提案する。
論文 参考訳(メタデータ) (2025-08-22T14:30:53Z) - Tail-to-Tail Non-Autoregressive Sequence Prediction for Chinese
Grammatical Error Correction [49.25830718574892]
本稿では,Tail-to-Tail (textbfTtT) という新しいフレームワークを提案する。
ほとんどのトークンが正しいので、ソースからターゲットに直接転送でき、エラー位置を推定して修正することができる。
標準データセット、特に可変長データセットに関する実験結果は、文レベルの精度、精度、リコール、F1-Measureの観点からTtTの有効性を示す。
論文 参考訳(メタデータ) (2021-06-03T05:56:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。