論文の概要: Auditing Return Conditioning as a Control Knob: An Offline Diagnostic for Decision Transformer Recommendation
- arxiv url: http://arxiv.org/abs/2608.24815v1
- Date: Tue, 25 Aug 2026 16:57:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:35.110703
- Title: Auditing Return Conditioning as a Control Knob: An Offline Diagnostic for Decision Transformer Recommendation
- Title(参考訳): 制御ノブとしての聴覚帰還条件:決定変圧器勧告のオフライン診断
- Abstract要約: オフラインのリターン・ツー・ゴー(RTG)スイープは、リターン時にコンディションされたレコメンデータが制御可能であるかどうかをテストできるが、介入が監査されることは滅多にない。
歴史的RTGトークンの書き直しは、現在のトークンだけがよりローカルであるのに対して、ますますシンセティックなコンテキストを生み出す。
介入,非RTGベースライン,報酬チェック,RTGコンテンツアブレーションの4つのチェックを提案する。
- 参考スコア(独自算出の注目度): 14.539728582620013
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Offline return-to-go (RTG) sweeps can test whether a recommender conditioned on return is controllable, but the intervention is rarely audited. Rewriting every historical RTG token creates an increasingly synthetic context, while rewriting only the current token is more local. We test this distinction in an offline setting with a fixed window. On MovieLens 25M and MyAnimeList 2020 (MAL), we evaluate a Decision Transformer using an RTG locality ladder, a control without RTG, a logged match and score reward check, and a within-trajectory shuffled RTG ablation. On MovieLens, a $K=20$ intervention that covers the full context, applied only to real context positions, shifts the share of Crime predictions by $+23.61 \pm 2.96$ percentage points from the validation 5th to 95th percentile, whereas changing only the current slot shifts it by $+1.77 \pm 1.17$ points. The shuffled RTG model largely removes this response ($+2.08 \pm 1.20$ points at $K=20$). On MAL, the same protocol does not produce a Drama response: $K=20$ changes Drama by $-0.03 \pm 0.07$ points, and $K=1$ by $-0.01 \pm 0.01$. Genre prediction accuracy is numerically close across real RTG, no RTG, and shuffled RTG, and at $K=1$ logged match rates and matched ratings change little. Because dataset and focus-genre selection were exploratory, these magnitudes are descriptive; the cross-diagnostic pattern across locality, shuffled RTG, and the null result on MAL does not establish reward control. We propose four checks: intervention locality, a no-RTG baseline, a reward check, and RTG-content ablation.
- Abstract(参考訳): オフラインリターン・トゥ・ゴー(RTG)スイープは、リターン時に条件付のレコメンデーターが制御可能であるかどうかをテストできるが、介入が監査されることは滅多にない。
歴史的RTGトークンの書き直しは、現在のトークンだけがよりローカルであるのに対して、ますますシンセティックなコンテキストを生み出す。
この区別は、固定ウィンドウのあるオフライン設定でテストします。
MovieLens 25M と MyAnimeList 2020 (MAL) では,RTG のローカリティ・ラグを用いた決定変換器,RTG による制御,ログ付きマッチとスコア・アワードチェック,RTG の軌道内シャッフル・アブリレーションを評価した。
フルコンテキストをカバーする$K=20$の介入であるMovieLensでは、実際のコンテキストポジションにのみ適用され、犯罪予測のシェアを$+23.61 \pm 2.96$のパーセンテージポイントから$5から95th%のパーセンテージポイントにシフトする一方で、現在のスロットのみを変更して$+1.77 \pm 1.17$のパーセンテージポイントにシフトする。
シャッフルされたRTGモデルは、この応答(+2.08 \pm 1.20$ points at $K=20$)をほとんど取り除きます。
$K=20$change Drama by $-0.03 \pm 0.07$ points, $K=1$ by $-0.01 \pm 0.01$。
真の予測精度は、実際のRTG、RTGなし、シャッフルされたRTGで数値的に近接しており、マッチレートが1ドル=1ドル、マッチしたレーティングがほとんど変わらない。
データセットと焦点領域の選択は探索的であったため、これらの大きさは記述的であり、局所性、シャッフルされたRTG、MALのヌル結果は報酬制御を確立していない。
我々は,介入局所性,非RTGベースライン,報酬チェック,RTGコンテンツアブレーションの4つのチェックを提案する。
関連論文リスト
- Where Grounding Accuracy Lives on the IoU Curve: Label-Free Inference-Time Boundary Refinement [1.4061915592167218]
視覚言語モデルは、不正確なバウンディングボックスを返しながら正しい参照を識別することができる。
そこで本研究では,凍結直接解答モデルを用いて局所的な観測を行う方法について検討する。
3つのエビデンスレベルにまたがって結果を報告します。
論文 参考訳(メタデータ) (2026-08-20T01:40:32Z) - The exact price of local realism in CHSH experiments: a measurement-dependence-detection trade-off surface, a moiré phase-locking mechanism that saturates it, and an unmeasured fringe in the fourfold coincidence sum [0.0]
I solve the unique detection profile $D(m)=sqrtm,h(m)$ under a deterministic sign model successfully the singlet。
生き残ったローカルアカウントは、測定依存を4倍の一致和の$cos 4(a-b)$変調と交換する。
私は、決定論的位相の進化と、凍結したオフセットと飛行時間で焼かれたすべてのランダム性を備えた局所的なメカニズム、モアレ位相ロックを示します。
論文 参考訳(メタデータ) (2026-08-19T13:14:52Z) - When Does Dynamic Ensembling Pay Off? Diagnosing Regionwise Gains in Regression under Distribution Shift [4.583541422554719]
ラベル付きターゲットドメインプローブは、地域間での信頼の再配置が報われるかどうかを教えてくれます。
分布感度下での回帰アンサンブルの再現可能な評価手法であるOpenRegShiftをリリースする。
論文 参考訳(メタデータ) (2026-08-18T21:31:30Z) - Scaling Laws for Agent Harnesses via Effective Feedback Compute [53.68149869349268]
emphEffective Feedback Compute (EFC)は、情報的、有効、非冗長な場合にのみフィードバックを信用し、その後の決定のために保持するトレースレベルのスケーリング座標である。
EFCベースの座標は、生の計算ベースラインよりも失敗率を常に予測する。
論文 参考訳(メタデータ) (2026-05-28T09:45:47Z) - MEMSAD: Gradient-Coupled Anomaly Detection for Memory Poisoning in Retrieval-Augmented Agents [0.0]
検索強化エージェントに対するメモリ中毒攻撃を,統合評価フレームワークを用いたStackelbergゲームとして定式化する。
ASR-R: 0.25〜1.00$) による攻撃成功度を4倍に向上させる。
私たちの主な貢献は、勾配結合に接地したキャリブレーションに基づく防御であるMEMSADである。
論文 参考訳(メタデータ) (2026-05-05T08:15:41Z) - Latent Phase-Shift Rollback: Inference-Time Error Correction via Residual Stream Monitoring and KV-Cache Steering [4.032680910442999]
大規模な言語モデルは、世代中頃の保存不可能な推論エラーを犯す。
我々は、$textbfLatent Phase-Shift Rollback$ (LPSR)を紹介する。
各生成段階において、臨界層リクリットで残留流をモニタリングし、コサイン相似性$+$エントロピー二重ゲートを介して急激な方向逆転(位相シフト)を検出する。
微調整、勾配計算、追加のフォワードパスは不要である。
論文 参考訳(メタデータ) (2026-04-20T17:53:33Z) - Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。
各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。
これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
論文 参考訳(メタデータ) (2026-04-20T13:25:40Z) - Scale-Invariant Regret Matching and Online Learning with Optimal Convergence: Bridging Theory and Practice in Zero-Sum Games [60.871651115241406]
ゼロサムゲームにおける理論と実践の間、何十年にもわたってかなりのシャズムが一階法によって浸食されてきた。
我々は、IREG-PRM$+$と呼ぶPRM$+$の新しいスケール不変かつパラメータフリーな変種を提案する。
ベンチマークゲームでは, PRM$+$と同等でありながら, 最適収束保証を$T-1/2$, $T-1$とする。
論文 参考訳(メタデータ) (2025-10-06T00:33:20Z) - Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。
認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。
この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
論文 参考訳(メタデータ) (2025-10-01T13:56:44Z) - Variance-Dependent Regret Lower Bounds for Contextual Bandits [65.93854043353328]
これは従来の$tildeO(dsqrtK)$ regret bound to $tildeO(dsqrtsum_k=1Ksigma_k2)$で改善されている。
論文 参考訳(メタデータ) (2025-03-15T07:09:36Z) - Clustered Switchback Designs for Experimentation Under Spatio-temporal Interference [44.644520116360106]
我々は, 平均治療効果 (GATE) を推定し, 全単位を常に治療やコントロールに曝露した平均結果の差を推定した。
そこで我々は,単位をクラスタにグループ化し,時間ステップをブロックにグループ化する,クラスタ化されたスイッチバック設計を提案する。
良好なクラスタリングを許容するグラフに対して, トラッピングされたHorvitz-Thompson推定器が$tilde O(1/NT)$平均二乗誤差(MSE)を達成することを示す。
我々の結果は、citethu2022switchback、ugander2013graph、citetleung2022rateの結果を同時に一般化する。
論文 参考訳(メタデータ) (2023-12-25T01:00:58Z) - Toward Adversarial Robustness via Semi-supervised Robust Training [93.36310070269643]
アドリラルな例は、ディープニューラルネットワーク(DNN)に対する深刻な脅威であることが示されている。
R_stand$ と $R_rob$ の2つの異なるリスクを共同で最小化することで、新しい防御手法であるロバストトレーニング(RT)を提案する。
論文 参考訳(メタデータ) (2020-03-16T02:14:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。