論文の概要: Breaking Feedback-Blindness: Utility-Augmented Transformer for Sequential Decision Making

• arxiv url: http://arxiv.org/abs/2607.18910v1
• Date: Tue, 21 Jul 2026 09:52:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-22 19:05:05.387061
• Title: Breaking Feedback-Blindness: Utility-Augmented Transformer for Sequential Decision Making
• Title（参考訳）: フィードバックBlindnessを破る: シーケンシャル意思決定のためのユーティリティ強化トランス
• Abstract要約: Utility-Augmented Transformerは、新しいフィードバック条件付き検索アテンションアーキテクチャである。 UATは、観測のみ、テスト時間適応、入力レベルのフィードバックベースラインよりも、一貫してパフォーマンスを改善している。
• 参考スコア（独自算出の注目度）: 0.16385815610837165
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Sequential decision making in non-stationary and partially observable environments requires rapid adaptation to latent regime changes. However, existing Transformer decision models face a structural bottleneck in the retrieval mechanism: even when reward is used for training or exposed as an input token, attention retrieval remains primarily driven by observation-derived similarity. We formalize this limitation as feedback-blind retrieval, and formally show that, on feedback-informative tasks, observation-equivalent histories with different action-reward outcomes cannot be distinguished by any observation-only attention, resulting in suboptimal choice. To address this mismatch, we propose the Utility-Augmented Transformer (UAT), a new feedback-conditioned retrieval attention architecture in which a compact utility state modulates the query, key, and value projections, allowing action-reward history to directly alter context retrieval during the forward pass. UAT also enjoys an exact zero-gate degradation property that recovers the Vanilla Transformer when feedback is uninformative. Under finite-horizon compactness and Lipschitz assumptions, we prove that UAT strictly enlarges the observation-only Transformer class and can uniformly approximate feedback-dependent decision maps. Across four non-stationary benchmarks: synthetic navigation with hidden goal shifts, non-stationary sepsis treatment, cross-market portfolio allocation, and delayed-feedback recommendation, UAT consistently improves performance over observation-only, test-time adaptation, and input-level feedback baselines, with particularly large gains in noisier regimes that require stronger adaptation.
• Abstract（参考訳）: 非定常かつ部分的に観測可能な環境での意思決定は、潜伏状態の変化に迅速に適応する必要がある。 しかし、既存のTransformer決定モデルは、トレーニングに報酬を使ったり、入力トークンとして公開されたりしても、主に観察に起因した類似性によって注意検索が引き起こされるという、検索メカニズムにおける構造的ボトルネックに直面している。 我々はこの制限をフィードバック盲検検索として定式化し、フィードバックインフォーマティブなタスクでは、異なるアクション・リワード結果を持つ観測等価履歴は、観察のみの注意によって区別できないことを示し、その結果、最適以下の選択をもたらすことを正式に示す。 このミスマッチに対処するために,提案するUAT (Utility-Augmented Transformer) は,コンパクトなユーティリティ状態がクエリ,キー,値のプロジェクションを変調し,アクション・リワード履歴が前方パス中のコンテキスト検索を直接変更可能な,フィードバック条件付き検索アテンションアーキテクチャである。 UATはまた、フィードバックが非形式的であるときにVanilla Transformerを復元する、正確なゼロゲート劣化特性も享受している。 有限水平コンパクト性とリプシッツの仮定の下では、UAT は観測専用変換器類を厳密に拡張し、フィードバック依存決定写像を均一に近似できることを示す。 隠れた目標シフトによる合成ナビゲーション、非定常的なセプション処理、市場ポートフォリオ割り当て、遅延フィードバックレコメンデーションの4つの非定常ベンチマークにおいて、UATは観測のみ、テストタイム適応、入力レベルのフィードバックベースラインよりもパフォーマンスを継続的に改善し、特により強力な適応を必要とするノイズレギュレーションにおいて大きな利益を得ている。

関連論文リスト

• ResLRP: The Role of Residual Cancellation in Attribution Instability in Vision Transformers [58.411900827911346]
  欠落する成分は,残余接続の治療であることを示す。 ResLRP(Residual-Aware Layer-wise Relevance Propagation)を導入する。 ResLRP は LRP の単純な拡張であり、その伝搬規則は残枝のキャンセルを明示的に考慮している。
  論文  参考訳（メタデータ） (2026-09-15T13:17:30Z)
• PL-SCEA: Reconfiguring Pretrained Attention for Few-Shot Industrial Anomaly Detection [2.4104933690855153]
  Vision Foundation Models (VFM) は、数発の産業異常検出のための転送可能なパッチ表現を提供する。 本稿では,凍結したVFMの注意を異常検出のタスク関連成分として再構成できるという仮説を考察する。 我々はこのアイデアをPL-SCEA(Power-Law Self-Correlation Enhanced Attention)でインスタンス化する。
  論文  参考訳（メタデータ） (2026-09-03T10:54:05Z)
• HERO: Hindsight-Enhanced Reflection from Environment Observations for Agentic Self-Distillation [50.53459634301361]
  HEROは、次の環境観測を局所的に整列したフィードバックとして利用する、後向きの自己蒸留フレームワークである。 HEROはタスク成功を改善し、環境フィードバックのみの自己蒸留とGRPOに対する不要なターンを減らす。
  論文  参考訳（メタデータ） (2026-06-10T01:35:34Z)
• Factorize to Generalize: Retrieval-Guided Invariant-Dynamic Decomposition for Time Series Forecasting [64.2640656619583]
  時系列基礎モデル (TSFM) は, 大規模事前学習と検索強化予測により, ゼロショット予測性能が向上した。 本稿では時系列予測のための検索誘導不変動的分解フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-24T07:31:55Z)
• MoASE++: Mixture of Activation Sparsity Experts with Domain-Adaptive On-policy Distillation for Continual Test Time Adaptation [65.068801413044]
  連続的なテスト時間適応は、非定常な未ラベルのターゲットストリームにソース予測モデルを適用する。 ドメインに依存しない構造をドメイン固有のテクスチャから切り離す。
  論文  参考訳（メタデータ） (2026-05-18T01:52:12Z)
• Temporal Structure Matters for Efficient Test-Time Adaptation in Wearable Human Activity Recognition [0.20391237204597365]
  テスト時間適応(TTA)は、実世界のクロスユーザー分散シフト下での性能低下を緩和する。 既存の手法は主に視覚タスクから仮定を継承し、WHARストリームに固有のウィンドウ間時間構造を過小評価する。 本稿では,WHARのための軽量かつバックプロパゲーションフリーなTTAフレームワークであるSIGHTを提案する。
  論文  参考訳（メタデータ） (2026-05-06T08:06:27Z)
• FACTOR: Counterfactual Training-Free Test-Time Adaptation for Open-Vocabulary Object Detection [63.91351553178842]
  FACTORはオープン語彙オブジェクト検出のためのトレーニング不要なテスト時間適応である。 属性依存性の予測を選択的に抑制するために、属性の感度、意味的関連性、予測のバリエーションを定量化する。 PASCAL-C, COCO-C, FoggyCityscapes の実験では、FACTOR が従来の TTA 法より一貫して優れていたことが示されている。
  論文  参考訳（メタデータ） (2026-05-05T02:31:18Z)
• FIRCE: A Framework for Intrusion Response and Conformal Evaluation [3.3271517946886924]
  FIRCEは侵入応答とコンフォーマル評価のためのフレームワークである。 同型評価に基づく不確実性定量化とドリフト検出をサポートする。 我々は、FIRCEが分散シフトを検出し、モデル再トレーニングをトリガーする能力を実証する。
  論文  参考訳（メタデータ） (2026-05-03T16:48:03Z)
• Feedback Adaptation for Retrieval-Augmented Generation [36.004563021329965]
  本稿では,RAGシステムにおける問題設定としてフィードバック適応を導入する。 トレーニングベースのアプローチは、遅延補正と信頼性適応のトレードオフを示す。 本結果は,対話型環境下でのRAGシステムの振る舞いを,これまで見過ごされてきた次元として,フィードバック適応を強調した。
  論文  参考訳（メタデータ） (2026-04-08T03:47:48Z)
• Promptable Anomaly Segmentation with SAM Through Self-Perception Tuning [63.55145330447408]
  異常セグメンテーションのための textbfSelf-textbfPerceptinon textbfTuning (textbfSPT) 法を提案する。 SPT法は, 自己描画型チューニング戦略を取り入れ, 異常マスクの初期粗いドラフトを生成し, 精製処理を行う。
  論文  参考訳（メタデータ） (2024-11-26T08:33:25Z)
• PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
  PseudoNeg-MAEは、ポイントクラウドマスマスキングオートエンコーダのグローバルな特徴表現を強化する。 本研究では,ネットワークが識別的表現を保ちながら,よりリッチな変換キューをキャプチャできる新たな損失を提案する。
  論文  参考訳（メタデータ） (2024-09-24T07:57:21Z)
• Action Quality Assessment with Temporal Parsing Transformer [84.1272079121699]
  行動品質評価(AQA)は、作業の理解と解決に重要である。 本稿では,時間的部分表現に包括的特徴を分解する時間的パーシング変換器を提案する。 提案手法は,3つの公開AQAベンチマークにおける先行研究よりもかなりのマージンで優れていた。
  論文  参考訳（メタデータ） (2022-07-19T13:29:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。