論文の概要: Breaking the Epistemic Trap: Active Perception Under Compound Uncertainty

• arxiv url: http://arxiv.org/abs/2605.26627v1
• Date: Tue, 26 May 2026 07:03:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-27 17:51:41.716205
• Title: Breaking the Epistemic Trap: Active Perception Under Compound Uncertainty
• Title（参考訳）: 観血的外傷 : 複合不確かさ下での能動的知覚
• Authors: Chayan Banerjee, Ethan Goan,
• Abstract要約: 基本的なボトルネックは、ダイナミクスの変更や不完全な観察といった個々の課題ではなく、シナジスティックな相互作用である、と我々は主張する。 3つのコントリビューションを中心に構築されたアダプティブ・セーフティ・アーキテクチャを導入し,情報問題としてのリフレーミング・セーフティを提案する。
• 参考スコア（独自算出の注目度）: 4.146672630717473
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deploying reinforcement learning in safety critical domains, from autonomous vehicles to medical decision support, is constrained by failures arising when systems encounter unfamiliar conditions. We argue that the fundamental bottleneck is not individual challenges like changing dynamics or incomplete observations, but their synergistic interaction, which we term the Epistemic Trap: agents cannot estimate their state without knowing system dynamics, nor learn dynamics without accurate state information. Proof-of-concept experiments in simulated locomotion reveal that combining these uncertainties causes failures far worse than either challenge alone, a 77% performance degradation against the 46% by adding the individual effects, demonstrating compounding failure modes that conventional methods overlook. Such approaches adopt a passive epistemic stance that cannot resolve this coupled uncertainty. We propose reframing safety as an information problem, introducing an Adaptive Safety Architecture built around three contributions: the Compound Uncertainty Coefficient ($κ$), a mutual information based metric that quantifies state dynamics coupling and is computable online without full joint belief inference; information seeking policies governed by a MaxInfoRL objective that actively probe system dynamics; and regime-adaptive safety constraints that tighten as epistemic coupling rises. This paradigm shift, from passive robustness to active perception, offers a principled path toward decision making systems that operate under uncertainty, recognize their own ignorance, and act strategically to resolve it.
• Abstract（参考訳）: 自律走行車から医療意思決定支援まで、安全上重要な領域に強化学習を配置することは、システムが不慣れな状況に遭遇した場合に発生する障害によって制約される。 基本的ボトルネックは、力学や不完全観察などの個々の課題ではなく、それらの相乗的相互作用であり、それは疫学的トラップと呼ばれる:エージェントは、システムのダイナミクスを知らずに状態を見積もることができず、正確な状態情報なしで動的を学習することはできない。 シミュレーションロコモーションにおける概念実証実験では、これらの不確実性を組み合わせると、どちらかの挑戦よりも失敗がはるかに悪化し、個々の効果を追加することで46%に対して77%のパフォーマンス低下が生じ、従来の手法が見落としている複合的な障害モードが示される。 このようなアプローチは、この結合した不確実性を解決することができない受動的てんかんのスタンスを採用する。 本稿では, コンプレックス不確実性係数(κ$), 状態の動的結合を定量化し, 完全連関推論なしでオンラインで計算可能な相互情報ベース指標, システム力学を積極的に調査するMaxInfoRLの目的によるポリシーを求める情報, エピステミックカップリングが増大するにつれて厳格化する体制適応型安全制約の3つの貢献点を中心に構築された適応型安全アーキテクチャを提案する。 このパラダイムシフトは、受動的堅牢性からアクティブな知覚へと、不確実性の下で動作し、自身の無知を認識し、それを戦略的に解決するために行動する意思決定システムへの原則化された道筋を提供する。

関連論文リスト

• What Breaks Embodied AI Security:LLM Vulnerabilities, CPS Flaws,or Something Else? [28.12412876058788]
  身体化されたAIシステムは、制御された環境から安全クリティカルな現実世界へのデプロイへと急速に移行している。 インボディードAIとは異なり、インボディードインテリジェンスにおける失敗は、不可逆的な物理的結果をもたらす。 我々は,実施によるシステムレベルのミスマッチから,重大な障害が生じることを論じる。
  論文  参考訳（メタデータ） (2026-02-19T13:29:00Z)
• The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
  大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。 エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。 我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
  論文  参考訳（メタデータ） (2026-02-10T15:18:19Z)
• Agentic Uncertainty Quantification [76.94013626702183]
  本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。 システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
  論文  参考訳（メタデータ） (2026-01-22T07:16:26Z)
• Mutual Information Surprise: Rethinking Unexpectedness in Autonomous Systems [9.92363495932515]
  疫学的な成長の兆しとして、驚きを再定義する新しいフレームワークであるMutual Information Surprise (MIS)を紹介した。 MISは、相互情報に対する新しい観測の影響を定量化し、自律的なシステムが学習の進行を反映できるようにする。 MISRPが支配する戦略は、安定性、応答性、予測精度において古典的なサプライズベースのアプローチを著しく上回ることを示す。
  論文  参考訳（メタデータ） (2025-08-24T15:20:11Z)
• OCCUQ: Exploring Efficient Uncertainty Quantification for 3D Occupancy Prediction [9.742801351723482]
  現在の方法は、敵条件や分布シフトに起因する不確実性を見落としていることが多い。 本稿では,3次元占有予測のための不確実性推定手法を効率的に適用することを提案する。 本手法は、自律運転システムの堅牢性を高める可能性を示すとともに、信頼性の高い不確実性対策を一貫して示している。
  論文  参考訳（メタデータ） (2025-03-13T17:50:07Z)
• Explaining by Imitating: Understanding Decisions by Interpretable Policy Learning [72.80902932543474]
  観察されたデータから人間の行動を理解することは、意思決定における透明性と説明責任にとって重要である。 意思決定者の方針をモデル化することが困難である医療などの現実的な設定を考えてみましょう。 本稿では, 設計による透明性の向上, 部分観測可能性の確保, 完全にオフラインで動作可能なデータ駆動型意思決定行動の表現を提案する。
  論文  参考訳（メタデータ） (2023-10-28T13:06:14Z)
• Seeing is not Believing: Robust Reinforcement Learning against Spurious Correlation [57.351098530477124]
  国家の異なる部分には、保存されていない共同設立者が引き起こす相関関係が存在しない。 このような役に立たないあるいは有害な相関を学習するモデルは、テストケースの共同創設者がトレーニングケースから逸脱したときに破滅的に失敗する可能性がある。 したがって、単純かつ非構造的な不確実性集合を仮定する既存の頑健なアルゴリズムは、この問題に対処するには不十分である。
  論文  参考訳（メタデータ） (2023-07-15T23:53:37Z)
• Probabilities Are Not Enough: Formal Controller Synthesis for Stochastic Dynamical Models with Epistemic Uncertainty [68.00748155945047]
  複雑な力学系のモデルにおける不確実性を捉えることは、安全なコントローラの設計に不可欠である。 いくつかのアプローチでは、安全と到達可能性に関する時間的仕様を満たすポリシーを形式的な抽象化を用いて合成する。 我々の貢献は、ノイズ、不確実なパラメータ、外乱を含む連続状態モデルに対する新しい抽象的制御法である。
  論文  参考訳（メタデータ） (2022-10-12T07:57:03Z)
• Towards Understanding the Adversarial Vulnerability of Skeleton-based Action Recognition [133.35968094967626]
  骨格に基づく行動認識は、動的状況への強い適応性から注目を集めている。 ディープラーニング技術の助けを借りて、かなり進歩し、現在、良識のある環境で約90%の精度を達成している。 異なる対角的環境下での骨格に基づく行動認識の脆弱性に関する研究はいまだ研究されていない。
  論文  参考訳（メタデータ） (2020-05-14T17:12:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。