論文の概要: Confidence Laundering in Agent Systems: Why Uncertainty Needs a Latent Carrier
- arxiv url: http://arxiv.org/abs/2606.20662v1
- Date: Tue, 09 Jun 2026 23:13:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 20:31:37.30676
- Title: Confidence Laundering in Agent Systems: Why Uncertainty Needs a Latent Carrier
- Title（参考訳）: エージェントシステムにおける信頼の洗浄:不確実性が潜航キャリアを必要とする理由
- Abstract要約: 不確実性は、単に軌道が不確実なステップを含むからではなく、コンポーネント間のハンドオフを生き残るときだけ伝播するからである。
我々は、意思決定ハンドオフに付随する不確実性を有するキャリアとして、潜時不確実性を提案する。
- 参考スコア（独自算出の注目度）: 19.977378656876645
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern agent systems can turn uncertainty into overconfidence. Fragile upstream decisions are often exposed to downstream components as clean intermediate artifacts, while the uncertainty behind those decisions is lost at the interface. As a result, local ambiguity can become system-level error amplification. We argue that this reveals an interface bottleneck in agent uncertainty propagation: uncertainty does not propagate simply because a trajectory contains uncertain steps; it propagates only when it survives the handoff between components. We define uncertain decision handoff as the transfer of an intermediate decision made under uncertainty, and identify confidence laundering as a failure mode in which fragile upstream states are repackaged as procedurally valid artifacts that downstream agents over-trust. To address this bottleneck, we propose latent uncertainty as an uncertainty-bearing carrier attached to decision handoffs. Rather than replacing text with hidden states, latent uncertainty aims to preserve pre-commitment fragility in a form that downstream components can use. This position shifts agent uncertainty propagation from step-wise uncertainty estimation toward uncertainty-preserving interface design for more recoverable agent systems.
- Abstract（参考訳）: 現代のエージェントシステムは不確実性を自信過剰にすることができる。
断片的な上流決定は、しばしば下流コンポーネントにクリーンな中間アーティファクトとして公開されますが、それらの決定の背後にある不確実性は、インターフェースで失われます。
その結果、局所的な曖昧さはシステムレベルのエラー増幅となる。
不確実性は、単に軌道が不確実なステップを含むため、単に伝播するわけではなく、コンポーネント間のハンドオフを生き残る場合にのみ伝播する。
我々は、不確実な意思決定ハンドオフを、不確実性の下で行われた中間決定の伝達と定義し、信頼性の洗浄を、上流の脆弱な状態が、下流のエージェントが過剰に信頼する手続き的に有効な成果物として再パッケージされる障害モードとみなす。
このボトルネックに対処するため、意思決定ハンドオフに付随する不確実性を有するキャリアとして潜伏不確実性を提案する。
テキストを隠された状態に置き換えるのではなく、遅延不確実性は、下流コンポーネントが使用できる形式でコミット前の脆弱性を維持することを目的としている。
この位置は、エージェントの不確実性伝播を段階的に不確実性推定から、より回復可能なエージェントシステムのための不確実性保持インタフェース設計へとシフトさせる。
関連論文リスト
- ELVAE: Evidential Learning-Based Variational Autoencoder for Uncertainty-Aware Generation [7.5571037918649155]
変分オートエンコーダは確率的潜伏表現からサンプルを生成するが、潜伏位置に関する不確実性と周囲の変動性を区別しない。
ELVAEを定式化し,各潜時座標を入力依存の正規逆ガンマ後方で制御する。
低不確かさアンカーはより信頼性の高い合成サンプルをサポートし、高不確かさアンカーは故意にストレステストに利用することができる。
論文 参考訳（メタデータ） (2026-08-11T02:45:59Z) - A Unified Risk View of Uncertainty: Posterior Risk for Disentanglement and Evaluation Beyond Proxies [2.854451361373021]
提案する不確実性の定義は,不確実性(不確実性)をポイントワイド後リスク(pointwise rear risk)として定義する。
この見解は、関数に対するベイズの不確実性と、後部平均からの推定値依存偏差を組み合わせ、誤特定や最適化誤差のような効果を捉えている。
プロキシ評価を避けることにより、不確実性推定のきめ細かい分析が可能になる。
論文 参考訳（メタデータ） (2026-08-06T13:05:16Z) - Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。
画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
論文 参考訳（メタデータ） (2026-07-29T05:16:59Z) - Decision Making Needs Uncertainty Quantification [Lecture Notes] [35.36148913066079]
この講義ノートは、第一原理と単一決定論的な設定の中で、目的とエージェントの知識のリンクを発達させる。
リスクニュートラルなエージェントが状態の後方分布を必要とするのに対し、リスクオーバーなエージェントは予測セットと最悪の決定ルールに最適性を損なうことなく依存できることを示す。
論文 参考訳（メタデータ） (2026-07-15T22:50:26Z) - Verbalizing LLM's Higher-order Uncertainty via Imprecise Probabilities [13.14855346396444]
1次不確実性は、プロンプトに対する可能性のある応答に対する不確実性をキャプチャし、2次不確実性は、基礎となる確率モデル自体の不確定性を定量化する。
汎用的なプロンプトと後処理の手順を導入し,不確実性の両順序を直接抽出・定量化し,その効果を多種多様な設定で示す。
論文 参考訳（メタデータ） (2026-03-11T04:21:04Z) - Agentic Uncertainty Quantification [76.94013626702183]
本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。
システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
論文 参考訳（メタデータ） (2026-01-22T07:16:26Z) - Uncertainty-Driven Reliability: Selective Prediction and Trustworthy Deployment in Modern Machine Learning [1.2183405753834562]
この論文は、不確実性推定が機械学習(ML)システムの安全性と信頼性を高める方法について考察する。
まず、モデルのトレーニング軌道は、アーキテクチャの変更や損失を伴わずに活用できるような、豊富な不確実性信号を含むことを示す。
本稿では,タスク間で動作し,深層アンサンブルのコストを回避し,最先端の選択的予測性能を実現する軽量なポストホック禁忌手法を提案する。
論文 参考訳（メタデータ） (2025-08-11T02:33:53Z) - Does Knowledge About Perceptual Uncertainty Help an Agent in Automated Driving? [9.729293160819038]
エージェントの行動が不確実な知覚にどのように影響されるかを検討する。
我々は、与えられたエージェントの知覚を摂動させることにより、観測空間における不確実性を導入する。
本実験は, 摂動知覚によってモデル化された信頼性の低い観測空間が, エージェントの防御駆動行動を引き起こすことを示す。
論文 参考訳（メタデータ） (2025-02-17T14:56:25Z) - Probabilistic Modeling of Disparity Uncertainty for Robust and Efficient Stereo Matching [61.73532883992135]
本稿では,新しい不確実性を考慮したステレオマッチングフレームワークを提案する。
我々はベイズリスクを不確実性の測定として採用し、データを別々に見積もり、不確実性をモデル化する。
論文 参考訳（メタデータ） (2024-12-24T23:28:20Z) - SAUP: Situation Awareness Uncertainty Propagation on LLM Agent [52.444674213316574]
大規模言語モデル(LLM)は多段階エージェントシステムに統合され、様々なアプリケーションにまたがる複雑な意思決定プロセスを可能にする。
既存の不確実性推定手法は主に最終段階の出力に重点を置いており、これは多段階決定プロセスにおける累積的不確実性やエージェントとその環境間の動的相互作用を考慮できない。
LLMエージェントの推論プロセスの各ステップを通じて不確実性を伝播する新しいフレームワークであるSAUPを提案する。
論文 参考訳（メタデータ） (2024-12-02T01:31:13Z) - Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。
エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。
我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
論文 参考訳（メタデータ） (2024-09-26T21:00:45Z) - Ensemble Quantile Networks: Uncertainty-Aware Reinforcement Learning
with Applications in Autonomous Driving [1.6758573326215689]
強化学習は、自律運転のための意思決定エージェントを作成するために使用できる。
これまでのアプローチではブラックボックスソリューションのみを提供しており、エージェントがその決定に対する自信について情報を提供していない。
本稿では,分布RLとアンサンブルアプローチを組み合わせて完全不確実性推定を行うEnsemble Quantile Networks (EQN)法を提案する。
論文 参考訳（メタデータ） (2021-05-21T10:36:16Z) - Temporal Difference Uncertainties as a Signal for Exploration [76.6341354269013]
強化学習における探索の効果的なアプローチは、最適な政策に対するエージェントの不確実性に依存することである。
本稿では,評価値のバイアスや時間的に矛盾する点を強調した。
本稿では,時間差誤差の分布の導出に依存する値関数の不確かさを推定する手法を提案する。
論文 参考訳（メタデータ） (2020-10-05T18:11:22Z) - Localization Uncertainty Estimation for Anchor-Free Object Detection [48.931731695431374]
アンカーベース物体検出のための既存の不確実性推定手法にはいくつかの制限がある。
アンカーフリー物体検出のためのUADと呼ばれる新しい位置推定不確実性推定手法を提案する。
本手法は,ボックスオフセットの4方向の不確かさを均一に捉え,どの方向が不確実であるかを判断する。
論文 参考訳（メタデータ） (2020-06-28T13:49:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。