論文の概要: Confidence-Controlled XAI Auditing for Pedestrian Detection under Domain Shift

• arxiv url: http://arxiv.org/abs/2610.02364v1
• Date: Thu, 01 Oct 2026 18:39:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.048162
• Title: Confidence-Controlled XAI Auditing for Pedestrian Detection under Domain Shift
• Title（参考訳）: 領域シフトによる歩行者検出のための信頼度制御型XAI監査
• Abstract要約: この研究は、ROIベースのD-Deletion、凍結された自信のターシクル、ランクベースのテスト、ブートストラップ間隔、ホルム補正を用いて、PIEとJAADをまたいだ固定されたYOLOv8s歩行者検出器の説明を監査する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Explainability is increasingly required for perception models in intelligent vehicles, yet whether explanations remain faithful under driving domain shift is still poorly understood. This work audits post-hoc explanations of a fixed YOLOv8s pedestrian detector across PIE and JAAD using ROI-based D-Deletion, frozen confidence terciles, rank-based tests, bootstrap intervals, and Holm correction. The audit shows that deletion-based faithfulness is strongly coupled to detection strength at explanation time, with Spearman correlations between 0.70 and 0.82 for D-RISE, making naive confidence-stratified comparisons unreliable. After controlling for detection strength within fixed f0 bins, D-RISE faithfulness remains domain-dependent in the central f0 range, with PIE showing higher D-Deletion than JAAD and Holm-adjusted significance. A non-perturbative EigenCAM baseline is less faithful than D-RISE but also exhibits score coupling, suggesting that the effect is not specific to D-RISE and is related to the deletion-based evaluation setup. These results motivate confidence-controlled XAI audits for safety-critical perception under domain shift.
• Abstract（参考訳）: インテリジェントな車両における知覚モデルには説明可能性の必要性がますます高まっているが、駆動ドメインシフトの下での説明が忠実であるかどうかはいまだに理解されていない。 この研究は、ROIベースのD-Deletion、冷凍された自信のターシクル、ランクベースのテスト、ブートストラップ間隔、ホルム補正を用いて、PIEとJAADにまたがる固定されたYOLOv8s歩行者検出器のポストホックな説明を監査する。 調査の結果,D-RISEのスピアマン相関は0.70～0.82で,削除に基づく忠実度は説明時の検出強度と強く結びついていることが判明した。 固定されたf0ビン内の検出強度を制御した後、D-RISE忠実度は中心f0範囲でドメイン依存的に維持され、PIEはJAADやホルム調整された重要性よりも高いD-削除を示す。 非摂動性EigenCAMベースラインは、D-RISEよりも忠実ではないが、スコア結合も示しており、その効果はD-RISEに固有のものではなく、削除に基づく評価設定と関連している。 これらの結果は、ドメインシフト下での安全クリティカルな認識のための信頼制御型XAI監査の動機付けとなる。

関連論文リスト

• SVR: Self-Verifying Refinement via Joint Verdict-Confidence Reinforcement Learning for Adaptive Test-Time Compute [62.3458279176813]
  自己検証リファインメント(Self-Verifying Refinement)は、オラクルフリーのマルチターン強化学習フレームワークである。 自己検証を計算制御ポリシとして使用することを学ぶ。 マクロ平均精度は0.563で、平均で2.99回しか推測できない。
  論文  参考訳（メタデータ） (2026-07-30T16:20:58Z)
• Task-Aligned Stability Analysis of Vision-Language Models for Autonomous Driving Hazard Detection [0.0]
  CLIP画像とテキストの類似性から, 汚職による埋没ドリフトがタスク整合ハザードスコアの変化を予測できるかどうかを検討した。 BDD100Kロードシーンにおける制御された汚職を利用して、埋め込みドリフトとマージンドリフトを比較する。 一部の家族は表現のドリフトと決定のドリフトの間に強い結合性を示すが、他の家族は比較的穏やかな埋め込み変化にもかかわらず有害な決定不安定性を引き起こす。
  論文  参考訳（メタデータ） (2026-06-10T10:20:14Z)
• Exploring Agentic Tool-Calling Decisions via Uncertainty-Aligned Reinforcement Learning [63.24624171679711]
  大規模言語モデル(LLM)ベースのエージェントは、しばしば最適なツール使用の決定を行う。 本研究では、不確実性分離を維持するための推進力として、不確実性定量化を報酬設計に組み込んだTRUSTを提案する。
  論文  参考訳（メタデータ） (2026-06-05T07:08:34Z)
• Unveiling the Entropy Dynamics of Chain-of-Thought Reasoning [81.57028614960576]
  1)信頼性の高い -- 信頼性の高い -- 信頼性の高い領域での回答は高度に正確で安定したものになり、2)高冗長性 -- モデルは正しい回答に達した後ずっと経ってから不必要なトークンを生成する。 これらの特性はより効率的で信頼性の高い推論戦略を解き放つ。
  論文  参考訳（メタデータ） (2026-06-01T10:11:14Z)
• Auditable Decision Models with Learned Abstention and Real-Time Steering [6.287457666346811]
  生産AIシステムは、不完全、矛盾、あるいは不十分な証拠で運用されることが多い。 我々は,不確実性が明確でなければならないAIシステムの運用上の決定制御について検討する。 本稿では,YES,NO,TBDを予測する境界決定制御モデルであるEvaluatorDPTを提案する。
  論文  参考訳（メタデータ） (2026-05-26T23:37:56Z)
• FACT-E: Causality-Inspired Evaluation for Trustworthy Chain-of-Thought Reasoning [49.65751420291115]
  CoT(Chain-of-Thought)プロンプトはLSM推論を改善したが、モデルはしばしば不誠実な中間ステップを含むコヒーレントな説明を生成する。 我々は、CoTの品質を評価するための因果性に着想を得たフレームワークであるFACT-Eを提案する。 FACT-Eは推論・軌道選択を改善し、文脈内学習を強くすることを示す。
  論文  参考訳（メタデータ） (2026-04-12T15:35:08Z)
• VI-CuRL: Stabilizing Verifier-Independent RL Reasoning via Confidence-Guided Variance Reduction [55.04308051033549]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、LLM(Large Language Models)推論を向上するための主要なパラダイムとして登場した。 モデル固有の信頼性を活用して外部検証から独立したカリキュラムを構築するフレームワークであるVerifier-Independent Curriculum Reinforcement Learning (VI-CuRL)を紹介する。
  論文  参考訳（メタデータ） (2026-02-13T03:40:52Z)
• Robust Uncertainty Estimation under Distribution Shift via Difference Reconstruction [2.920726125254978]
  深層学習モデルの不確実性を推定することは、医用画像などの高精細な応用において、信頼性の高い意思決定に不可欠である。 以前の研究では、入力サンプルと再構成されたバージョンの違いが不確実性の指標となることが確認されている。 本研究では、2つの中間層からの入力を再構成し、その出力間の差を不確かさスコアとして測定することにより、この制限を緩和する差分再構成不確実性推定法(DRUE)を提案する。
  論文  参考訳（メタデータ） (2026-01-27T08:23:00Z)
• TRUST-LAPSE: An Explainable and Actionable Mistrust Scoring Framework for Model Monitoring [4.262769931159288]
  連続モデル監視のための"ミストラスト"スコアリングフレームワークであるTRUST-LAPSEを提案する。 我々は,各入力サンプルのモデル予測の信頼性を,潜時空間埋め込みのシーケンスを用いて評価する。 AUROCs 84.1 (vision), 73.9 (audio), 77.1 (clinical EEGs)
  論文  参考訳（メタデータ） (2022-07-22T18:32:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。