論文の概要: TRACE: A Governance Framework for Measuring Explainability Debt in Production AI Systems

• arxiv url: http://arxiv.org/abs/2610.10957v1
• Date: Wed, 07 Oct 2026 22:19:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.688988
• Title: TRACE: A Governance Framework for Measuring Explainability Debt in Production AI Systems
• Title（参考訳）: TRACE: プロダクションAIシステムにおける説明可能性負債を測定するためのガバナンスフレームワーク
• Abstract要約: 我々は,実運用AIシステムにおける説明可能性負債の測定,追跡,即時処理を行う7段階のガバナンスフレームワークであるTRACEを紹介した。 基本的な手段であるEDS(Explainability Debt Score)は、ガバナンスが定義した説明可能性信頼しきい値を下回る生産決定の割合を定量化します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Production AI systems deployed in high-stakes domains accumulate a governance liability that existing monitoring frameworks fail to detect: the progressive inability to explain individual decisions when regulators, auditors, or affected individuals demand accountability. We introduce TRACE (Transparency, Risk, Accountability, Compliance, and Explainability), a seven-instrument governance framework for measuring, tracking, and remediating Explainability Debt in production AI systems. The foundational instrument, the Explainability Debt Score (EDS), quantifies the proportion of production decisions falling below a governance-defined explainability confidence threshold at any point in time. Complementary instruments include DART (Debt Accumulation Rate Tracker for breach forecasting), SHIV (Scenario Health and Integrity Validator for daily governance), FDE (Feature Drift Evaluator for causal attribution), HVE (Human Validation Engine), AIDE (Audit Intervention Decision Engine), and ZERO (Zero Explainability Risk Optimiser for remediation). Through a twelve-month longitudinal case study of a production fraud detection system processing 50,000 daily financial transactions, achieving 98.46% accuracy and ROC-AUC of 0.9990, we demonstrate that an EDS of 0.23 on audit day was statistically predictable six months in advance using DART trajectory analysis (beta = 0.008/week, R-squared = 0.94, 95% CI: [0.006, 0.010]), and that 78% of Explainability Debt was concentrated in the highest-regulatory-risk decision category (transactions above $10,000), a risk asymmetry completely invisible to system-level metrics. TRACE provides the first quantitative operational architecture for EU AI Act Article 13 compliance in production AI deployment, establishing a new subdiscipline of explanation governance distinct from explanation generation.
• Abstract（参考訳）: 規制、監査人、影響を受ける個人が説明責任を要求するとき、個々の決定を説明できないプログレッシブな障害です。 TRACE(Transparency, Risk, Accountability, Compliance, and Explainability)は,実運用AIシステムにおける説明可能性負債の測定,追跡,更新を行う7段階のガバナンスフレームワークである。 基本的な手段であるEDS(Explainability Debt Score)は、どの時点においても、ガバナンスが定義した説明可能性の信頼しきい値を下回る生産決定の割合を定量化します。 DART (Debt Accumulation Rate Tracker for breach forecasting)、SHIV (Scenario Health and Integrity Validator for daily Governance)、FDE (Feature Drift Evaluator for causal Attribution)、HVE (Human Validation Engine)、AIDE (Audit Intervention Decision Engine)、ZERO (Zero Explainability Risk Optimiser for remediation) などである。 DARTトラジェクトリ分析(beta = 0.008/week, R-squared = 0.94, 95% CI: [0.006, 0.010])を用いて1日あたり5万件の不正取引を処理し, 精度98.46%, ROC-AUCの0.9990を達成した。 TRACEは、EU AI Act Article 13のプロダクションAIデプロイメントにおけるコンプライアンスに対する最初の定量的な運用アーキテクチャを提供し、説明生成とは異なる説明ガバナンスの新しいサブカテゴリを確立する。

関連論文リスト

• VeriWeave Govern: Evidence-Gated Deterministic Runtime Governance for Enterprise AI Agents [0.0]
  この記事では、バージョン管理ポリシーに対する構造化エージェントアクションを評価する決定論的ランタイムガバナンス層であるVeriWeave Governを紹介します。 GoverningBench氏は、5つのエンタープライズオラクルドメインにまたがる30個の独立したシードと6万個のラベリングケースの設計を評価している。 6つのアブレーションは、証拠が誇張し、先行を否定し、分配不能なフェイルセーフな振る舞い、人間のレビュー、矛盾処理、時間的再生が相補的な安全性に寄与していることを示している。
  論文  参考訳（メタデータ） (2026-09-26T20:15:54Z)
• Risk-Aware Online Conformal State Probing [65.02200443982082]
  オンライン整合状態探索(オンライン整合状態探索、OCSP)は、分布仮定に頼ることなく最悪のケースの信頼性レベルを認定する行動・探索政策である。 OCSPは、リトレーニングや微調整を必要とせずに、既存のバリューベースのコントロールポリシーに適用することができる。
  論文  参考訳（メタデータ） (2026-09-22T08:55:09Z)
• Complex Problem Solving in Large Language Models: A Statistical Control Survey and Diagnostic Framework [52.886947585847594]
  大規模言語モデル(LLM)による複雑な問題解決は、しばしばより強い推論やより長い生成の問題としてフレーム化される。 しかし、早期のエラー増幅、迅速な脆さ、誤ったコミットメントを修正する失敗を説明するのは難しい。 本調査はCPSを潜在解状態上の逐次推定・決定問題と解釈する。
  論文  参考訳（メタデータ） (2026-09-17T18:28:45Z)
• Towards Trustworthy Autonomous Robots: An Explainable AI-Based Decision Framework [0.0]
  TRACE(Transparent Reasoning Architecture for Credible Execution)は、すべての自律的なアクションをセンサエビデンスに遡ることができるようにするための決定フレームワークである。 TRACEはモデルに依存しないが、決定レベルの監査性を維持しながら学習ベースの知覚モジュールを統合するように設計されている。 筆者らは,3つの客観的指標を用いて,エビデンストレーサビリティ(センサ間リンク),決定再構成性(ポストホック解析能力),時間連続性(聴覚路完全性)の評価を行った。
  論文  参考訳（メタデータ） (2026-09-02T17:44:25Z)
• Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective [0.0]
  本稿では、内部監査におけるトランザクション異常検出のバンキングに適した説明可能な人工知能フレームワークを提案する。 分離フォレスト(iForest)モデルは教師なしの異常スコアを行い、SHAP層は協調ゲーム理論に基づくトランザクションレベルの説明を提供する。 軽量なStreamlitダッシュボードは、これらのアウトプットを、機械学習の専門知識のないプロフェッショナルを監査するための形式でレンダリングする。
  論文  参考訳（メタデータ） (2026-07-15T05:58:41Z)
• TRUST: A Framework for Decentralized AI Service v.0.1 [47.384270414446604]
  大規模推論モデル (LRM) とマルチエージェントシステム (MAS) は, 信頼性の高い検証を必要とする。 TRUST(Transparent, Robust, and Unified Services for Trustworthy AI)は,3つのイノベーションを備えた分散フレームワークである。 我々は、悪質な俳優が損失を被っている間、正直な監査人の利益を確実に確保する安全利益理論を証明する。
  論文  参考訳（メタデータ） (2026-04-29T19:32:58Z)
• Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
  我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。 内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2026-03-13T20:44:15Z)
• Safe Urban Traffic Control via Uncertainty-Aware Conformal Prediction and World-Model Reinforcement Learning [43.06827300023392]
  STREAM-RLは、不確実性誘導型適応型コンフォーマルフォアキャスター、コンフォーマル残留流ネットワーク、不確実性誘導型セーフワールドモデルRLエージェントである。 複数の実世界の交通軌跡データの実験では、STREAM-RLは91.4%のカバレッジ効率を達成し、FDRを4.1%の信頼性で制御し、標準のPPOの69%に比べて安全性を95.2%向上している。
  論文  参考訳（メタデータ） (2026-02-04T18:10:59Z)
• Conformal Thinking: Risk Control for Reasoning on a Compute Budget [60.65072883773352]
  大規模言語モデル(LLM)の推論により、トークンの予算が増加するにつれて、データセットレベルの精度が向上する。 我々は、予算設定問題をリスクコントロールとして再設定し、計算を最小化しながらエラー率を制限する。 我々のフレームワークは、モデルが自信のあるときに推論を停止する上位しきい値と、未解決のインスタンスを事前に停止させる新しい下位しきい値を導入する。
  論文  参考訳（メタデータ） (2026-02-03T18:17:22Z)
• DICE: Discrete Interpretable Comparative Evaluation with Probabilistic Scoring for Retrieval-Augmented Generation [2.2265635794577787]
  我々は、RAG評価における説明可能性と堅牢性を向上させる2段階のエビデンス結合フレームワークであるDICEを紹介する。 DICEは、深い分析的推論と確率論的$A, B, Tie$スコアを組み合わせることで、透明で信頼性に配慮した判断を生成する。 本研究は,信頼性の高いRAGシステム評価のための責任,説明性,効率的なパラダイムとしてDICEを確立した。
  論文  参考訳（メタデータ） (2025-12-27T16:02:00Z)
• Bayesian Modeling for Uncertainty Management in Financial Risk Forecasting and Compliance [0.0]
  我々は,市場ボラティリティ予測,不正検出,コンプライアンス監視におけるリスクの取り扱いを継続的に促進する統合的アプローチを開発する。 我々は,2000年から2019年までのトレーニング期間,2020年から2024年までのアウト・オブ・サンプルテスト期間を用いて,毎日のS&P500リターンにおける95%バリュー・アット・リスク(VaR)予測の性能を評価した。 提案した割引係数DLMモデルは,クラスタ化違反の証拠とともに,わずかにリベラルなVaR推定を導出する。
  論文  参考訳（メタデータ） (2025-12-06T23:00:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。