論文の概要: Towards Trustworthy Autonomous Robots: An Explainable AI-Based Decision Framework
- arxiv url: http://arxiv.org/abs/2609.02861v1
- Date: Wed, 02 Sep 2026 17:44:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:18.484236
- Title: Towards Trustworthy Autonomous Robots: An Explainable AI-Based Decision Framework
- Title（参考訳）: 信頼できる自律ロボットを目指して - 説明可能なAIベースの意思決定フレームワーク
- Abstract要約: TRACE(Transparent Reasoning Architecture for Credible Execution)は、すべての自律的なアクションをセンサエビデンスに遡ることができるようにするための決定フレームワークである。
TRACEはモデルに依存しないが、決定レベルの監査性を維持しながら学習ベースの知覚モジュールを統合するように設計されている。
筆者らは,3つの客観的指標を用いて,エビデンストレーサビリティ(センサ間リンク),決定再構成性(ポストホック解析能力),時間連続性(聴覚路完全性)の評価を行った。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Autonomous robots powered by deep learning face a fundamental auditability challenge: when incidents occur, investigators cannot reconstruct why the system made specific decisions. This paper presents TRACE (Transparent Reasoning Architecture for Credible Execution), a decision framework that ensures every autonomous action can be traced back to sensor evidence through documented causal chains. The framework organizes decision-making into four auditable layers: Semantic Perception for evidence-grounded entity recognition, Belief Reasoning for probabilistic state estimation with causal graphs, Action Synthesis for constraint-aware planning with counterfactual documentation, and Execution Verification for compliance monitoring. TRACE is model-agnostic yet designed to integrate learning-based perception modules (CNNs, transformers) while preserving decision-level auditability. We evaluate the framework using three objective metrics: Evidence Traceability (sensor-to-decision linkage), Decision Reconstructability (post-hoc analysis capability), and Temporal Continuity (audit trail completeness). Experimental evaluation on warehouse robot navigation demonstrates that TRACE achieves 98.6% evidence traceability, 99.0% temporal continuity, and 98.1% decision reconstructability across 500 simulated decision cycles. Post-hoc methods like LIME provide feature attributions but lack the artifact structure needed for decision-level reconstruction. The framework addresses EU AI Act requirements for high-risk system transparency and contributes to Explainable AI for safety-critical autonomous systems.
- Abstract（参考訳）: ディープラーニングを利用した自律ロボットは、基本的な監査可能性の課題に直面している。
本稿では,すべての自律行動が,文書化された因果連鎖を通じてセンサエビデンスに遡ることができる決定枠組みであるTRACE(Transparent Reasoning Architecture for Credible Execution)を提案する。
このフレームワークは、4つの監査可能なレイヤに分類する: 証拠に基づくエンティティ認識のためのセマンティック認識、因果グラフによる確率的状態推定のためのBreief Reasoning、反事実文書による制約対応計画のためのアクション合成、コンプライアンス監視のための実行検証。
TRACEはモデルに依存しないが、学習ベースの知覚モジュール(CNN、トランスフォーマー)を統合し、意思決定レベルの監査性を維持するように設計されている。
筆者らは,3つの客観的指標を用いて,知覚的トレーサビリティ (センサ間リンク), 決定的再構成性 (ポストホック解析能力), 時間的連続性 (オーディエント・トレイル完全性) の3つを評価する。
倉庫のロボットナビゲーションに関する実験的評価では、TRACE は 98.6% の証拠トレーサビリティ、99.0% の時間的連続性、そして500回のシミュレートされた決定サイクルにおける98.1% の決定再構成性を達成している。
LIMEのようなポストホックメソッドは、特徴属性を提供するが、決定レベルの再構築に必要なアーティファクト構造は欠如している。
このフレームワークは、リスクの高いシステムの透明性のためのEU AI Act要件に対処し、安全クリティカルな自律システムのための説明可能なAIに貢献する。
関連論文リスト
- A Mathematical Framework for Legacy, Governance, and Decision Integrity in Enterprise AI [0.0]
本稿では,制度的遺産のためのデザイン・サイエンス・フレームワークを開発する。
i) 知識保持、ガバナンス、人間の監督、適応性、フィードバック学習、および管轄権の忠実さという、厳格化された幾何学的平均に基づく正規化されたレガシースコア。
また、8つのAI決定整合性ルール、評価プロトコル、再現可能な計算実証も提案している。
論文 参考訳（メタデータ） (2026-09-01T02:06:32Z) - AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。
本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
論文 参考訳（メタデータ） (2026-08-26T11:48:38Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - TRUST: A Framework for Decentralized AI Service v.0.1 [47.384270414446604]
大規模推論モデル (LRM) とマルチエージェントシステム (MAS) は, 信頼性の高い検証を必要とする。
TRUST(Transparent, Robust, and Unified Services for Trustworthy AI)は,3つのイノベーションを備えた分散フレームワークである。
我々は、悪質な俳優が損失を被っている間、正直な監査人の利益を確実に確保する安全利益理論を証明する。
論文 参考訳（メタデータ） (2026-04-29T19:32:58Z) - Governed Auditable Decisioning Under Uncertainty: Synthesis and Agentic Extension [0.0]
自動決定システムが失敗すると、組織はしばしば、公式に準拠したガバナンスインフラストラクチャが、何が起きたのか、なぜ起きたのかを再構築できないことに気付く。
本稿では,運用管理エビデンス・フレームワークを統合連鎖に合成し,その伝達可能性を4つの意思決定システムアーキテクチャ間で解析的に評価する。
論文 参考訳（メタデータ） (2026-04-21T05:45:04Z) - Governed Reasoning for Institutional AI [0.0]
認知コア(Cognitive Core)は、9種類の認知プリミティブから構築された決定基盤である。
ヒューマンレビューは、ポストホックチェックではなく実行条件である。
我々は、11ケースの事前承認控訴評価セットで3つのシステムをベンチマークした。
論文 参考訳（メタデータ） (2026-04-12T14:09:18Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳（メタデータ） (2026-03-23T14:48:54Z) - Reasoning Provenance for Autonomous AI Agents: Structured Behavioral Analytics Beyond State Checkpoints and Execution Traces [0.0]
Agent Execution Record (AER) は構造化された推論プリミティブであり、すべてのステップで第一級クエリ可能なフィールドとしてインテント、観察、推論をキャプチャする。
AERが集団レベルの行動分析を可能にする方法を示す: 推論パターンマイニング、信頼度校正、クロスエージェント比較、モックリプレイによる反事実回帰テスト。
論文 参考訳（メタデータ） (2026-03-23T08:27:54Z) - Why Cognitive Robotics Matters: Lessons from OntoAgent and LLM Deployment in HARMONIC for Safety-Critical Robot Teaming [2.779709069421631]
コンテンツ中心の認知アーキテクチャであるOntoAgentと戦術的リアクティブレイヤを組み合わせた,認知ロボティックなアーキテクチャであるHARMONICを提案する。
その結果、LCMは行動する前に自身の知識状態を常に評価しておらず、診断的推論や行動選択において下流の障害を引き起こすことが明らかとなった。
これらの知見は、認知アーキテクチャが推論の主要な権威を保持する物理的に具体化されたシステムの設計を支援する。
論文 参考訳（メタデータ） (2026-03-20T09:31:36Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳（メタデータ） (2026-03-13T20:44:15Z) - Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。
このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。
本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
論文 参考訳（メタデータ） (2025-11-10T22:24:21Z) - A Survey on Autonomy-Induced Security Risks in Large Model-Based Agents [45.53643260046778]
大規模言語モデル(LLM)の最近の進歩は、自律型AIエージェントの台頭を触媒している。
これらの大きなモデルエージェントは、静的推論システムからインタラクティブなメモリ拡張エンティティへのパラダイムシフトを示す。
論文 参考訳（メタデータ） (2025-06-30T13:34:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。