論文の概要: In Terms of Explainability: Refining Requirements for Self-Explainable Systems
- arxiv url: http://arxiv.org/abs/2608.06049v1
- Date: Thu, 06 Aug 2026 13:58:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.927886
- Title: In Terms of Explainability: Refining Requirements for Self-Explainable Systems
- Title（参考訳）: 説明可能性の観点から:自己説明可能なシステムの要件を精査する
- Abstract要約: 本稿では,既存の定義の分析と組み合わせに基づく説明可能性の統一的定義を提案する。
我々は、(自己)説明可能なシステムを構築するのに必要な構造化された説明可能性要件を示す。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autonomous and software-intensive systems have been growing in occurrence, complexity, and assumed responsibility. Due to the high complexity of these systems, properties like transparency and explainability must be a focus of investigation. To date, no universally applicable definition and guide for the development of (self-)explainable systems exists. A need for explainability standards has already been recognized in the EU AI Act and the IEEE Transparency Standard 7001-2021. To address this need, we propose unified definitions in explainability based on an analysis and combination of existing definitions. Additionally, we present structured explainability requirements that are necessary to build (self-)explainable systems. By analysing the resulting taxonomy, we propose the incorporation of explanation goodness and thus correctness of explanations into the unified definitions. With our approach, we support the development of formal standards for (self-)explainable systems. Establishing such a uniform taxonomy also is a beneficial step towards certifying or auditing explainable systems.
- Abstract（参考訳）: 自律的およびソフトウェア集約的なシステムは、発生、複雑さ、想定される責任で成長している。
これらのシステムの複雑さが高いため、透明性や説明可能性といった特性は調査の焦点でなければならない。
現在、(自己)説明可能なシステムを開発するための普遍的に適用可能な定義やガイドは存在しない。
EU AI ActとIEEE Transparency Standard 7001-2021では、説明可能性標準の必要性がすでに認識されている。
このニーズに対処するために、既存の定義の分析と組み合わせに基づく説明可能性の統一的な定義を提案する。
さらに、(自己)説明可能なシステムを構築するのに必要な構造的な説明可能性要件も提示する。
結果の分類を解析することにより、統一された定義に説明の良さと説明の正しさを取り入れることを提案する。
我々のアプローチでは、(自己)説明可能なシステムのための正式な標準の開発を支援します。
このような一様分類の確立は、説明可能なシステムの認証や監査を行う上でも有益である。
関連論文リスト
- AI-Assisted Systematization for Evaluating GenAI Systems [45.6388922756291]
我々は,2つの概念のコンセプト仕様を作成するために,AIを利用した2つのシステムライザを開発した。
コンテントの妥当性と情報回復性に関する概念仕様を評価した。
論文 参考訳（メタデータ） (2026-05-25T16:19:44Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - Explanation Beyond Intuition: A Testable Criterion for Inherent Explainability [0.2580765958706854]
説明可能な人工知能 (XAI) のゴールド・スタンダードはインヒーレント・説明責任である
固有の説明可能性を示す一貫した定義やテストは存在しない。
本稿では,本質的説明可能性に関する世界的基準を提案する。
論文 参考訳（メタデータ） (2025-12-19T07:59:36Z) - SeSE: A Structural Information-Guided Uncertainty Quantification Framework for Hallucination Detection in LLMs [43.76748192880071]
本稿では,大規模言語モデル固有の意味的不確かさを定量化する,原則的UQフレームワークを提案する。
我々は,指向性セマンティック依存をキャプチャする適応的にスペーシングされた有向グラフ構築アルゴリズムを開発した。
そして階層的抽象化を通じて潜在意味構造情報を利用する。
論文 参考訳（メタデータ） (2025-11-20T11:54:12Z) - An Information-Flow Perspective on Explainability Requirements: Specification and Verification [5.849736173068869]
説明可能なシステムは、それらと相互作用するエージェントに観察された影響が起こっている理由に関する情報を公開する。
これは、例えばプライバシー保証に違反する可能性のある負の情報フローに対して、特定、検証、バランスをとる必要がある情報の正のフローを構成する。
本稿では、この原理をシステムレベルの要件として説明可能性を指定するために利用し、そのような仕様に対して有限状態モデルをチェックするアルゴリズムを提案する。
論文 参考訳（メタデータ） (2025-09-01T13:50:52Z) - Defining Self-adaptive Systems: A Systematic Literature Review [1.1715858161748571]
過去20年間で、ソフトウェアとシステムエンジニアリングにおける自己適応システムの人気は劇的に高まっている。
自己適応システムに関する広範な研究にもかかわらず、これらのシステムの定義に関する共通した合意はいまだに欠けている。
我々の体系的なレビューは、長年にわたり自己適応システムへの関心が高まってきたが、これらのシステムを正式に定義するための努力が不足していることを明らかにしている。
論文 参考訳（メタデータ） (2025-05-23T12:18:20Z) - A Scoresheet for Explainable AI [9.503773054285558]
本稿では、説明可能性要件の特定や、特定のアプリケーションに提供される説明可能性側面の評価に使用できるスコアシートを開発する。
スコアシートは、様々な利害関係者の要求を考慮して開発され、マルチエージェントシステムや他のAI技術にも適用できる。
論文 参考訳（メタデータ） (2025-02-14T02:08:10Z) - When Can You Trust Your Explanations? A Robustness Analysis on Feature Importances [42.36530107262305]
説明の堅牢性は、システムと提供された説明の両方を信頼する上で、中心的な役割を果たす。
本稿では,非対向摂動に対するニューラルネットワーク説明の頑健さを解析するための新しいアプローチを提案する。
さらに,様々な説明を集約するアンサンブル手法を提案し,モデルの決定を理解し,頑健さを評価することによって,説明の融合がいかに有用かを示す。
論文 参考訳（メタデータ） (2024-06-20T14:17:57Z) - A Note on an Inferentialist Approach to Resource Semantics [48.65926948745294]
「推論主義」とは、推論行動の観点で意味が与えられるという考え方である。
本稿では,「推論主義」が資源意味論の汎用的で表現力豊かな枠組みを実現する方法を示す。
論文 参考訳（メタデータ） (2024-05-10T14:13:21Z) - Inferentialist Resource Semantics [48.65926948745294]
本稿では,リソースセマンティクスにおいて,推論が汎用的で表現力豊かなフレームワークを実現する方法を示す。
推論主義は、バンドルインプリケーションの論理のアサーションベースのアプローチをいかにシームレスに組み込むか。
この統合により、直感的で親しみやすい方法で、共有リソースと分離リソースの推論が可能になる。
論文 参考訳（メタデータ） (2024-02-14T14:54:36Z) - Explanation Ontology: A Model of Explanations for User-Centered AI [3.1783442097247345]
説明はしばしば、原則的でないポストホックな方法でAIシステムに追加されている。
これらのシステムの採用が拡大し、ユーザ中心の説明可能性に重点を置いているため、説明可能性について第一の考慮事項として扱う構造的表現が必要である。
我々は,説明の役割,システムとユーザ属性の双方をモデル化するための説明オントロジーを設計し,異なる文献に基づく説明型の範囲を設計する。
論文 参考訳（メタデータ） (2020-10-04T03:53:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。