論文の概要: Federated Explainable Artificial Intelligence: Roles, Architectures, Evaluation, and Open Challenges
- arxiv url: http://arxiv.org/abs/2607.13045v1
- Date: Mon, 15 Jun 2026 21:02:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-19 21:54:20.410568
- Title: Federated Explainable Artificial Intelligence: Roles, Architectures, Evaluation, and Open Challenges
- Title（参考訳）: フェデレートされた説明可能な人工知能: 役割、アーキテクチャ、評価、オープンチャレンジ
- Abstract要約: Federated Explainable Artificial Intelligence (FedXAI)は、プライバシーと説明可能性要件を共同で満たすことを目的としている。
この調査はFedXAIの体系的なレビューを提供し、ポストホックツールからFLライフサイクルの不可欠なコンポーネントへの説明可能性の移行を強調している。
- 参考スコア（独自算出の注目度）: 1.1724565818034947
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Federated Learning (FL) has emerged as a key paradigm for privacy-preserving collaborative model training across distributed and heterogeneous data sources. By keeping raw data local, FL addresses data confidentiality concerns, yet it does not resolve the opacity of modern machine learning models. In parallel, Explainable Artificial Intelligence (XAI) has gained attention for improving transparency, trust, and accountability, particularly in high-stakes domains. Their intersection has given rise to Federated Explainable Artificial Intelligence (FedXAI) paradigm, which aims to jointly satisfy privacy and explainability requirements. This survey provides a systematic review of FedXAI, highlighting the transition of explainability from a post-hoc tool to an integral component of the FL lifecycle. We show how explainability supports aggregation, personalization, robustness, coordination, and system-level decision making. To organize the literature, we introduce a taxonomy that classifies FedXAI methods by the role of explainability, model and explainer types, explanation scope, integration level, FL settings, and data heterogeneity. We review approaches ranging from model-agnostic explanations to interpretable federated models and explainability-aware aggregation mechanisms. We also examine evaluation practices and discuss the lack of standardized benchmarks and metrics for measuring explanation quality, stability, privacy leakage, and computational overhead. Finally, we identify key challenges, including explainability under non-IID data, explanation-centric security threats, communication-efficient XAI, continual FedXAI, and the integration of domain knowledge and regulatory constraints. By consolidating existing work and identifying key gaps, this survey serves as a reference framework for designing trustworthy, transparent, and privacy-preserving federated AI systems.
- Abstract（参考訳）: フェデレートラーニング(FL)は、分散および異種データソース間のプライバシー保護協調モデルトレーニングの重要なパラダイムとして登場した。
生データをローカルに保つことで、FLはデータの機密性に関する懸念に対処するが、現代の機械学習モデルの不透明さは解決しない。
並行して、説明可能な人工知能(XAI)は、透明性、信頼性、説明責任の改善、特に高い領域で注目を集めている。
FedXAI(Federated Explainable Artificial Intelligence)パラダイムは、プライバシと説明可能性要件を共同で満足することを目的としている。
この調査はFedXAIの体系的なレビューを提供し、ポストホックツールからFLライフサイクルの不可欠なコンポーネントへの説明可能性の移行を強調している。
集約、パーソナライゼーション、ロバスト性、コーディネーション、システムレベルの意思決定をサポートする説明可能性を示す。
文献を整理するために,FedXAIの手法を,説明可能性,モデルおよび説明型,説明範囲,統合レベル,FL設定,データ不均一性といった役割によって分類する分類法を導入する。
本稿では,モデルに依存しない説明から解釈可能なフェデレーションモデル,説明可能性を考慮したアグリゲーション機構まで,さまざまなアプローチについてレビューする。
また、評価手法について検討し、品質、安定性、プライバシーの漏洩、計算オーバーヘッドを測定するための標準ベンチマークとメトリクスの欠如について議論する。
最後に、非IIDデータによる説明可能性、説明中心のセキュリティ脅威、通信効率の高いXAI、連続的なFedXAI、ドメイン知識と規制制約の統合など、主要な課題を特定します。
既存の作業の統合と重要なギャップの特定によって、この調査は、信頼できる、透明で、プライバシに保護されたフェデレーションAIシステムを設計するためのリファレンスフレームワークとして機能する。
関連論文リスト
- CLAIM: Leading Open-domain Active Clarification of Large Language Models with Uncertainty Measurement [50.91045324738942]
CLAIMは、オープンドメイン環境でのアクティブな明確化学習のための不確実性駆動フレームワークである。
本研究では,不確実性推定とセマンティッククラスタリングと推論に基づく判断を統合したエントロピー駆動型合成データ生成パイプラインを提案する。
実験の結果,手動でラベル付けしたデータに頼ることなく,CLAIMが安定かつ一般化可能な明確化戦略を学習できることが確認された。
論文 参考訳（メタデータ） (2026-08-12T04:27:45Z) - Quantization in Federated Learning: Methods, Challenges and Future Directions [6.698585272555488]
本稿では,FL中心の量子化を初めて体系的に検討し,FL固有次元を中心に整理された新しい分類法を提案する。
量子化がクライアントドリフト、部分的参加、収束安定性、セキュアアグリゲーション、差分プライバシーなどの中核FL行動とどのように相互作用するかを分析する。
論文 参考訳（メタデータ） (2026-06-25T10:03:55Z) - Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - Explainable AI in Big Data Fraud Detection [3.5429848204449694]
本稿では,不正検出とリスク管理のために,説明可能な人工知能(XAI)をビッグデータ分析パイプラインに統合する方法について検討する。
本稿では,分散ストレージシステム,ストリーミングプラットフォーム,高度な不正検出モデルなど,ビッグデータの特徴と主要な分析ツールについて概説する。
グラフおよび時間モデルのスケーラビリティ、リアルタイム処理、説明可能性に関連する重要な研究ギャップを同定する。
本論文は、スケーラブルなXAIにおけるオープンな研究の方向性、プライバシ対応の説明、および説明可能な不正検出システムのための標準化された評価手法で締めくくっている。
論文 参考訳（メタデータ） (2025-12-17T23:40:54Z) - Rethinking Data Protection in the (Generative) Artificial Intelligence Era [138.07763415496288]
現代の(生産的な)AIモデルやシステムに生じる多様な保護ニーズを捉える4段階の分類法を提案する。
当社のフレームワークは、データユーティリティとコントロールのトレードオフに関する構造化された理解を提供し、AIパイプライン全体にわたっています。
論文 参考訳（メタデータ） (2025-07-03T02:45:51Z) - Federated Learning: A Survey on Privacy-Preserving Collaborative Intelligence [0.0]
フェデレートラーニング(FL)は、分散機械学習の分野における変革的パラダイムとして登場した。
この調査は、フェデレートラーニングの簡潔かつ包括的概要を提供する。
論文 参考訳（メタデータ） (2025-04-24T16:10:29Z) - Ten Challenging Problems in Federated Foundation Models [55.343738234307544]
フェデレーション・ファンデーション・モデル(Federated Foundation Models、FedFM)は、フェデレーション・モデルの一般的な能力とフェデレーション・ラーニングのプライバシー保護能力を融合させる分散学習パラダイムである。
本稿では,FedFMに固有の10の課題について,基礎理論,プライベートデータの利用,継続学習,非学習,非IIDおよびグラフデータ,双方向知識伝達,インセンティブ機構設計,ゲーム機構設計,モデル透かし,効率を包括的に要約する。
論文 参考訳（メタデータ） (2025-02-14T04:01:15Z) - Privacy Implications of Explainable AI in Data-Driven Systems [0.0]
機械学習(ML)モデルは、解釈可能性の欠如に悩まされる。
透明性の欠如は、しばしばMLモデルのブラックボックスの性質と呼ばれ、信頼を損なう。
XAI技術は、内部の意思決定プロセスを説明するためのフレームワークと方法を提供することによって、この問題に対処する。
論文 参考訳（メタデータ） (2024-06-22T08:51:58Z) - When Can You Trust Your Explanations? A Robustness Analysis on Feature Importances [42.36530107262305]
説明の堅牢性は、システムと提供された説明の両方を信頼する上で、中心的な役割を果たす。
本稿では,非対向摂動に対するニューラルネットワーク説明の頑健さを解析するための新しいアプローチを提案する。
さらに,様々な説明を集約するアンサンブル手法を提案し,モデルの決定を理解し,頑健さを評価することによって,説明の融合がいかに有用かを示す。
論文 参考訳（メタデータ） (2024-06-20T14:17:57Z) - Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。
現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。
本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
論文 参考訳（メタデータ） (2021-06-14T20:48:48Z) - Uncertainty as a Form of Transparency: Measuring, Communicating, and
Using Uncertainty [66.17147341354577]
我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。
モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。
この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
論文 参考訳（メタデータ） (2020-11-15T17:26:14Z) - Trustworthy AI [75.99046162669997]
入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。
我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
論文 参考訳（メタデータ） (2020-11-02T20:04:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。