論文の概要: PXGen: A Post-hoc Explainable Method for Generative Models

• arxiv url: http://arxiv.org/abs/2501.11827v1
• Date: Tue, 21 Jan 2025 02:10:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-22 14:24:44.153067
• Title: PXGen: A Post-hoc Explainable Method for Generative Models
• Title（参考訳）: PXGen: 生成モデルのためのポストホック説明可能な方法
• Authors: Yen-Lung Huang, Ming-Hsi Weng, Hao-Tsung Yang,
• Abstract要約: 生成型AI(XAI)は、生成型AI技術の責任ある開発と展開を保証する上で重要な役割を果たす。 近年の研究では、有能なXAI手法は、主に2つの重要な領域に焦点を当てた一連の基準に従うべきであることが強調されている。 生成モデルのためのポストホックな説明可能な手法であるPXGenを提案する。
• 参考スコア（独自算出の注目度）: 0.5266869303483376
• License:
• Abstract: With the rapid growth of generative AI in numerous applications, explainable AI (XAI) plays a crucial role in ensuring the responsible development and deployment of generative AI technologies. XAI has undergone notable advancements and widespread adoption in recent years, reflecting a concerted push to enhance the transparency, interpretability, and credibility of AI systems. Recent research emphasizes that a proficient XAI method should adhere to a set of criteria, primarily focusing on two key areas. Firstly, it should ensure the quality and fluidity of explanations, encompassing aspects like faithfulness, plausibility, completeness, and tailoring to individual needs. Secondly, the design principle of the XAI system or mechanism should cover the following factors such as reliability, resilience, the verifiability of its outputs, and the transparency of its algorithm. However, research in XAI for generative models remains relatively scarce, with little exploration into how such methods can effectively meet these criteria in that domain. In this work, we propose PXGen, a post-hoc explainable method for generative models. Given a model that needs to be explained, PXGen prepares two materials for the explanation, the Anchor set and intrinsic & extrinsic criteria. Those materials are customizable by users according to their purpose and requirements. Via the calculation of each criterion, each anchor has a set of feature values and PXGen provides examplebased explanation methods according to the feature values among all the anchors and illustrated and visualized to the users via tractable algorithms such as k-dispersion or k-center.
• Abstract（参考訳）: 多数のアプリケーションにおける生成AIの急速な成長に伴い、説明可能なAI(XAI)は、生成AI技術の責任ある開発と展開を保証する上で重要な役割を担っている。 XAIは近年、顕著な進歩と広く採用されており、AIシステムの透明性、解釈可能性、信頼性を高めるための継続的な取り組みを反映している。 近年の研究では、有能なXAI手法は、主に2つの重要な領域に焦点を当てた一連の基準に従うべきであることが強調されている。 第一に、それは説明の質と流動性を確実にし、忠実さ、妥当性、完全性、そして個々のニーズに合わせて調整するといった側面を包含するべきである。 第2に、XAIシステムやメカニズムの設計原則は、信頼性、レジリエンス、出力の妥当性、アルゴリズムの透明性といった、以下の要因をカバーすべきである。 しかし、生成モデルのためのXAIの研究は比較的少ないままであり、そのような手法がその領域でこれらの基準を効果的に満たす方法についてはほとんど研究されていない。 本研究では,生成モデルのためのポストホックな説明可能な手法であるPXGenを提案する。 説明が必要なモデルが与えられた後、PXGenは説明のための2つの資料、アンカー集合と本質的・外生的基準を準備している。 これらの素材は、利用者の目的や要求に応じてカスタマイズできる。 各基準の計算により、各アンカーには一連の特徴値があり、PXGenはすべてのアンカーの特徴値に応じてサンプルベースの説明方法を提供する。

関連論文リスト

• Generative Artificial Intelligence Meets Synthetic Aperture Radar: A Survey [49.29751866761522]
  本稿では,GenAIとSARの交差点について検討する。 まず、SAR分野における一般的なデータ生成ベースのアプリケーションについて説明する。 次に、最新のGenAIモデルの概要を体系的にレビューする。 最後に、SARドメインの対応するアプリケーションも含まれる。
  論文  参考訳（メタデータ） (2024-11-05T03:06:00Z)
• Two-Timescale Model Caching and Resource Allocation for Edge-Enabled AI-Generated Content Services [55.0337199834612]
  Generative AI(GenAI)は、カスタマイズされたパーソナライズされたAI生成コンテンツ(AIGC)サービスを可能にするトランスフォーメーション技術として登場した。 これらのサービスは数十億のパラメータを持つGenAIモデルの実行を必要とし、リソース制限の無線エッジに重大な障害を生じさせる。 我々は、AIGC品質とレイテンシメトリクスのトレードオフをバランスさせるために、AIGCサービスのジョイントモデルキャッシングとリソースアロケーションの定式化を導入する。
  論文  参考訳（メタデータ） (2024-11-03T07:01:13Z)
• XAI-based Feature Ensemble for Enhanced Anomaly Detection in Autonomous Driving Systems [1.3022753212679383]
  本稿では,複数の Explainable AI (XAI) メソッドを統合する新しい機能アンサンブルフレームワークを提案する。 このフレームワークは、6つの多様なAIモデルにまたがって、これらのXAIメソッドによって識別されるトップ機能を融合することによって、異常の検出に不可欠な堅牢で包括的な機能のセットを生成する。 我々の技術は、AIモデルの精度、堅牢性、透明性の向上を示し、より安全で信頼性の高い自動運転システムに貢献します。
  論文  参考訳（メタデータ） (2024-10-20T14:34:48Z)
• XEdgeAI: A Human-centered Industrial Inspection Framework with Data-centric Explainable Edge AI Approach [2.0209172586699173]
  本稿では,新しいXAI統合視覚品質検査フレームワークを提案する。 我々のフレームワークはXAIとLarge Vision Language Modelを組み込んで人間中心の解釈可能性を提供する。 このアプローチは、重要な産業アプリケーションに信頼性と解釈可能なAIツールを広く採用する道を開くものだ。
  論文  参考訳（メタデータ） (2024-07-16T14:30:24Z)
• Explainable AI for Enhancing Efficiency of DL-based Channel Estimation [1.0136215038345013]
  人工知能に基づく意思決定のサポートは、将来の6Gネットワークの重要な要素である。 このようなアプリケーションでは、ブラックボックスモデルとしてAIを使用するのは危険で難しい。 本稿では,無線通信におけるチャネル推定を目的とした新しいXAI-CHESTフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-09T16:24:21Z)
• Evolutionary Computation and Explainable AI: A Roadmap to Understandable Intelligent Systems [37.02462866600066]
  進化的計算(EC)は、説明可能なAI(XAI)に寄与する大きな可能性を提供する 本稿では、XAIの紹介を行い、機械学習モデルを説明するための現在の技術についてレビューする。 次に、ECがXAIでどのように活用できるかを検討し、ECテクニックを取り入れた既存のXAIアプローチを調べます。
  論文  参考訳（メタデータ） (2024-06-12T02:06:24Z)
• Generative AI Agent for Next-Generation MIMO Design: Fundamentals, Challenges, and Vision [76.4345564864002]
  次世代の多重入力多重出力(MIMO)はインテリジェントでスケーラブルであることが期待される。 本稿では、カスタマイズされた特殊コンテンツを生成することができる生成型AIエージェントの概念を提案する。 本稿では、生成AIエージェントをパフォーマンス分析に活用することの有効性を示す2つの説得力のあるケーススタディを示す。
  論文  参考訳（メタデータ） (2024-04-13T02:39:36Z)
• REX: Rapid Exploration and eXploitation for AI Agents [103.68453326880456]
  本稿では、REXと呼ばれるAIエージェントのための高速探索およびeXploitationのための改良されたアプローチを提案する。 REXは追加の報酬層を導入し、アッパー信頼境界(UCB)スコアに似た概念を統合し、より堅牢で効率的なAIエージェントのパフォーマンスをもたらす。
  論文  参考訳（メタデータ） (2023-07-18T04:26:33Z)
• Optimizing Explanations by Network Canonization and Hyperparameter Search [74.76732413972005]
  ルールベースで修正されたバックプロパゲーションXAIアプローチは、モダンなモデルアーキテクチャに適用される場合、しばしば課題に直面します。 モデルカノン化は、基礎となる機能を変更することなく問題のあるコンポーネントを無視してモデルを再構成するプロセスである。 本研究では、一般的なディープニューラルネットワークアーキテクチャに適用可能な、現在関連するモデルブロックのカノン化を提案する。
  論文  参考訳（メタデータ） (2022-11-30T17:17:55Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• A multi-component framework for the analysis and design of explainable artificial intelligence [0.0]
  説明可能な人工知能(XAI)の研究の急速な成長は、2つの実質的な発展に続く。 AIシステムの透明性と信頼性を確保するための規制原則の作成を含む、信頼できるAIシステムを作成するための懸念の出現。 ここでは、XAI要件の戦略的在庫を提供し、XAIのアイデアの歴史とそれらの関連性を実証し、これらのアイデアを単純なフレームワークに合成し、5段階のXAIをキャリブレーションする。
  論文  参考訳（メタデータ） (2020-05-05T01:48:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。