論文の概要: GLANCE: Global Actions in a Nutshell for Counterfactual Explainability

• arxiv url: http://arxiv.org/abs/2405.18921v2
• Date: Fri, 18 Oct 2024 09:05:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-21 14:22:17.437787
• Title: GLANCE: Global Actions in a Nutshell for Counterfactual Explainability
• Title（参考訳）: GLANCE: 現実的説明責任のためのNutshellにおけるグローバルアクション
• Authors: Loukas Kavouras, Eleni Psaroudaki, Konstantinos Tsopelas, Dimitrios Rontogiannis, Nikolaos Theologitis, Dimitris Sacharidis, Giorgos Giannopoulos, Dimitrios Tomaras, Kleopatra Markou, Dimitrios Gunopulos, Dimitris Fotakis, Ioannis Emiris,
• Abstract要約: 2つのアルゴリズムからなる多目的かつ適応的なフレームワークであるGLANCEを紹介する。 C-GLANCEは、特徴空間と反現実的アクションの空間の両方を考慮するクラスタリングアプローチを採用している。 T-GLANCEは柔軟性を高めるための追加機能を提供する。
• 参考スコア（独自算出の注目度）: 10.25011737760687
• License:
• Abstract: The widespread deployment of machine learning systems in critical real-world decision-making applications has highlighted the urgent need for counterfactual explainability methods that operate effectively. Global counterfactual explanations, expressed as actions to offer recourse, aim to provide succinct explanations and insights applicable to large population subgroups. Effectiveness is measured by the fraction of the population that is provided recourse, ensuring that the actions benefit as many individuals as possible. Keeping the cost of actions low ensures the proposed recourse actions remain practical and actionable. Limiting the number of actions that provide global counterfactuals is essential to maximize interpretability. The primary challenge, therefore, is balancing these trade-offs, i.e., maximizing effectiveness, minimizing cost, while maintaining a small number of actions. We introduce GLANCE, a versatile and adaptive framework, comprising two algorithms, that allows the careful balancing of the trade-offs among the three key objectives, with the size objective functioning as a tunable parameter to keep the actions few and easy to interpret. C-GLANCE employs a clustering approach that considers both the feature space and the space of counterfactual actions, thereby accounting for the distribution of points in a way that aligns with the structure of the model. T-GLANCE provides additional features to enhance flexibility. It employs a tree-based approach, that allows users to specify split features, to build a decision tree with a single counterfactual action at each node that can be used as a subgroup policy. Our extensive experimental evaluation demonstrates that our method consistently shows greater robustness and performance compared to existing methods across various datasets and models.
• Abstract（参考訳）: 重要な実世界の意思決定アプリケーションに機械学習システムの広範な展開は、効果的に動作する対実的説明可能性手法の緊急な必要性を浮き彫りにした。 グローバルな対物的説明は、リコースを提供するための行動として表現され、大集団のサブグループに適用可能な簡潔な説明と洞察を提供することを目的としている。 有効性は、リコースを提供する人口のごく一部によって測定され、アクションができるだけ多くの個人に利益をもたらすことが保証される。 アクションのコストを低く保ち、提案されたリコースアクションが実用的で実行可能であることを保証します。 解釈可能性の最大化には、グローバルな反事実を提供するアクションの数を制限することが不可欠である。 したがって、主な課題は、これらのトレードオフ、すなわち効果を最大化し、コストを最小化し、少数のアクションを維持しながらバランスをとることである。 GLANCEは2つのアルゴリズムから構成される多目的かつ適応的なフレームワークで、3つの主要な目標間のトレードオフを慎重にバランスさせ、サイズ目的を調整可能なパラメータとして機能させ、アクションを小さく、容易に解釈できるようにする。 C-GLANCEは、特徴空間と反現実的行動空間の両方を考慮するクラスタリングアプローチを採用し、したがってモデルの構造と整合する方法で点の分布を考慮に入れている。 T-GLANCEは柔軟性を高めるための追加機能を提供する。 分割機能を指定することができるツリーベースのアプローチを採用し、サブグループポリシーとして使用可能な各ノードに1つのカウンターファクトアクションを持つ決定ツリーを構築する。 実験により,本手法は様々なデータセットやモデルにまたがる既存手法と比較して,常に強靭性や性能を示すことが示された。

関連論文リスト

• Towards Unifying Interpretability and Control: Evaluation via Intervention [25.4582941170387]
  本稿では,解釈可能性の基本的な目標として介入を提案し,手法が介入を通してモデル動作をいかにうまく制御できるかを評価するために成功基準を導入する。 我々は4つの一般的な解釈可能性手法(オートエンコーダ、ロジットレンズ、チューニングレンズ、探索)を抽象エンコーダデコーダフレームワークに拡張する。 本稿では,介入成功率とコヒーレンス・インターベンショントレードオフの2つの新しい評価指標を紹介する。
  論文  参考訳（メタデータ） (2024-11-07T04:52:18Z)
• An Information Compensation Framework for Zero-Shot Skeleton-based Action Recognition [49.45660055499103]
  ゼロショットの人間の骨格に基づく行動認識は、トレーニング中に見られるカテゴリ外の行動を認識するモデルを構築することを目的としている。 従来の研究では、シーケンスの視覚的空間分布と意味的空間分布の整合性に焦点が当てられていた。 強固で頑健な表現を得るために,新たな損失関数サンプリング手法を提案する。
  論文  参考訳（メタデータ） (2024-06-02T06:53:01Z)
• Improving Point-based Crowd Counting and Localization Based on Auxiliary Point Guidance [59.71186244597394]
  本稿では,提案手法における提案対象マッチングの安定化に有効な手法を提案する。 本稿では,提案手法の選択と最適化のために,Auxiliary Point Guidance (APG)を提案する。 また,多様な群集シナリオにおける適応的特徴抽出を可能にするために,IFI(Implicit Feature Interpolation)を開発した。
  論文  参考訳（メタデータ） (2024-05-17T07:23:27Z)
• GaitGCI: Generative Counterfactual Intervention for Gait Recognition [15.348742723718964]
  Gaitは、歩行者を歩行パターンから識別することを目的とした、最も有望なバイオメトリクスの1つだ。 一般的な手法は共同設立者には受け入れられず、結果としてネットワークは効果的な歩行パターンを反映する領域にほとんど焦点を合わせない。 本稿では、対実干渉学習(CIL)と多様性制約動的畳み込み(DCDC)からなる、GaitGCIと呼ばれる生成対実干渉フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-06-06T05:59:23Z)
• Learning to Generate All Feasible Actions [4.333208181196761]
  アクションマッピングは、学習プロセスを2つのステップに分割する新しいアプローチである。 本稿では、実現可能性モデルの自己教師型クエリにより、実現可能なすべてのアクションを生成することを学ぶことで、実現可能性部分に焦点を当てる。 エージェントが接続不能な実行可能なアクションセット間でアクションを生成する能力を示す。
  論文  参考訳（メタデータ） (2023-01-26T23:15:51Z)
• Weakly Supervised Disentangled Representation for Goal-conditioned Reinforcement Learning [15.698612710580447]
  本稿では,サンプル効率の向上と政策一般化を目的としたスキル学習フレームワークDR-GRLを提案する。 本稿では,解釈可能かつ制御可能な表現を学習するための空間変換オートエンコーダ(STAE)を提案する。 DR-GRLは, 試料効率と政策一般化において, 従来の手法よりも有意に優れていたことを実証的に実証した。
  論文  参考訳（メタデータ） (2022-02-28T09:05:14Z)
• Beyond Individualized Recourse: Interpretable and Interactive Summaries of Actionable Recourses [14.626432428431594]
  本稿では,Actionable Recourse Agnostic (AReS) と呼ばれる新しいモデルフレームワークを提案する。 説明文の正当性と解釈可能性の両面を同時に最適化する新たな目的を定式化する。 当社のフレームワークは,ブラックボックスモデルに対応するリコースの包括的概要を意思決定者に提供する。
  論文  参考訳（メタデータ） (2020-09-15T15:14:08Z)
• An Information Bottleneck Approach for Controlling Conciseness in Rationale Extraction [84.49035467829819]
  我々は,情報ボトルネック(IB)の目的を最適化することで,このトレードオフをよりよく管理できることを示す。 我々の完全教師なしのアプローチは、文上のスパース二項マスクを予測する説明器と、抽出された合理性のみを考慮したエンドタスク予測器を共同で学習する。
  論文  参考訳（メタデータ） (2020-05-01T23:26:41Z)
• Task-Feature Collaborative Learning with Application to Personalized Attribute Prediction [166.87111665908333]
  本稿では,TFCL(Task-Feature Collaborative Learning)と呼ばれる新しいマルチタスク学習手法を提案する。 具体的には、まず、特徴とタスクの協調的なグループ化を活用するために、不均一なブロック対角構造正規化器を用いたベースモデルを提案する。 実際の拡張として,重なり合う機能と難易度を区別することで,基本モデルを拡張します。
  論文  参考訳（メタデータ） (2020-04-29T02:32:04Z)
• Discrete Action On-Policy Learning with Action-Value Critic [72.20609919995086]
  離散的な行動空間における強化学習(RL)は、実世界の応用では至るところで行われているが、その複雑さは行動空間次元とともに指数関数的に増大する。 我々は,行動値関数を推定し,相関行動に適用し,これらの評価値を組み合わせて勾配推定の分散を制御する。 これらの取り組みにより、分散制御技術に頼って、関連するRLアルゴリズムを実証的に上回る、新たな離散的なRLアルゴリズムが実現される。
  論文  参考訳（メタデータ） (2020-02-10T04:23:09Z)
• Polynomial-Time Exact MAP Inference on Discrete Models with Global Dependencies [83.05591911173332]
  ジャンクションツリーアルゴリズムは、実行時の保証と正確なMAP推論のための最も一般的な解である。 本稿では,ノードのクローン化による新たなグラフ変換手法を提案する。
  論文  参考訳（メタデータ） (2019-12-27T13:30:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。