論文の概要: Feasible and Desirable Counterfactual Generation by Preserving Human Defined Constraints

• arxiv url: http://arxiv.org/abs/2210.05993v1
• Date: Wed, 12 Oct 2022 08:04:37 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-13 15:59:01.186707
• Title: Feasible and Desirable Counterfactual Generation by Preserving Human Defined Constraints
• Title（参考訳）: 人間の定義した制約を保ちながら、実現可能で望ましい反事実生成
• Authors: Homayun Afrabandpey, Michael Spranger
• Abstract要約: 本稿では,グローバルかつ局所的な実現可能性の制約を保った対実的(CF)説明を生成するための,ループ内の人間的アプローチを提案する。 提案手法は,これらの制約に違反する勾配ステップを拒否することでCF説明を生成するために,この知識を効果的に活用する。 CF生成中に因果制約を組み込むことで,参加者への実現可能性や望ましさの観点から,より優れた説明ができることを示す。
• 参考スコア（独自算出の注目度）: 6.123324869194193
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present a human-in-the-loop approach to generate counterfactual (CF) explanations that preserve global and local feasibility constraints. Global feasibility constraints refer to the causal constraints that are necessary for generating actionable CF explanation. Assuming a domain expert with knowledge on unary and binary causal constraints, our approach efficiently employs this knowledge to generate CF explanation by rejecting gradient steps that violate these constraints. Local feasibility constraints encode end-user's constraints for generating desirable CF explanation. We extract these constraints from the end-user of the model and exploit them during CF generation via user-defined distance metric. Through user studies, we demonstrate that incorporating causal constraints during CF generation results in significantly better explanations in terms of feasibility and desirability for participants. Adopting local and global feasibility constraints simultaneously, although improves user satisfaction, does not significantly improve desirability of the participants compared to only incorporating global constraints.
• Abstract（参考訳）: 本稿では,グローバルかつ局所的な実現可能性の制約を保った対実的(CF)説明を生成するための,ループ内の人間的アプローチを提案する。 グローバル実行可能性制約は、実行可能なCF説明を生成するのに必要な因果制約を指す。 単項および二項の因果制約に関する知識を持つドメインエキスパートを仮定すると、この知識を効果的に利用して、これらの制約に違反する勾配ステップを拒否することでCF説明を生成する。 ローカル実行可能性制約は、望ましいCF説明を生成するエンドユーザの制約を符号化する。 我々は,これらの制約をモデルのエンドユーザから抽出し,ユーザ定義距離メトリクスを用いてcf生成時に活用する。 本研究では,cf生成時に因果的制約を組み込むことにより,参加者に対する実現可能性や期待可能性の観点で説明が著しく向上することを示す。 局所的およびグローバルな実行可能性制約を同時に採用することは、ユーザの満足度は向上するが、グローバルな制約のみを取り入れることに比べ、参加者の望ましさを大幅に改善するものではない。

関連論文リスト

• Deep Neural Network for Constraint Acquisition through Tailored Loss Function [0.0]
  データから制約を学習することの重要性は、実世界の問題解決における潜在的な応用によって裏付けられている。 この研究は、シンボリック回帰に基づくディープニューラルネットワーク(DNN)に基づく新しいアプローチを導入する。
  論文  参考訳（メタデータ） (2024-03-04T13:47:33Z)
• Introducing User Feedback-based Counterfactual Explanations (UFCE) [49.1574468325115]
  対実的説明(CE)は、XAIで理解可能な説明を生成するための有効な解決策として浮上している。 UFCEは、アクション可能な機能のサブセットで最小限の変更を決定するために、ユーザー制約を含めることができる。 UFCEは、textitproximity(英語版)、textitsparsity(英語版)、textitfeasibility(英語版)の2つのよく知られたCEメソッドより優れている。
  論文  参考訳（メタデータ） (2024-02-26T20:09:44Z)
• Achieving Constraints in Neural Networks: A Stochastic Augmented Lagrangian Approach [49.1574468325115]
  DNN(Deep Neural Networks)の正規化は、一般化性の向上とオーバーフィッティングの防止に不可欠である。 制約付き最適化問題としてトレーニングプロセスのフレーミングによるDNN正規化に対する新しいアプローチを提案する。 我々はAugmented Lagrangian (SAL) 法を用いて、より柔軟で効率的な正規化機構を実現する。
  論文  参考訳（メタデータ） (2023-10-25T13:55:35Z)
• Safe Neural Control for Non-Affine Control Systems with Differentiable Control Barrier Functions [58.19198103790931]
  本稿では,非アフィン制御系における安全クリティカル制御の問題に対処する。 制御バリア関数(CBF)を用いて,状態制約と制御制約の2次コストの最適化を2次プログラムのシーケンス(QP)にサブ最適化できることが示されている。 我々は,高次CBFをニューラル常微分方程式に基づく学習モデルに差分CBFとして組み込んで,非アフィン制御系の安全性を保証する。
  論文  参考訳（メタデータ） (2023-09-06T05:35:48Z)
• Compositional Diffusion-Based Continuous Constraint Solvers [98.1702285470628]
  本稿では,ロボット推論と計画における連続的制約満足度問題(CCSP)の解法について紹介する。 対照的に、構成拡散連続制約解法(Diffusion-CCSP)は、CCSPに対する大域的な解を導出する。
  論文  参考訳（メタデータ） (2023-09-02T15:20:36Z)
• Computational-level Analysis of Constraint Compliance for General Intelligence [4.383011485317949]
  ルール、法則、道徳的命令は人間の行動を管理する制約の類の一例である。 このような混乱にもかかわらず、人間は決定に制約をしっかりと迅速に組み込む。 一般に、人工的な知性エージェントは、現実世界の制約のシステムの混乱をナビゲートできなければならない。
  論文  参考訳（メタデータ） (2023-03-08T03:25:24Z)
• Optimal Decision Trees For Interpretable Clustering with Constraints (Extended Version) [7.799182201815762]
  制約クラスタリング(Constrained clustering)は、制約として定式化された限られた量のラベル付きデータを使用する半教師付きタスクである。 本稿では、クラスタリング制約をサポートする解釈可能なクラスタリングのための新しいSATベースのフレームワークを提案する。 また,ユーザが提供する制約の解釈可能性と満足度とのトレードオフについて,新たな知見を提示する。
  論文  参考訳（メタデータ） (2023-01-30T05:34:49Z)
• Finding Counterfactual Explanations through Constraint Relaxations [6.961253535504979]
  インタラクティブな制約システムは、しばしばユーザーの制約が矛盾するため、実現不可能(解決策がない)に悩まされる。 不実現性を取り戻すための一般的なアプローチは、システム内の衝突を引き起こす制約を取り除くことである。 本稿では,過度に制約された制約満足度問題における競合検出と最大緩和に基づく反復的手法を提案する。
  論文  参考訳（メタデータ） (2022-04-07T13:18:54Z)
• Controllable Summarization with Constrained Markov Decision Process [50.04321779376415]
  本研究では,ユーザが特定の属性を制御できる可制御テキスト要約について検討する。 制約付きマルコフ決定プロセス(CMDP)に基づく新しいトレーニングフレームワークを提案する。 我々のフレームワークは、長さ、被覆された実体、抽象性など、要約の重要な属性を制御するために応用できる。
  論文  参考訳（メタデータ） (2021-08-07T09:12:53Z)
• Pointwise Feasibility of Gaussian Process-based Safety-Critical Control under Model Uncertainty [77.18483084440182]
  制御バリア関数(CBF)と制御リアプノフ関数(CLF)は、制御システムの安全性と安定性をそれぞれ強化するための一般的なツールである。 本稿では, CBF と CLF を用いた安全クリティカルコントローラにおいて, モデル不確実性に対処するためのガウスプロセス(GP)に基づくアプローチを提案する。
  論文  参考訳（メタデータ） (2021-06-13T23:08:49Z)
• Satisfiability and Query Answering in Description Logics with Global and Local Cardinality Constraints [6.961253535504978]
  本稿では,表現的記述論理(DL) ALCSCC++を導入,検討する。 一方,これは満足度チェックや他の標準推論問題の複雑さを増大させるものではない。 一方、言語に逆の役割を加えると、満足度問題は決定不能となる。
  論文  参考訳（メタデータ） (2020-02-14T15:28:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。