論文の概要: Endogenous Macrodynamics in Algorithmic Recourse
- arxiv url: http://arxiv.org/abs/2308.08187v1
- Date: Wed, 16 Aug 2023 07:36:58 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-17 14:35:02.058760
- Title: Endogenous Macrodynamics in Algorithmic Recourse
- Title(参考訳): アルゴリズムにおける内因性マクロ力学
- Authors: Patrick Altmeyer, Giovan Angela, Aleksander Buszydlik, Karol Dobiczek,
Arie van Deursen, Cynthia C. S. Liem
- Abstract要約: 対実説明(CE)とアルゴリズム・リコース(AR)に関する既存の研究は、静的環境における個人に主に焦点を当ててきた。
既存の方法論の多くは、一般化されたフレームワークによってまとめて記述できることを示す。
次に、既存のフレームワークは、グループレベルでの言論の内在的ダイナミクスを研究する際にのみ明らかとなるような、隠された対外的関係のコストを考慮に入れていないと論じる。
- 参考スコア(独自算出の注目度): 52.87956177581998
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing work on Counterfactual Explanations (CE) and Algorithmic Recourse
(AR) has largely focused on single individuals in a static environment: given
some estimated model, the goal is to find valid counterfactuals for an
individual instance that fulfill various desiderata. The ability of such
counterfactuals to handle dynamics like data and model drift remains a largely
unexplored research challenge. There has also been surprisingly little work on
the related question of how the actual implementation of recourse by one
individual may affect other individuals. Through this work, we aim to close
that gap. We first show that many of the existing methodologies can be
collectively described by a generalized framework. We then argue that the
existing framework does not account for a hidden external cost of recourse,
that only reveals itself when studying the endogenous dynamics of recourse at
the group level. Through simulation experiments involving various state-of
the-art counterfactual generators and several benchmark datasets, we generate
large numbers of counterfactuals and study the resulting domain and model
shifts. We find that the induced shifts are substantial enough to likely impede
the applicability of Algorithmic Recourse in some situations. Fortunately, we
find various strategies to mitigate these concerns. Our simulation framework
for studying recourse dynamics is fast and opensourced.
- Abstract(参考訳): 既存のCE(Counterfactual Explanations)とAR(Progentic Recourse)の研究は、静的環境における個々の個人に焦点を当てている。
このような反事実がデータやモデルドリフトのようなダイナミクスを扱う能力は、ほとんど未解決の研究課題である。
また、ある個人による会話の実践が他の個人にどのように影響するかという、関連する問題に関する驚くべき研究はほとんど行われていない。
この作業を通じて、私たちはそのギャップを埋めることを目指しています。
まず,既存の方法論の多くは一般化されたフレームワークによって総称的に記述できることを示す。
そして、既存のフレームワークはリコースの隠れた外部コストを考慮せず、グループレベルでリコースの内在的なダイナミクスを研究する場合にのみ自己を明かす、と主張する。
様々な最先端の反ファクト生成装置とベンチマークデータセットを含むシミュレーション実験により、多数の反ファクト生成を行い、結果のドメインおよびモデルシフトを研究する。
帰納的シフトは,いくつかの状況においてアルゴリズム・リコースの適用性を阻害するおそれがある。
幸いにも、これらの懸念を軽減するためのさまざまな戦略を見つけています。
リコースダイナミクスを研究するためのシミュレーションフレームワークは高速でオープンソースです。
関連論文リスト
- Staged Reinforcement Learning for Complex Tasks through Decomposed
Environments [4.883558259729863]
RL問題を実問題に近似する2つの方法について議論する。
交通ジャンクションシミュレーションの文脈において、複雑なタスクを複数のサブタスクに分解できれば、これらのタスクを最初に解くのが有利であることを示す。
多エージェントの観点から、我々は、CTDE(Centralized Training Decentralized Execution)と呼ばれる一般的なパラダイムの下で学んだ経験の活用を活用するトレーニング構造化機構を導入する。
論文 参考訳(メタデータ) (2023-11-05T19:43:23Z) - Three-Way Trade-Off in Multi-Objective Learning: Optimization,
Generalization and Conflict-Avoidance [47.42067405054353]
MOL(Multi-objective Learning)は、機械学習の新興問題においてしばしば発生する問題である。
MOLにおける重要な課題の1つは、反復最適化プロセスにおける異なる目的間の潜在的な衝突である。
近年,MGDAやその変種など,MOLの動的重み付けアルゴリズムが開発されている。
論文 参考訳(メタデータ) (2023-05-31T17:31:56Z) - Causal Triplet: An Open Challenge for Intervention-centric Causal
Representation Learning [98.78136504619539]
Causal Tripletは、視覚的に複雑なシーンを特徴とする因果表現学習ベンチマークである。
この結果から,不整合表現やオブジェクト中心表現の知識によって構築されたモデルが,分散表現よりもはるかに優れていることを示す。
論文 参考訳(メタデータ) (2023-01-12T17:43:38Z) - Cycle-Consistent World Models for Domain Independent Latent Imagination [0.0]
高いコストとリスクは、現実世界での自動運転車の訓練を困難にします。
本稿では,Cycleconsistent World Modelsと呼ばれる新しいモデルに基づく強化学習手法を提案する。
論文 参考訳(メタデータ) (2021-10-02T13:55:50Z) - An Investigation of Replay-based Approaches for Continual Learning [79.0660895390689]
連続学習(CL)は機械学習(ML)の大きな課題であり、破滅的忘れ(CF)を伴わずに連続的に複数のタスクを学習する能力を記述する。
いくつかの解クラスが提案されており、その単純さと堅牢性から、いわゆるリプレイベースのアプローチは非常に有望であるように思われる。
連続学習におけるリプレイに基づくアプローチを実証的に検討し,応用の可能性を評価する。
論文 参考訳(メタデータ) (2021-08-15T15:05:02Z) - Variational Dynamic for Self-Supervised Exploration in Deep
Reinforcement Learning [64.87110914918101]
本研究では,条件付き変分推論に基づく変動力学モデルを提案し,多モード性および生成性をモデル化する。
環境遷移の負の対数類似度の上界を導出し、その上界を探査の本質的な報酬として利用する。
提案手法は,最先端の環境モデルに基づく探索手法よりも優れている。
論文 参考訳(メタデータ) (2020-10-17T09:54:51Z) - Modeling Shared Responses in Neuroimaging Studies through MultiView ICA [94.31804763196116]
被験者の大規模なコホートを含むグループ研究は、脳機能組織に関する一般的な結論を引き出す上で重要である。
グループ研究のための新しい多視点独立成分分析モデルを提案し、各被験者のデータを共有独立音源と雑音の線形結合としてモデル化する。
まず、fMRIデータを用いて、被験者間の共通音源の同定における感度の向上を示す。
論文 参考訳(メタデータ) (2020-06-11T17:29:53Z) - Plausible Counterfactuals: Auditing Deep Learning Classifiers with
Realistic Adversarial Examples [84.8370546614042]
ディープラーニングモデルのブラックボックスの性質は、彼らがデータから何を学ぶかについて、未回答の疑問を提起している。
GAN(Generative Adversarial Network)とマルチオブジェクトは、監査されたモデルに妥当な攻撃を与えるために使用される。
その実用性は人間の顔の分類タスクの中で示され、提案されたフレームワークの潜在的可能性を明らかにしている。
論文 参考訳(メタデータ) (2020-03-25T11:08:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。