論文の概要: Fair Enough? A map of the current limitations of the requirements to
have "fair" algorithms
- arxiv url: http://arxiv.org/abs/2311.12435v2
- Date: Sun, 17 Dec 2023 08:45:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-19 19:33:46.816998
- Title: Fair Enough? A map of the current limitations of the requirements to
have "fair" algorithms
- Title（参考訳）: Fair Enough?
フェア」アルゴリズムを持つための要件の現在の限界の地図
- Authors: Alessandro Castelnovo, Nicole Inverardi, Gabriele Nanino, Ilaria
Giuseppina Penco, Daniele Regoli
- Abstract要約: 自動意思決定システムはバイアスや不当な格差を永久に、あるいは増幅することができる。
政策立案者を含む社会の層はますます「公正」なアルゴリズムを要求するようになった。
社会が自動意思決定システムから求めているものと、現実のシナリオにおいて実際に何を意味するものとの間には、行き詰まりがある。
- 参考スコア（独自算出の注目度）: 46.20942922922006
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: In the recent years, the raise in the usage and efficiency of Artificial
Intelligence and, more in general, of Automated Decision-Making systems has
brought with it an increasing and welcome awareness of the risks associated
with such systems. One of such risks is that of perpetuating or even amplifying
bias and unjust disparities present in the data from which many of these
systems learn to adjust and optimise their decisions. This awareness has on one
side encouraged several scientific communities to come up with more and more
appropriate ways and methods to assess, quantify, and possibly mitigate such
biases and disparities. On the other hand, it has prompted more and more layers
of society, including policy makers, to call for "fair" algorithms. We believe
that while a lot of excellent and multidisciplinary research is currently being
conducted, what is still fundamentally missing is the awareness that having
"fair" algorithms is per se a nearly meaningless requirement, that needs to be
complemented with a lot of additional societal choices to become actionable.
Namely, there is a hiatus between what the society is demanding from Automated
Decision-Making systems, and what this demand actually means in real-world
scenarios. In this work, we outline the key features of such a hiatus, and
pinpoint a list of fundamental ambiguities and attention points that we as a
society must address in order to give a concrete meaning to the increasing
demand of fairness in Automated Decision-Making systems.
- Abstract（参考訳）: 近年、人工知能の利用と効率の向上、そしてより一般的には、自動意思決定システムの利用が増加し、そのようなシステムに関連するリスクに対する認識が高まり、歓迎されている。
そのようなリスクの1つは、これらのシステムの多くが自分たちの決定を調整し最適化することを学ぶデータに存在するバイアスや不当な不一致を永久にまたは増幅することである。
この認識は、いくつかの科学コミュニティが、より適切な方法や方法を考え出し、そのバイアスや格差を評価、定量化し、そして軽減することを奨励している。
一方で、政策立案者を含む社会の層が「公正」なアルゴリズムを呼び出すように促している。
現在、優れた多分野の研究が数多く行われているが、いまだに欠けているのは、"フェア"アルゴリズムがほとんど無意味な要件であり、行動可能な社会的な選択肢を数多く追加して補う必要がある、という認識である、と私たちは信じている。
すなわち、社会が自動意思決定システムから要求しているものと、現実のシナリオにおいて実際にこの要求が意味するものとの間には、行き詰まりがある。
本研究は,このような施設の要点を概説し,自動意思決定システムにおける公正性の増大に具体的な意味を与えるために,社会として対応すべき基本的な曖昧さと注意点の一覧を示す。
関連論文リスト
- Algorithmic Fairness: A Tolerance Perspective [31.882207568746168]
この調査はアルゴリズムの公正性に関する既存の文献を掘り下げ、特にその多面的な社会的影響を強調している。
我々は「寛容」に基づく新しい分類法を導入し、公正な結果の変動が許容される度合いとして定義する。
我々の体系的なレビューは多様な産業をカバーし、アルゴリズムによる意思決定と社会的株式のバランスに関する重要な洞察を明らかにしている。
論文 参考訳（メタデータ） (2024-04-26T08:16:54Z) - Adaptive reinforcement learning of multi-agent ethically-aligned
behaviours: the QSOM and QDSOM algorithms [0.9238700679836853]
本稿では,環境変化に適応可能なQSOMとQDSOMという2つのアルゴリズムを提案する。
我々は、小さなスマートグリッド地区におけるマルチエージェントエネルギー分割のユースケースでそれらを評価した。
論文 参考訳（メタデータ） (2023-07-02T12:22:02Z) - Causal Fairness for Outcome Control [68.12191782657437]
本稿では,自動システムにおいて,公平かつ公平な結果変数を最適化することを目的とした,結果制御と呼ばれる特定の意思決定タスクについて検討する。
本稿では、まず因果レンズを通して利益の概念を分析し、特定の個人が肯定的な決定によってどれだけの利益を得られるかを明らかにする。
次に、保護された属性の影響を受けている可能性があることに留意し、これを分析するために使用できる因果的ツールを提案する。
論文 参考訳（メタデータ） (2023-06-08T09:31:18Z) - Systemic Fairness [5.833272638548154]
本稿では,機械学習アルゴリズムにおける整合性と体系的公正性に関する定式化について述べる。
それは、現実世界の文脈におけるエコシステム全体の公平性に関するアルゴリズム的公正性文学に、より集中することを求めている。
論文 参考訳（メタデータ） (2023-04-14T02:24:55Z) - Harms from Increasingly Agentic Algorithmic Systems [21.613581713046464]
公正性、説明責任、透明性、倫理(FATE)の研究は、多くのアルゴリズム的害の源泉と形態を確立している。
継続的な被害にもかかわらず、同じ害の永続性を脅かす新しいシステムが開発され、展開されている。
論文 参考訳（メタデータ） (2023-02-20T21:42:41Z) - Human-Centric Multimodal Machine Learning: Recent Advances and Testbed
on AI-based Recruitment [66.91538273487379]
人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。
i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
論文 参考訳（メタデータ） (2023-02-13T16:44:44Z) - Causal Fairness Analysis [68.12191782657437]
意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。
我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。
本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
論文 参考訳（メタデータ） (2022-07-23T01:06:34Z) - Multiscale Governance [0.0]
ヒトデミクスは、異なるシステムを結ぶ経路のために伝播する。
システムの脆弱性や堅牢性は、この複雑なシステムのネットワークがどのように管理されているかによって異なります。
論文 参考訳（メタデータ） (2021-04-06T19:23:44Z) - Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。
我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
論文 参考訳（メタデータ） (2020-04-15T15:58:05Z) - Public Bayesian Persuasion: Being Almost Optimal and Almost Persuasive [57.47546090379434]
i) 任意の状態空間, (ii) 任意の行動空間, (iii) 任意の送信者のユーティリティ関数を用いて, 一般の状況下での公衆の説得問題を考察する。
任意の公的な説得問題に対して準多項式時間ビクテリア近似アルゴリズムを提案し、特定の設定でQPTASを出力する。
論文 参考訳（メタデータ） (2020-02-12T18:59:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。