論文の概要: AI Biases as Asymmetries: A Review to Guide Practice

• arxiv url: http://arxiv.org/abs/2503.07326v1
• Date: Mon, 10 Mar 2025 13:40:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-11 15:53:25.027614
• Title: AI Biases as Asymmetries: A Review to Guide Practice
• Title（参考訳）: AsymmetriesとしてのAIバイアス: ガイドプラクティスのレビュー
• Authors: Gabriella Waters, Phillip Honenberger,
• Abstract要約: バイアスはAIシステムにとって不可欠なものと認識され、バイアスの少ない選択肢よりも好まれる。 AIシステムのエラーバイアス、不平等バイアス、プロセスバイアスの3つの主要な非対称性を識別する。 私たちは、AI開発とアプリケーションのパイプラインの中で、それぞれのタイプのバイアスが良い、悪い、あるいは避けられないであろう場所を強調します。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: The understanding of bias in AI is currently undergoing a revolution. Initially understood as errors or flaws, biases are increasingly recognized as integral to AI systems and sometimes preferable to less biased alternatives. In this paper, we review the reasons for this changed understanding and provide new guidance on two questions: First, how should we think about and measure biases in AI systems, consistent with the new understanding? Second, what kinds of bias in an AI system should we accept or even amplify, and what kinds should we minimize or eliminate, and why? The key to answering both questions, we argue, is to understand biases as "violations of a symmetry standard" (following Kelly). We distinguish three main types of asymmetry in AI systems-error biases, inequality biases, and process biases-and highlight places in the pipeline of AI development and application where bias of each type is likely to be good, bad, or inevitable.
• Abstract（参考訳）: AIにおけるバイアスの理解は、現在革命を起こしています。 当初はエラーや欠陥として理解されていたが、バイアスはAIシステムにとって不可欠なものと認識され、バイアスの少ない代替案よりも好まれる場合もある。 本稿では、この変化した理解の理由をレビューし、2つの質問に対する新たなガイダンスを提供する。 第2に、AIシステムのどの種類のバイアスを受け入れるべきか、増幅すべきなのか、どんな種類のバイアスを最小化すべきか、排除すべきなのか、なぜなのか? 両方の問いに答える鍵は、偏見を「対称性標準の違反」として理解することである(Kellyに従えば)。 私たちは、AIシステムのエラーバイアス、不平等バイアス、プロセスバイアスの3つの主要な非対称性を区別します。

関連論文リスト

• What should an AI assessor optimise for? [57.96463917842822]
  AIアセスタ(AI Assessmentor)は、他のAIシステムの指標(損失値など)を予測する、外的、理想的には不適切なシステムである。 ここでは、問題に対処する: 常にターゲットメトリックのアセスメントをトレーニングするのが最適か? 本研究では, モノトニック写像と非モノトニック写像を用いた回帰損失と分類スコアについて実験的に検討した。
  論文  参考訳（メタデータ） (2025-02-01T08:41:57Z)
• Fantastic Biases (What are They) and Where to Find Them [0.0]
  一般にバイアスとは何かを定義しようとする。 マシンラーニングで避けたいのは、一般的に負のバイアスと見なされるものの概念に注目します。 我々はそれらを検出するための古典的な方法に目を向けて結論付けた。
  論文  参考訳（メタデータ） (2024-11-22T16:38:03Z)
• The Technology of Outrage: Bias in Artificial Intelligence [1.2289361708127877]
  人工知能と機械学習は、人々の意思決定をオフロードするためにますます使われています。 過去において、この代替の根拠の1つは、機械が人間と違って公平で偏見のないものになることである。 アルゴリズム的偏見に対して人々が感情的に反応する場合、我々は怒り、知性、道徳、政治の3つの形態を識別する。
  論文  参考訳（メタデータ） (2024-09-25T20:23:25Z)
• Measuring and Addressing Indexical Bias in Information Retrieval [69.7897730778898]
  PAIRフレームワークは、ランキングドキュメンテーションやIRシステム全体の自動バイアス監査をサポートする。 DUOを導入した後、我々は32kの合成と4.7kの天然文書からなる新しいコーパスで8つのIRシステムの広範な評価を行った。 人間の行動学的研究は、私たちのアプローチを検証し、私たちのバイアスメトリクスが、いつ、どのように指標バイアスが読者の意見を変えるかを予測するのに役立ちます。
  論文  参考訳（メタデータ） (2024-06-06T17:42:37Z)
• Mitigating Bias for Question Answering Models by Tracking Bias Influence [84.66462028537475]
  本稿では,複数選択QAモデルのバイアスを軽減するためのBMBIを提案する。 バイアスのある例から学んだ場合、モデルがよりバイアスに傾くように傾くという直感に基づいて、クエリインスタンスのバイアスレベルを測定します。 本手法は,複数のバイアスカテゴリにまたがる複数のQA定式化に適用可能であることを示す。
  論文  参考訳（メタデータ） (2023-10-13T00:49:09Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• A Seven-Layer Model for Standardising AI Fairness Assessment [0.5076419064097732]
  AIシステムは、開始から使用まで、ライフサイクルのあらゆる段階でバイアスを起こしやすいことを詳しく説明します。 オープンシステム相互接続(OSI)モデルにインスパイアされた,AIフェアネスハンドリングの標準化を目的とした,新しい7層モデルを提案する。
  論文  参考訳（メタデータ） (2022-12-21T17:28:07Z)
• Alterfactual Explanations -- The Relevance of Irrelevance for Explaining AI Systems [0.9542023122304099]
  我々は、決定を完全に理解するためには、関連する特徴に関する知識だけでなく、無関係な情報の認識もAIシステムのユーザーのメンタルモデルの作成に大きく貢献すると主張している。 私たちのアプローチは、Alterfactual Explanations(Alterfactual Explanations)と呼ばれ、AIの入力の無関係な特徴が変更された別の現実を示すことに基づいています。 我々は,AIの推論のさまざまな側面を,反事実的説明法よりも理解するために,人工的説明が適していることを示す。
  論文  参考訳（メタデータ） (2022-07-19T16:20:37Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• Simon Says: Evaluating and Mitigating Bias in Pruned Neural Networks with Knowledge Distillation [8.238238958749134]
  プルーニングニューラルネットワークの評価と緩和に関する現在の文献には明確なギャップがある。 本稿では,CEV(Combined Error Variance)とSDE(Symmetric Distance Error)の2つの簡易かつ効果的な指標を提案する。 第二に、知識蒸留は、不均衡なデータセットであっても、刈り取られたニューラルネットワークにおける誘導バイアスを軽減することができることを実証する。 第3に、モデル類似性はプルーニング誘起バイアスと強い相関関係があることを明らかにし、なぜプルーニングニューラルネットワークでバイアスが発生するのかを説明する強力な方法を提供する。
  論文  参考訳（メタデータ） (2021-06-15T02:59:32Z)
• Evading the Simplicity Bias: Training a Diverse Set of Models Discovers Solutions with Superior OOD Generalization [93.8373619657239]
  SGDで訓練されたニューラルネットワークは最近、線形予測的特徴に優先的に依存することが示された。 この単純さバイアスは、分布外堅牢性(OOD)の欠如を説明することができる。 単純さのバイアスを軽減し,ood一般化を改善できることを実証する。
  論文  参考訳（メタデータ） (2021-05-12T12:12:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。