論文の概要: Dissecting Causal Biases

• arxiv url: http://arxiv.org/abs/2310.13364v1
• Date: Fri, 20 Oct 2023 09:12:10 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-23 23:46:07.292610
• Title: Dissecting Causal Biases
• Title（参考訳）: 因果バイアスを解剖する
• Authors: R\=uta Binkyt\.e, Sami Zhioua, Yassine Turki
• Abstract要約: 本稿では,トレーニングデータの生成方法や収集方法に起因したバイアスのクラスに焦点を当てる。 バイアスの4つの源、すなわち、境界、選択、測定、相互作用が考慮されている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Accurately measuring discrimination in machine learning-based automated decision systems is required to address the vital issue of fairness between subpopulations and/or individuals. Any bias in measuring discrimination can lead to either amplification or underestimation of the true value of discrimination. This paper focuses on a class of bias originating in the way training data is generated and/or collected. We call such class causal biases and use tools from the field of causality to formally define and analyze such biases. Four sources of bias are considered, namely, confounding, selection, measurement, and interaction. The main contribution of this paper is to provide, for each source of bias, a closed-form expression in terms of the model parameters. This makes it possible to analyze the behavior of each source of bias, in particular, in which cases they are absent and in which other cases they are maximized. We hope that the provided characterizations help the community better understand the sources of bias in machine learning applications.
• Abstract（参考訳）: 機械学習に基づく自動意思決定システムにおける識別の正確な測定は、サブポピュレーションと個人間の公平性の欠如に対処するために必要である。 識別を測定するバイアスは、真の識別値の増幅または過小評価につながる可能性がある。 本稿では,トレーニングデータの生成や収集方法に起因したバイアスのクラスに焦点を当てる。 このような分類因果バイアス(class causal biases)と呼び、因果バイアスを正式に定義し分析するために因果関係の分野からツールを使用する。 バイアスの4つの源、すなわち結合、選択、測定、相互作用が考えられる。 本論文の主な貢献は,各バイアス源に対して,モデルパラメータの観点からの閉形式表現を提供することである。 これにより、それぞれのバイアス源の挙動、特に、それらが欠落しているケースや、他のケースが最大化されている場合を分析することができる。 提供される特性は、機械学習アプリケーションにおけるバイアスの源をコミュニティがより深く理解するのに役立つことを願っている。

関連論文リスト

• How far can bias go? -- Tracing bias from pretraining data to alignment [54.51310112013655]
  本研究では, 事前学習データにおける性別占有バイアスと, LLMにおける性別占有バイアスの相関について検討した。 その結果,事前学習データに存在するバイアスがモデル出力に増幅されることが判明した。
  論文  参考訳（メタデータ） (2024-11-28T16:20:25Z)
• Is There a One-Model-Fits-All Approach to Information Extraction? Revisiting Task Definition Biases [62.806300074459116]
  定義バイアスは、モデルを誤解させる可能性のある負の現象である。 IEでは、情報抽出データセット間のバイアスと、情報抽出データセットとインストラクションチューニングデータセット間のバイアスの2つの定義バイアスを識別する。 本稿では, 定義バイアス測定, バイアス対応微調整, タスク固有バイアス緩和からなる多段階フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-03-25T03:19:20Z)
• A survey on bias in machine learning research [0.0]
  機械学習におけるバイアスに関する現在の研究は、しばしば公正に焦点を当て、バイアスの根源や原因を見下ろしている。 本稿は、データやモデルにおけるバイアスやエラーの潜在的な源として分類を提供することによって、研究におけるバイアスに関する過去の文献間のギャップを埋めることを目的としている。
  論文  参考訳（メタデータ） (2023-08-22T07:56:57Z)
• Shedding light on underrepresentation and Sampling Bias in machine learning [0.0]
  差別を分散、偏見、ノイズに分解する方法を示す。 我々は、未表現グループのサンプルを多く集めることで、識別に対処できるという、広く受け入れられている緩和アプローチに挑戦する。
  論文  参考訳（メタデータ） (2023-06-08T09:34:20Z)
• Data Bias Management [17.067962372238135]
  私たちは、データのバイアスがエンドユーザに与える影響、バイアスの発生源、そして、その上で何をすべきかという視点を示します。 データバイアスは、すべてのケースにおいて必ずしも取り除くべきものではなく、代わりに研究の注意がバイアス除去からバイアス管理に移行するべきだ、と私たちは主張する。
  論文  参考訳（メタデータ） (2023-05-15T10:07:27Z)
• Prisoners of Their Own Devices: How Models Induce Data Bias in Performative Prediction [4.874780144224057]
  偏見のあるモデルは、社会の特定のグループに不均等に害を与える決定を下すことができる。 多くの作業は静的ML環境での不公平さを測定することに費やされているが、動的でパフォーマンスのよい予測は行っていない。 本稿では,データのバイアスを特徴付ける分類法を提案する。
  論文  参考訳（メタデータ） (2022-06-27T10:56:04Z)
• The SAME score: Improved cosine based bias score for word embeddings [49.75878234192369]
  埋め込みにおけるセマンティックバイアスのための新しいバイアススコアであるPetを紹介した。 本研究は,下水道作業における意味バイアスを測定し,社会的バイアスの潜在的な原因を特定することができることを示す。
  論文  参考訳（メタデータ） (2022-03-28T09:28:13Z)
• Pseudo Bias-Balanced Learning for Debiased Chest X-ray Classification [57.53567756716656]
  本研究では, バイアスラベルを正確に把握せず, 脱バイアス胸部X線診断モデルの開発について検討した。 本稿では,まずサンプルごとのバイアスラベルをキャプチャし,予測する新しいアルゴリズム,擬似バイアスバランス学習を提案する。 提案手法は他の最先端手法よりも一貫した改善を実現した。
  論文  参考訳（メタデータ） (2022-03-18T11:02:18Z)
• Gradient Based Activations for Accurate Bias-Free Learning [22.264226961225003]
  このバイアス・精度のトレードオフを改善するために、偏微分器が実際に利用できることを示す。 具体的には、判別器の勾配を用いた特徴マスキング手法を用いる。 この単純なアプローチはバイアスを低減し、精度を大幅に向上させるのに有効であることを示す。
  論文  参考訳（メタデータ） (2022-02-17T00:30:40Z)
• Statistical discrimination in learning agents [64.78141757063142]
  統計的差別は、訓練人口のバイアスとエージェントアーキテクチャの両方の関数としてエージェントポリシーに現れる。 我々は、リカレントニューラルネットワークを使用するエージェントによる差別の低減と、トレーニング環境のバイアスの低減が示される。
  論文  参考訳（メタデータ） (2021-10-21T18:28:57Z)
• Balancing out Bias: Achieving Fairness Through Training Reweighting [58.201275105195485]
  自然言語処理におけるバイアスは、性別や人種などの著者の特徴を学習するモデルから生じる。 既存のバイアスの緩和と測定方法は、著者の人口統計学と言語変数の相関を直接考慮していない。 本稿では,インスタンス再重み付けを用いたバイアス対策法を提案する。
  論文  参考訳（メタデータ） (2021-09-16T23:40:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。