論文の概要: Measuring and Reducing Gendered Correlations in Pre-trained Models

• arxiv url: http://arxiv.org/abs/2010.06032v2
• Date: Tue, 2 Mar 2021 21:04:26 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-08 07:09:02.249761
• Title: Measuring and Reducing Gendered Correlations in Pre-trained Models
• Title（参考訳）: 事前学習モデルにおける性相関の測定と低減
• Authors: Kellie Webster and Xuezhi Wang and Ian Tenney and Alex Beutel and Emily Pitler and Ellie Pavlick and Jilin Chen and Ed Chi and Slav Petrov
• Abstract要約: 事前学習されたモデルが、複数の性別に関連する職業など、多くのアプリケーションで望まれないアーティファクトをエンコードする方法を示す。 汎用技術によって相関測定がいかに削減されるかを示し、異なる戦略が持つトレードオフを強調する。
• 参考スコア（独自算出の注目度）: 24.35758086428503
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Pre-trained models have revolutionized natural language understanding. However, researchers have found they can encode artifacts undesired in many applications, such as professions correlating with one gender more than another. We explore such gendered correlations as a case study for how to address unintended correlations in pre-trained models. We define metrics and reveal that it is possible for models with similar accuracy to encode correlations at very different rates. We show how measured correlations can be reduced with general-purpose techniques, and highlight the trade offs different strategies have. With these results, we make recommendations for training robust models: (1) carefully evaluate unintended correlations, (2) be mindful of seemingly innocuous configuration differences, and (3) focus on general mitigations.
• Abstract（参考訳）: 事前訓練されたモデルは自然言語理解に革命をもたらした。 しかし、研究者は、多くのアプリケーションで望ましくない人工物をエンコードできることを発見した。 このような相関関係を,事前学習モデルにおける意図しない相関の対処方法についてのケーススタディとして検討する。 我々はメトリクスを定義し、類似の精度を持つモデルが相関を非常に異なる速度でエンコードできることを明らかにする。 汎用手法を用いて相関を計測する方法を示し,様々な戦略のトレードオフを浮き彫りにする。 これらの結果から,(1)意図しない相関関係を慎重に評価し,(2)一見無害な構成の違いに留意し,(3)一般的な緩和に焦点を当てたロバストモデルのトレーニングを推奨する。

関連論文リスト

• The Multiple Dimensions of Spuriousness in Machine Learning [3.475875199871536]
  データからの相関学習は、今日の機械学習(ML)と人工知能(AI)研究の基礎となる。 このようなアプローチは、ビッグデータコーパス内のパターン付き関係の自動発見を可能にするが、意図しない相関が捕捉された場合、障害モードの影響を受けやすい。 この脆弱性は、しばしば、パフォーマンス、公平性、堅牢性をモデル化する障害として批判される、急進性の尋問への関心を拡大した。
  論文  参考訳（メタデータ） (2024-11-07T13:29:32Z)
• Learning Robust Classifiers with Self-Guided Spurious Correlation Mitigation [26.544938760265136]
  ディープニューラル分類器は、入力のスプリアス属性とターゲットの間のスプリアス相関に頼り、予測を行う。 本稿では,自己誘導型スプリアス相関緩和フレームワークを提案する。 予測行動の違いを識別するために分類器の訓練を行うことで,事前知識を必要とせず,素因関係への依存を軽減できることを示す。
  論文  参考訳（メタデータ） (2024-05-06T17:12:21Z)
• Measuring and Improving Attentiveness to Partial Inputs with Counterfactuals [91.59906995214209]
  我々は,新しい評価手法であるCAT(Facterfactual Attentiveness Test)を提案する。 CATは、入力の一部を別の例から別の例に置き換えることで、予測を変更する注意深いモデルを期待することで、反事実を使用する。 実験データの精度が向上する一方, GPT3 は実演回数の増加により注意力の低下がみられた。
  論文  参考訳（メタデータ） (2023-11-16T06:27:35Z)
• Linked shrinkage to improve estimation of interaction effects in regression models [0.0]
  回帰モデルにおける双方向相互作用項によく適応する推定器を開発する。 我々は,選択戦略では難しい推論モデルの可能性を評価する。 私たちのモデルは、かなり大きなサンプルサイズであっても、ランダムな森林のような、より高度な機械学習者に対して非常に競争力があります。
  論文  参考訳（メタデータ） (2023-09-25T10:03:39Z)
• Stubborn Lexical Bias in Data and Models [50.79738900885665]
  我々は、データに基づいてトレーニングされたモデルに、データのスプリアスパターンが現れるかどうかを調べるために、新しい統計手法を用いる。 トレーニングデータに*reweight*に最適化アプローチを適用し、数千のスプリアス相関を低減します。 驚くべきことに、この方法ではトレーニングデータの語彙バイアスを低減できますが、トレーニングされたモデルで対応するバイアスの強い証拠がまだ見つかっていません。
  論文  参考訳（メタデータ） (2023-06-03T20:12:27Z)
• Gender Biases in Automatic Evaluation Metrics for Image Captioning [87.15170977240643]
  画像キャプションタスクのためのモデルに基づく評価指標において、性別バイアスの体系的研究を行う。 偏りのある世代と偏りのない世代を区別できないことを含む、これらの偏りのあるメトリクスを使用することによる負の結果を実証する。 人間の判断と相関を損なうことなく、測定バイアスを緩和する簡便で効果的な方法を提案する。
  論文  参考訳（メタデータ） (2023-05-24T04:27:40Z)
• A Correlation-Ratio Transfer Learning and Variational Stein's Paradox [7.652701739127332]
  本稿では,モデル間の正確な関係を構築するために,線形相関比という新たな戦略を提案する。 実用面では、新しいフレームワークはいくつかのアプリケーションシナリオ、特にデータストリームと医学研究の分野に適用されます。
  論文  参考訳（メタデータ） (2022-06-10T01:59:16Z)
• Correlation inference attacks against machine learning models [6.805105137455252]
  モデルが入力変数間の相関関係に関する情報を漏らすかどうか, 相関推論攻撃について検討する。 私たちの結果は、モデルが何をし、トレーニングセットから覚えるべきかについて、根本的な疑問を投げかけます。
  論文  参考訳（メタデータ） (2021-12-16T11:42:45Z)
• Few-shot Visual Reasoning with Meta-analogical Contrastive Learning [141.2562447971]
  本稿では,類似推論に頼って,数ショット(または低ショット)の視覚推論問題を解くことを提案する。 両領域の要素間の構造的関係を抽出し、類似学習と可能な限り類似するように強制する。 RAVENデータセット上での本手法の有効性を検証し, トレーニングデータが少ない場合, 最先端の手法より優れることを示す。
  論文  参考訳（メタデータ） (2020-07-23T14:00:34Z)
• Detecting Human-Object Interactions with Action Co-occurrence Priors [108.31956827512376]
  人-物間相互作用(HOI)検出タスクにおける一般的な問題は、多数のHOIクラスが少数のラベル付き例しか持たないことである。 我々は、人間と物体の相互作用の間に自然の相関と反相関が存在することを観察した。 我々はこれらの先行知識を学習し、特に稀なクラスにおいてより効果的な訓練に活用する手法を提案する。
  論文  参考訳（メタデータ） (2020-07-17T02:47:45Z)
• An Investigation of Why Overparameterization Exacerbates Spurious Correlations [98.3066727301239]
  この動作を駆動するトレーニングデータの2つの重要な特性を特定します。 モデルの"記憶"に対する帰納的バイアスが,パラメータ化の超過を損なう可能性を示す。
  論文  参考訳（メタデータ） (2020-05-09T01:59:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。