論文の概要: Null It Out: Guarding Protected Attributes by Iterative Nullspace Projection

• arxiv url: http://arxiv.org/abs/2004.07667v2
• Date: Tue, 28 Apr 2020 21:09:39 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-12 21:02:26.075328
• Title: Null It Out: Guarding Protected Attributes by Iterative Nullspace Projection
• Title（参考訳）: Null アウト: 反復的な Nullspace プロジェクションによる保護属性の保護
• Authors: Shauli Ravfogel, Yanai Elazar, Hila Gonen, Michael Twiton, Yoav Goldberg
• Abstract要約: Iterative Null-space Projection (INLP) は神経表現から情報を取り除く新しい方法である。 提案手法は,単語埋め込みにおけるバイアスを軽減するとともに,複数クラス分類の設定において公平性を高めることができることを示す。
• 参考スコア（独自算出の注目度）: 51.041763676948705
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The ability to control for the kinds of information encoded in neural representation has a variety of use cases, especially in light of the challenge of interpreting these models. We present Iterative Null-space Projection (INLP), a novel method for removing information from neural representations. Our method is based on repeated training of linear classifiers that predict a certain property we aim to remove, followed by projection of the representations on their null-space. By doing so, the classifiers become oblivious to that target property, making it hard to linearly separate the data according to it. While applicable for multiple uses, we evaluate our method on bias and fairness use-cases, and show that our method is able to mitigate bias in word embeddings, as well as to increase fairness in a setting of multi-class classification.
• Abstract（参考訳）: 神経表現でエンコードされる情報の種類を制御する能力は、特にこれらのモデルを解釈することの難しさに照らして、様々なユースケースを持っている。 本稿では,ニューラル表現から情報を取り除く新しい手法であるIterative Null-space Projection (INLP)を提案する。 提案手法は,削除しようとする特性を予測した線形分類器の繰り返し学習に基づいており,次にヌル空間上の表現を投影する。 これにより、分類器はその対象のプロパティに服従し、それに従ってデータを線形に分離することが困難になる。 本手法は,複数の用途に適用できるが,バイアスとフェアネスのユースケースについて評価し,単語埋め込みにおけるバイアスを軽減し,複数クラス分類の設定においてフェアネスを高めることができることを示す。

関連論文リスト

• XAL: EXplainable Active Learning Makes Classifiers Better Low-resource Learners [71.8257151788923]
  低リソーステキスト分類のための新しい説明可能なアクティブラーニングフレームワーク(XAL)を提案する。 XALは分類器に対して、推論を正当化し、合理的な説明ができないラベルのないデータを掘り下げることを推奨している。 6つのデータセットの実験では、XALは9つの強いベースラインに対して一貫した改善を達成している。
  論文  参考訳（メタデータ） (2023-10-09T08:07:04Z)
• Shielded Representations: Protecting Sensitive Attributes Through Iterative Gradient-Based Projection [39.16319169760823]
  イテレーティブ・グラディエント・ベース・プロジェクション(Iterative Gradient-Based Projection)は、非線形符号化された概念をニューラル表現から除去する新しい方法である。 以上の結果より, IGBPは内因性および外因性評価によるバイアス軽減に有効であることが示唆された。
  論文  参考訳（メタデータ） (2023-05-17T13:26:57Z)
• Learning to Unlearn: Instance-wise Unlearning for Pre-trained Classifiers [71.70205894168039]
  そこでは、事前訓練されたモデルからインスタンスのセットに関する情報を削除することを目標としています。 本稿では,1)表現レベルでの忘れを克服するために,敵の例を活用すること,2)不必要な情報を伝播するネットワークパラメータをピンポイントする重み付け指標を活用すること,の2つの方法を提案する。
  論文  参考訳（メタデータ） (2023-01-27T07:53:50Z)
• Linear Adversarial Concept Erasure [108.37226654006153]
  与えられた概念に対応する線形部分空間の同定と消去の問題を定式化する。 提案手法は, トラクタビリティと解釈性を維持しつつ, 深い非線形分類器のバイアスを効果的に軽減し, 高い表現性を有することを示す。
  論文  参考訳（メタデータ） (2022-01-28T13:00:17Z)
• Learning Debiased and Disentangled Representations for Semantic Segmentation [52.35766945827972]
  セマンティックセグメンテーションのためのモデルに依存しない訓練手法を提案する。 各トレーニングイテレーションで特定のクラス情報をランダムに除去することにより、クラス間の機能依存を効果的に削減する。 提案手法で訓練したモデルは,複数のセマンティックセグメンテーションベンチマークにおいて強い結果を示す。
  論文  参考訳（メタデータ） (2021-10-31T16:15:09Z)
• Discriminative Attribution from Counterfactuals [64.94009515033984]
  本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。 本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-28T00:53:34Z)
• Unsupervised Embedding Learning from Uncertainty Momentum Modeling [37.674449317054716]
  本研究では,与えられた未ラベル学習サンプルの不確かさを明示的にモデル化し,探索する新しい手法を提案する。 このような不確実性モデリングのモーメントを学習に利用し、アウトレーヤに取り組むのに役立ちます。
  論文  参考訳（メタデータ） (2021-07-19T14:06:19Z)
• Bias-Awareness for Zero-Shot Learning the Seen and Unseen [47.09887661463657]
  一般化されたゼロショット学習は、目に見えないクラスと見えないクラスの両方からの入力を認識する。 一般化ゼロショット学習のための意味埋め込み空間に入力をマッピングするバイアス対応学習者を提案する。
  論文  参考訳（メタデータ） (2020-08-25T17:38:40Z)
• Null-sampling for Interpretable and Fair Representations [8.654168514863649]
  データ領域における不変表現を学習し、アルゴリズム的公正性における解釈可能性を実現する。 データドメインに表現を配置することで、モデルによってなされた変更は、人間の監査官によって容易に検査可能である。
  論文  参考訳（メタデータ） (2020-08-12T11:49:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。