論文の概要: PowerTransformer: Unsupervised Controllable Revision for Biased Language
Correction
- arxiv url: http://arxiv.org/abs/2010.13816v1
- Date: Mon, 26 Oct 2020 18:05:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-02 17:56:02.786498
- Title: PowerTransformer: Unsupervised Controllable Revision for Biased Language
Correction
- Title（参考訳）: PowerTransformer: バイアス言語訂正のための教師なし制御可能な修正
- Authors: Xinyao Ma, Maarten Sap, Hannah Rashkin, Yejin Choi
- Abstract要約: 文字表現における暗黙的かつ潜在的に望ましくないバイアスを修正するために、与えられたテキストを書き換えることを目的とした新しいリビジョンタスクを定式化する。
本稿では,意味フレームのレンズを通してテキストを除去する手法としてPowerTransformerを紹介する。
提案手法は, 関連するタスクから, アブレーションや既存メソッドよりも優れていることを示す。
- 参考スコア（独自算出の注目度）: 62.46299488465803
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unconscious biases continue to be prevalent in modern text and media, calling
for algorithms that can assist writers with bias correction. For example, a
female character in a story is often portrayed as passive and powerless ("She
daydreams about being a doctor") while a man is portrayed as more proactive and
powerful ("He pursues his dream of being a doctor").
We formulate *Controllable Debiasing*, a new revision task that aims to
rewrite a given text to correct the implicit and potentially undesirable bias
in character portrayals. We then introduce PowerTransformer as an approach that
debiases text through the lens of connotation frames (Sap et al., 2017), which
encode pragmatic knowledge of implied power dynamics with respect to verb
predicates. One key challenge of our task is the lack of parallel corpora. To
address this challenge, we adopt an unsupervised approach using auxiliary
supervision with related tasks such as paraphrasing and self-supervision based
on a reconstruction loss, building on pretrained language models.
Through comprehensive experiments based on automatic and human evaluations,
we demonstrate that our approach outperforms ablations and existing methods
from related tasks. Furthermore, we demonstrate the use of PowerTransformer as
a step toward mitigating the well-documented gender bias in character portrayal
in movie scripts.
- Abstract（参考訳）: 現代のテキストやメディアでは、無意識の偏見が広まり続けており、偏見の修正を手伝うアルゴリズムが求められている。
例えば、物語の中の女性キャラクターはしばしば受動的で無力な人物として描かれる("she daydreams about being a doctor")が、男性はより積極的で強力な人物として描かれる("he seeks his dream of being a doctor")。
これは、文字の描写における暗黙的かつ潜在的に望ましくないバイアスを修正するために、与えられたテキストを書き直すことを目的とした新しいリビジョンタスクである。
次に,動詞述語に関して意味のあるパワーダイナミクスの実用的知識をエンコードするconnotation frames (sap et al., 2017) のレンズを通してテキストをデビ化するアプローチとして,powertransformerを導入する。
私たちのタスクの重要な課題は、並列コーパスの欠如です。
この課題に対処するために,パラフラージングや自己スーパービジョンといった関連するタスクを補助的に監督することにより,事前学習した言語モデルに基づいて構築した教師なしアプローチを採用する。
自動評価と人的評価に基づく総合的な実験を通じて,本手法が関連する課題からアブレーションや既存手法よりも優れていることを示す。
さらに,映画脚本における人物描写における性別バイアスを緩和するステップとして,PowerTransformerの使用を実証する。
関連論文リスト
- Will the Prince Get True Love's Kiss? On the Model Sensitivity to Gender
Perturbation over Fairytale Texts [87.62403265382734]
近年の研究では、伝統的な妖精は有害な性バイアスを伴っていることが示されている。
本研究は,ジェンダーの摂動に対する頑健さを評価することによって,言語モデルの学習バイアスを評価することを目的とする。
論文 参考訳（メタデータ） (2023-10-16T22:25:09Z) - VisoGender: A dataset for benchmarking gender bias in image-text pronoun
resolution [80.57383975987676]
VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。
We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。
我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
論文 参考訳（メタデータ） (2023-06-21T17:59:51Z) - TVTSv2: Learning Out-of-the-box Spatiotemporal Visual Representations at
Scale [59.01246141215051]
言語指導の観点から,その劣化要因を分析した。
本稿では,テキストエンコーダの一般化能力を維持するために,教師なし事前学習戦略を提案する。
最大10億のパラメータを持つTVTSv2と呼ばれる一連のモデルを作成します。
論文 参考訳（メタデータ） (2023-05-23T15:44:56Z) - Think Before You Act: Unified Policy for Interleaving Language Reasoning
with Actions [21.72567982148215]
オフラインデータ上で、同様の次のステップ予測目標でトランスフォーマーをトレーニングする方法を示す。
本稿では,言語推論とアクションを一つのポリシーで統一する新しい手法を提案する。
具体的には、単語出力によるトランスフォーマーポリシーを強化し、アクションにインターリーブされたテキストキャプションを生成する。
論文 参考訳（メタデータ） (2023-04-18T16:12:38Z) - Future Sight: Dynamic Story Generation with Large Pretrained Language
Models [11.23192733149335]
トランスフォーマーデコーダは、以前に生成されたテキストに対してのみ新しいテキストを生成することができる。
Future Sightはデコーダが符号化された将来のプロットイベントに参加することを可能にする。
推論中、将来のプロットイベントは人間の著者によって書かれ、ある方向に生成された物語を操縦することができる。
論文 参考訳（メタデータ） (2022-12-20T01:53:26Z) - Hollywood Identity Bias Dataset: A Context Oriented Bias Analysis of
Movie Dialogues [20.222820874864748]
映画に登場する社会的偏見やステレオタイプは、リーチによって大きなダメージを与える可能性がある。
同一性バイアスに注釈を付けた映画脚本のデータセットを新たに導入する。
データセットには、(i) バイアスラベルに、性別、人種/民族、宗教、年齢、職業、LGBTQ、その他の7つのカテゴリのダイアログがアノテートされている。
論文 参考訳（メタデータ） (2022-05-31T16:49:51Z) - TVShowGuess: Character Comprehension in Stories as Speaker Guessing [23.21452223968301]
物語における架空のキャラクターを理解するための機械のスキルを評価するための新しいタスクを提案する。
タスクであるTVShowGuessは、TVシリーズのスクリプトをベースとして、シーンの背景や対話に基づいて匿名のメインキャラクターを推測する形式をとっている。
我々の人間による研究は、キャラクターの個性、事実、個性体験の記憶など、複数の種類の人格の理解をカバーしている。
論文 参考訳（メタデータ） (2022-04-16T05:15:04Z) - Probing as Quantifying the Inductive Bias of Pre-trained Representations [99.93552997506438]
本稿では,特定のタスクに対する表現の帰納的バイアスを評価することを目的とした,探索のための新しいフレームワークを提案する。
トークン、アーク、文レベルの一連のタスクに我々のフレームワークを適用します。
論文 参考訳（メタデータ） (2021-10-15T22:01:16Z) - Uncovering Implicit Gender Bias in Narratives through Commonsense
Inference [21.18458377708873]
モデル生成物語における主人公に関連する性別バイアスについて検討する。
暗黙のバイアスに注目し、コモンセンス推論エンジンを使ってそれらを明らかにする。
論文 参考訳（メタデータ） (2021-09-14T04:57:45Z) - Back to the Future: Unsupervised Backprop-based Decoding for
Counterfactual and Abductive Commonsense Reasoning [79.48769764508006]
ジェネレーティブ言語モデル(LM)は、過去の文脈のみを条件にするか、狭い範囲のテキスト入力を実行するよう訓練することができる。
我々は過去と将来の両方の文脈を柔軟に組み込むことができる新しい教師なし復号アルゴリズムであるDeLoreanを提案する。
提案手法は, 帰納的テキスト生成と反事実的ストーリーリビジョンの2つの非単調推論タスクに適用可能であることを示す。
論文 参考訳（メタデータ） (2020-10-12T17:58:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。