論文の概要: Examining the Causal Effect of First Names on Language Models: The Case
of Social Commonsense Reasoning
- arxiv url: http://arxiv.org/abs/2306.01117v1
- Date: Thu, 1 Jun 2023 20:05:05 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-05 18:04:04.394559
- Title: Examining the Causal Effect of First Names on Language Models: The Case
of Social Commonsense Reasoning
- Title（参考訳）: 言語モデルにおけるファーストネームの因果関係の検討--ソーシャル・コモンセンス・推論の場合
- Authors: Sullam Jeoung, Jana Diesner, Halil Kilicoglu
- Abstract要約: ファーストネームは、社会デミノグラフィー表現のプロキシとして機能する。
モデルが与えられた入力に対する推論が、提供された最初の名前に基づいて異なるかどうかを考察する。
- 参考スコア（独自算出の注目度）: 2.013330800976407
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As language models continue to be integrated into applications of personal
and societal relevance, ensuring these models' trustworthiness is crucial,
particularly with respect to producing consistent outputs regardless of
sensitive attributes. Given that first names may serve as proxies for
(intersectional) socio-demographic representations, it is imperative to examine
the impact of first names on commonsense reasoning capabilities. In this paper,
we study whether a model's reasoning given a specific input differs based on
the first names provided. Our underlying assumption is that the reasoning about
Alice should not differ from the reasoning about James. We propose and
implement a controlled experimental framework to measure the causal effect of
first names on commonsense reasoning, enabling us to distinguish between model
predictions due to chance and caused by actual factors of interest. Our results
indicate that the frequency of first names has a direct effect on model
prediction, with less frequent names yielding divergent predictions compared to
more frequent names. To gain insights into the internal mechanisms of models
that are contributing to these behaviors, we also conduct an in-depth
explainable analysis. Overall, our findings suggest that to ensure model
robustness, it is essential to augment datasets with more diverse first names
during the configuration stage.
- Abstract（参考訳）: 言語モデルは、個人的および社会的関連性の応用に引き続き統合されるので、特にセンシティブな属性に関係なく一貫した出力を生成するという点において、これらのモデルの信頼性を保証することが重要である。
ファーストネームが社会デミノグラフィー表現のプロキシとして機能することを考えると、ファーストネームがコモンセンス推論能力に与える影響を調べることが不可欠である。
本稿では,特定の入力に対するモデルの推論が,提供された最初の名前に基づいて異なるかどうかについて検討する。
私たちの根底にある前提は、アリスの推論はジェームズの推論と異なるべきではないということです。
我々は,初号の因果効果をコモンセンス推論に測定するための制御実験フレームワークを提案し,実装し,偶然によるモデル予測と実際の関心要因によるモデル予測の区別を可能にした。
以上の結果から,ファーストネームの頻度はモデル予測に直接的な影響を与えることを示し,より頻繁な名前に比べて,より異種な予測を生じさせる可能性が示唆された。
これらの行動に寄与するモデルの内部メカニズムに関する洞察を得るため、我々は詳細な説明可能な分析を行う。
全体として、モデルの堅牢性を確保するためには、設定段階でより多様なファーストネームを持つデータセットを拡張することが不可欠である。
関連論文リスト
- Uncovering Name-Based Biases in Large Language Models Through Simulated Trust Game [0.0]
個人の名前から推測される性や人種は、社会的相互作用に微妙に影響を及ぼすステレオタイプやバイアスの顕著な源泉である。
提案手法は,ベースモデルと命令調整モデルの両方において,名前に基づくバイアスを検出する。
論文 参考訳（メタデータ） (2024-04-23T02:21:17Z) - Estimating the Causal Effects of Natural Logic Features in Transformer-Based NLI Models [16.328341121232484]
文脈介入の効果を測定するために因果効果推定手法を適用した。
本研究はトランスフォーマーの無関係な変化に対する堅牢性と影響の高い変化に対する感受性について検討する。
論文 参考訳（メタデータ） (2024-04-03T10:22:35Z) - Nonparametric Identifiability of Causal Representations from Unknown
Interventions [63.1354734978244]
本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。
我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
論文 参考訳（メタデータ） (2023-06-01T10:51:58Z) - Nichelle and Nancy: The Influence of Demographic Attributes and
Tokenization Length on First Name Biases [12.459949725707315]
我々は、名前(人種、民族、性別)と名前のトークン化長の人口統計特性が、社会的常識推論モデルの行動に体系的に影響を及ぼす要因であることがわかった。
論文 参考訳（メタデータ） (2023-05-26T01:57:42Z) - Rationalizing Predictions by Adversarial Information Calibration [65.19407304154177]
我々は2つのモデルを共同で訓練する: 1つは、正確だがブラックボックスな方法でタスクを解く典型的なニューラルモデルであり、もう1つは、予測の理論的根拠を付加するセレクタ・予測モデルである。
我々は,2つのモデルから抽出した情報を,それらの違いが欠落した特徴や過度に選択された特徴の指標であるように校正するために,敵対的手法を用いる。
論文 参考訳（メタデータ） (2023-01-15T03:13:09Z) - Measuring Causal Effects of Data Statistics on Language Model's
`Factual' Predictions [59.284907093349425]
大量のトレーニングデータが、最先端のNLPモデルの高性能化の大きな理由の1つである。
トレーニングデータがどのように予測に影響を及ぼすかを記述するための言語を,因果的フレームワークを通じて提供する。
我々のフレームワークは、高価なモデルの再訓練の必要性を回避し、観測データのみに基づいて因果効果を推定することができる。
論文 参考訳（メタデータ） (2022-07-28T17:36:24Z) - Causality Inspired Representation Learning for Domain Generalization [47.574964496891404]
本稿では、ドメイン一般化問題を形式化する一般的な構造因果モデルを提案する。
我々の目標は、入力から因果因子を抽出し、不変因果機構を再構築することである。
理想的な因果因子は、非因果的要因から分離され、共同独立であり、分類に十分な因果的要因である。
論文 参考訳（メタデータ） (2022-03-27T08:08:33Z) - Variational Auto-Encoder Architectures that Excel at Causal Inference [26.731576721694648]
観測データから因果効果を推定することは、多くの種類の決定を下す上で重要である。
この課題に対処する1つのアプローチは、データの基礎となる要素の分解された表現を学習することである。
本稿では,変分オートエンコーダの最近の進歩を基盤とした生成的アプローチを提案する。
論文 参考訳（メタデータ） (2021-11-11T22:37:43Z) - On Shapley Credit Allocation for Interpretability [1.52292571922932]
学習モデルの判断を解釈する際に適切な質問を行うことの重要性を強調する。
本稿では,Shapley symmetrizationの特徴関数として,解釈の異なる性質と異なる尺度を織り込むことによって特徴関連性を定量化する。
論文 参考訳（メタデータ） (2020-12-10T08:25:32Z) - Learning Causal Semantic Representation for Out-of-Distribution
Prediction [125.38836464226092]
因果推論に基づく因果意味生成モデル(CSG)を提案し,その2つの要因を別々にモデル化する。
CSGはトレーニングデータに適合させることで意味的因子を識別できることを示し、この意味的識別はOOD一般化誤差の有界性を保証する。
論文 参考訳（メタデータ） (2020-11-03T13:16:05Z) - CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。
本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。
その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
論文 参考訳（メタデータ） (2020-04-18T20:09:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。