論文の概要: Debias It Yourself: Teaching LLMs Cognitive Bias Mitigation Interventions

• arxiv url: http://arxiv.org/abs/2609.40124v1
• Date: Wed, 30 Sep 2026 16:46:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:28.1041
• Title: Debias It Yourself: Teaching LLMs Cognitive Bias Mitigation Interventions
• Title（参考訳）: Debias it yourself: teaching LLMs Cognitive Bias Mitigation Intervention
• Abstract要約: Debias It Yourself (DIY)は5つの介入をデバイアス処理手順に変換するフレームワークである。 DIYは、Show、Train、Reviseの3つの確立したパラダイムを通じてそれらを提供する。 Train+ReviseとReviseだけで平均2位を獲得し、バイアスを生じさせるトレードオフを導き、目に見えない寸法のバイアスを最大14.8%削減する。
• 参考スコア（独自算出の注目度）: 28.700431724788018
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Bias has long been studied in social psychology and cognitive science, where decades of research have produced a body of validated interventions that reduce stereotypical thinking and prejudiced responses in humans. We propose Debias It Yourself (DIY), a cognitively grounded framework that translates five such interventions into debiasing procedures for large language models and delivers them through three established paradigms: Show (in-context examples), Train (instruction tuning), and Revise (guided self-revision). Across three models, five bias benchmarks, eleven debiasing baselines, and three reasoning benchmarks, Train+Revise and Revise alone attain the top two average ranks, lead the bias-reasoning tradeoff (mean bias as low as 2% at 90% reasoning accuracy), and reduce bias on unseen dimensions by up to 14.8%. Our code and data are publicly available.
• Abstract（参考訳）: バイアスは社会心理学と認知科学で長年研究されてきたが、何十年にもわたって、人間のステレオタイプ的思考と偏見的反応を減らすための、検証された介入の体系が生み出されてきた。 デビアス・イット・ユア・セルフ(DIY)は,認知に根ざした枠組みであり,これら5つの介入を大規模言語モデルのデバイアス処理手順に翻訳し,提示(コンテキスト内例),訓練(指導),修正(指導)の3つの確立したパラダイムを通じて提供する。 3つのモデル、5つのバイアスベンチマーク、11のバイアスベースライン、および3つの推論ベンチマーク、Train+ReviseとReviseだけでは2つの平均ランクに達し、バイアスを許容するトレードオフ(平均バイアスは90%の推論精度で2%以下)を導いており、目に見えない寸法のバイアスを最大14.8%削減している。 私たちのコードとデータは公開されています。

関連論文リスト

• Making Bias Non-Predictive: Training Robust LLM Judges via Reinforcement Learning [91.8584139564909]
  大規模言語モデル(LLM)は、ますます自動化された審査員として機能するが、認知バイアスの影響を受けやすいままである。 本稿では,重要原則に基づく強化学習フレームワークである疫学独立訓練(EIT)を提案する。 EITはバランスの取れた競合戦略を通じてこれを運用します。
  論文  参考訳（メタデータ） (2026-02-02T01:43:48Z)
• Where Fact Ends and Fairness Begins: Redefining AI Bias Evaluation through Cognitive Biases [77.3489598315447]
  事実と公正の境界を識別することは有意義な公正性評価に不可欠である,と我々は主張する。 Fact-or-Fair は (i) 客観的なクエリを記述的, 事実に基づく判断, (ii) 主観的クエリを規範的, 公平性に基づく判断に整合させたベンチマークである。
  論文  参考訳（メタデータ） (2025-02-09T10:54:11Z)
• Quantifying Bias in Text-to-Image Generative Models [49.60774626839712]
  テキスト・トゥ・イメージ(T2I)モデルにおけるバイアスは不公平な社会的表現を伝播させ、アイデアを積極的にマーケティングしたり、議論の的となっている議題を推進したりするのに用いられる。 既存のT2Iモデルバイアス評価手法は、社会的バイアスのみに焦点を当てる。 本稿では,T2I生成モデルにおける一般バイアスの定量化手法を提案する。
  論文  参考訳（メタデータ） (2023-12-20T14:26:54Z)
• Sociodemographic Bias in Language Models: A Survey and Forward Path [7.337228289111424]
  言語モデル(LM)におけるソシオデモグラフィーバイアスは、現実世界の環境に配置した場合に害を与える可能性がある。 本稿では,過去10年間のLMにおける社会デマトグラフィーバイアス研究の包括的調査について述べる。
  論文  参考訳（メタデータ） (2023-06-13T22:07:54Z)
• The SAME score: Improved cosine based bias score for word embeddings [49.75878234192369]
  埋め込みにおけるセマンティックバイアスのための新しいバイアススコアであるPetを紹介した。 本研究は,下水道作業における意味バイアスを測定し,社会的バイアスの潜在的な原因を特定することができることを示す。
  論文  参考訳（メタデータ） (2022-03-28T09:28:13Z)
• An Empirical Survey of the Effectiveness of Debiasing Techniques for Pre-Trained Language Models [4.937002982255573]
  最近の研究によると、事前学習された言語モデルは、訓練されたテキストコーパスから社会的偏見を捉えている。 最近提案された5つのデバイアス技術: 対実データ拡張、ドロップアウト、イテレーティブヌルスペース投影、セルフデバイアス、センテンスデバイアス。 3つの異なるバイアスベンチマークを用いて各手法の有効性を定量化するとともに,これらの手法がモデル言語モデリング能力に与える影響を計測する。
  論文  参考訳（メタデータ） (2021-10-16T09:40:30Z)
• Fairness-aware Class Imbalanced Learning [57.45784950421179]
  つぶやきの感情と職業分類のロングテール学習手法を評価する。 フェアネスを強制する手法により、マージンロスに基づくアプローチを拡張します。
  論文  参考訳（メタデータ） (2021-09-21T22:16:30Z)
• Balancing out Bias: Achieving Fairness Through Training Reweighting [58.201275105195485]
  自然言語処理におけるバイアスは、性別や人種などの著者の特徴を学習するモデルから生じる。 既存のバイアスの緩和と測定方法は、著者の人口統計学と言語変数の相関を直接考慮していない。 本稿では,インスタンス再重み付けを用いたバイアス対策法を提案する。
  論文  参考訳（メタデータ） (2021-09-16T23:40:28Z)
• RedditBias: A Real-World Resource for Bias Evaluation and Debiasing of Conversational Language Models [37.98671828283487]
  テキスト表現モデルは、様々な社会的バイアスを示す傾向がある。 最近の研究は、事前訓練された言語モデルにおけるバイアスの測定と緩和に重点を置いている。 RedditBiasは、Redditによる人間の会話をベースとした初めての会話データセットだ。
  論文  参考訳（メタデータ） (2021-06-07T11:22:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。