論文の概要: Wait, am I Being Fair? Characterizing Deductive Stereotyping and Mitigating It with Fair-GCG
- arxiv url: http://arxiv.org/abs/2606.30989v1
- Date: Tue, 30 Jun 2026 00:00:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.032164
- Title: Wait, am I Being Fair? Characterizing Deductive Stereotyping and Mitigating It with Fair-GCG
- Title（参考訳）: 待って、私はフェアか? 導電性ステレオタイピングの特徴とFair-GCGによる緩和
- Abstract要約: 我々は,個体群レベルでの統計正則性を個々の事例に適用する,障害モード,誘引ステレオタイピング(deductive stereotyping)を同定する。
フェアネスを考慮した推論に向けてモデルを操るための推論時間注入フレームワークを提案する。
また,Fair-GCGを導入し,効果的なインジェクションフレーズを体系的に発見する。
- 参考スコア（独自算出の注目度）: 42.1711595765047
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Warning: This paper contains several toxic and offensive statements. While reasoning generally improves fairness in recent large language models (LLMs), failures persist. In this work, we identify a failure mode, deductive stereotyping, in which models apply population-level statistical regularities to individual cases, producing logically coherent yet socially biased inferences. We provide a statistical interpretation of this phenomenon. To steer models toward fairness-aware reasoning, we propose a reasoning-time injection framework. We further introduce Fair-GCG to systematically discover effective injection phrases. Injection phrases discovered by Fair-GCG improve performance across multiple fairness benchmarks, generalize from smaller to larger LLMs, improves reasoning-level fairness, reduces bias in open-ended generation, and transfer to real-world fairness-sensitive tasks.
- Abstract（参考訳）: 警告: この論文には有毒で攻撃的な言明がいくつか含まれている。
推論は一般的に最近の大規模言語モデル(LLM)の公平性を改善するが、失敗は持続する。
そこで本研究では,個体群レベルでの統計正則性を個々の事例に適用し,論理的に整合的であるが社会的に偏りのある推論を導出する,デダクティブステレオタイピング(deductive stereotyping)の障害モードを同定する。
この現象を統計的に解釈する。
公平性を意識した推論に向けてモデルを操るために,推論時間注入フレームワークを提案する。
さらに、Fair-GCGを導入し、効果的な注入フレーズを体系的に発見する。
Fair-GCGが発見したインジェクションフレーズは、複数のフェアネスベンチマークのパフォーマンスを改善し、より小型からより大型のLCMに一般化し、推論レベルのフェアネスを改善し、オープンエンド世代におけるバイアスを低減し、現実のフェアネスに敏感なタスクに移行する。
関連論文リスト
- FairForensics: Seeing Expressions and Parsing Demographics via Vision-Language Modeling for Generalizable Fair Deepfake Detection [60.2868121662026]
既存のフェアネスを増強した検出器は、しばしば人口統計群全体にわたって目に見えない操作とフェアネスの最適下一般化に悩まされる。
我々は、バランスの取れない人口シナリオと不均衡な人口シナリオの両方の下で、検出器の公平性を訓練し、評価するために、新しい人口動態バランスFDDベンチマークを構築した。
また,FairForensicsと呼ばれる新しい表現と階層型視覚言語モデルを導入する。
論文 参考訳（メタデータ） (2026-08-03T03:51:14Z) - When to Invoke: Refining LLM Fairness with Toxicity Assessment [16.84048602922096]
大規模言語モデル(LLM)は、オンラインモデレーションシステムにおける毒性評価にますます利用されている。
本研究では, 早期誘導毒性評価によりLCMの公平性を高める推論時フレームワークであるFairToTを提案する。
ベンチマークデータセットの実験では、FairToTは安定的で信頼性の高い毒性予測を維持しながら、グループレベルの格差を低減する。
論文 参考訳（メタデータ） (2026-01-14T07:35:56Z) - FairGSE: Fairness-Aware Graph Neural Network without High False Positive Rates [5.610647458198099]
グラフ表現学習の主流パラダイムとして,グラフニューラルネットワーク(GNN)が登場している。
2次元構造エントロピー (2D-SE) を最大化し, 偽陽性を伴わない公平性を向上するフレームワークである, 構造エントロピー (textbfFairGSE) によるFair GNNを提案する。
いくつかの実世界のデータセットの実験では、FairGSEはFPRを39%削減している。
論文 参考訳（メタデータ） (2025-11-15T09:40:47Z) - Silenced Biases: The Dark Side LLMs Learned to Refuse [5.2630646053506345]
モデルの潜在空間内にエンコードされた不公平な選好であるサイレントバイアスの概念を導入する。
我々は,アクティベーションステアリングを用いて,これらのバイアスを明らかにすることを目的としたサイレンスドバイアスベンチマーク(SBB)を提案する。
論文 参考訳（メタデータ） (2025-11-05T11:24:50Z) - Fair Deepfake Detectors Can Generalize [51.21167546843708]
共同設立者(データ分散とモデルキャパシティ)の制御により,公正な介入による一般化が向上することを示す。
この知見を応用して, 逆正当性重み付けとサブグループワイド特徴正規化を併用し, 新たなアライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・インセンティブ・インターベンション・インベンション・インテクション(DAID)を提案する。
DAIDは、いくつかの最先端技術と比較して、公平性と一般化の両方において一貫して優れた性能を達成する
論文 参考訳（メタデータ） (2025-07-03T14:10:02Z) - Reasoning Towards Fairness: Mitigating Bias in Language Models through Reasoning-Guided Fine-Tuning [12.559028963968247]
モデルの推論能力と公平性との関係について検討する。
より強力な推論能力を持つ大型モデルは、かなり低いステレオタイプバイアスを示す。
本稿では,先進的推論モデルから構造的推論トレースを抽出し,そのような能力を欠いたモデルに注入する手法であるReGiFTを紹介する。
論文 参考訳（メタデータ） (2025-04-08T03:21:51Z) - Where Fact Ends and Fairness Begins: Redefining AI Bias Evaluation through Cognitive Biases [77.3489598315447]
事実と公正の境界を識別することは有意義な公正性評価に不可欠である,と我々は主張する。
Fact-or-Fair は (i) 客観的なクエリを記述的, 事実に基づく判断, (ii) 主観的クエリを規範的, 公平性に基づく判断に整合させたベンチマークである。
論文 参考訳（メタデータ） (2025-02-09T10:54:11Z) - Collapsed Language Models Promote Fairness [88.48232731113306]
偏りのある言語モデルはトークン表現と単語埋め込みの間に崩壊したアライメントを示す。
我々は,幅広い脱バイアス法において,公平性を効果的に向上する原理的な微調整法を設計する。
論文 参考訳（メタデータ） (2024-10-06T13:09:48Z) - Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。
FASTは最先端のベースラインを超え、デバイアス性能が優れている。
これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
論文 参考訳（メタデータ） (2024-08-07T17:14:58Z) - Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。
カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。
本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
論文 参考訳（メタデータ） (2023-07-17T04:08:29Z) - FairCanary: Rapid Continuous Explainable Fairness [8.362098382773265]
本稿では,新しいモデルバイアス量化尺度であるQuantile Demographic Drift(QDD)を提案する。
QDDは継続的な監視シナリオに最適であり、従来のしきい値ベースのバイアスメトリクスの統計的制限に悩まされない。
QDDをFairCanaryと呼ばれる継続的モデル監視システムに組み込み、各予測毎に計算された既存の説明を再利用します。
論文 参考訳（メタデータ） (2021-06-13T17:47:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。