論文の概要: Fair on the Surface? Benchmarking Hidden-Output Fairness Gaps in LLM Recommenders

• arxiv url: http://arxiv.org/abs/2608.08284v1
• Date: Sat, 08 Aug 2026 18:32:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.759158
• Title: Fair on the Surface? Benchmarking Hidden-Output Fairness Gaps in LLM Recommenders
• Title（参考訳）: 表面フェア? LLMリコメンダにおける隠れ出力フェアネスギャップのベンチマーク
• Abstract要約: 我々は、観測可能出力シフト(OBS)と隠れ表現シフト(IBS)の2つのレベルにおいて、リコメンデーションフェアネスを共同評価する。 それらの関係はRepresentation-Output Alignment (ROA)を通じて要約され、ユーザレベルの隠れ出力ミスマッチを識別するための四分法が提供されている。 IBSを最大8倍に低下させるアクティベーションステアリングはOBSを悪化させ、既存のフレームワークが診断に不適な内部レベルと出力レベルの公平性の間に根本的な緊張関係を示す。
• 参考スコア（独自算出の注目度）: 20.43255909402848
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Fairness audits for LLM-based recommenders have largely focused on observable outputs, implicitly assuming that stable recommendations reflect stable internal processing. We challenge this assumption with FairGap, the first benchmark to jointly evaluate recommendation fairness at two levels: observable output shift (OBS) and hidden representation shift (IBS), measured through controlled counterfactual identity probes across gender, age, and race. Their relationship is summarized via Representation-Output Alignment (ROA), with quadrant diagnostics for identifying user-level hidden-output mismatch. Applied to six open-weight LLM families across three domains, FairGap reveals pervasive hidden-output decoupling: ROA rarely exceeds 0.22, and a non-negligible user population shows stable outputs despite substantial internal shifts, a mode that output-only audits cannot detect by design. Further, activation steering that reduces IBS by up to 8x simultaneously worsens OBS, demonstrating a fundamental tension between internal and output-level fairness that existing frameworks are unequipped to diagnose.
• Abstract（参考訳）: LLMベースのリコメンデータの公正監査は、安定したリコメンデーションが安定した内部処理を反映していると暗黙的に仮定して、観測可能なアウトプットに重点を置いている。 この仮定に挑戦するため、FairGapは、観察可能な出力シフト(OBS)と隠蔽表現シフト(IBS)の2つのレベルで推奨公正性を共同評価する最初のベンチマークである。 それらの関係はRepresentation-Output Alignment (ROA)を通じて要約され、ユーザレベルの隠れ出力ミスマッチを識別するための四分法が提供されている。 ROAは0.22を超えることはめったになく、非無視のユーザ人口はかなりの内部シフトにもかかわらず安定した出力を示し、出力のみの監査は設計によって検出できないモードである。 さらに、IBSを最大8倍まで減少させるアクティベーションステアリングはOBSを悪化させ、既存のフレームワークが診断できない内部レベルと出力レベルの公平性の間に根本的な緊張を示す。

関連論文リスト

• IFW-BLS: Dual-Robust Broad Learning System with Intuitionistic Fuzzy Wave Loss [7.2201008524483585]
  ブロードラーニングシステムは、特徴ノードと拡張ノードを通じてネットワーク幅を拡大する効率的なランダム化学習モデルである。 しかし、その標準の最小二乗訓練は、2つの異なる方法で脆弱である: (i) ノイズ、外れ値、または破損したラベルによって引き起こされる大きな残留物が目的を支配でき、 (ii) 全てのサンプルは、曖昧または局所的に矛盾している地域にある場合でも、等しく信頼できるものとして扱われる。 本稿では,直観的ファジィウェーブブロードラーニングシステムIFW-BLSを提案する。
  論文  参考訳（メタデータ） (2026-09-02T10:42:24Z)
• Mitigating LLM Sycophancy in Code Smell Detection Using Evidence-Guided Reasoning Prompts [0.0]
  大規模言語モデルにおける梅毒のバイアスに関する最初の体系的実証的研究について述べる。 LLMに基づくコードの臭い検出の信頼性に、梅毒のバイアスが重大な脅威となることを示す。 我々は,エビデンス優先の推論を強制する構造化促進戦略であるEvidence-Guided Debiasing Prompting (EGDP)を提案する。
  論文  参考訳（メタデータ） (2026-07-11T17:35:25Z)
• Dual-Branch Cross-Projection Debiasing through Diffusion-based Disentanglement [66.67463557274358]
  バイアス付きデータセットに基づいてトレーニングされた基礎モデルは、しばしばターゲットラベルと非因果属性の間の急激な相関に依存する。 信頼誘導概念マイニング(CBCM:Confidence-guided Concept Mining)を導入し,属性アノテーションを使わずに信頼性の高いスプリアス属性を同定する。 本稿では,目標と突発的な表現を2つのブランチに分離するプロンプトチューニングフレームワークであるDual-branch Cross-projection Debiasing (DCD)を提案する。
  論文  参考訳（メタデータ） (2026-06-23T05:28:47Z)
• A Systematic Failure Analysis of Vision Foundation Models for Open Set Iris Presentation Attack Detection [6.472008340680056]
  本研究は、近視画像を用いたオープンセット虹彩PADのための汎用視覚基盤モデルの系統的故障解析を行う。 その結果、基礎モデルは、類似したセンシング特性を持つデータセット間で転送可能であるが、未知の攻撃機器に対して確実に一般化できないことが示唆された。 これらの結果から,強いクローズドセットやクロスデータセットのパフォーマンスは,堅牢なオープンセットセキュリティの証拠として扱うべきではないことが示唆された。
  論文  参考訳（メタデータ） (2026-05-18T18:41:26Z)
• When Accuracy Is Not Enough: Uncertainty Collapse between Noisy Label Learning and Out-of-Distribution Detection [5.922967156812547]
  雑音ラベル(LNL)を用いた学習は通常、クローズドセットの分類精度によってベンチマークされる。 本稿では,LNLチェックポイントを凍結し,ニア/ファー-OODルーティングとポストホックスコアを標準化して評価する,学習者に依存しないACC-OODベンチマークを提案する。 これらの結果は、クローズドセットの一般化、オープンワールドの信頼性、構造的重複診断を共レポートするLNLベンチマークをサポートする。
  論文  参考訳（メタデータ） (2026-05-18T03:19:45Z)
• Avoiding Structural Failure Modes in Tabular Fair SSL: Online Primal-Dual Allocation under Confidence Gating [5.890873839907491]
  半教師付き学習(SSL)は、限られたラベルで予測できるが、高い精度のアプリケーション(医療、信用、復習)は統計的公正性を保証する必要がある。 オンラインプライマル・デュアル・アロケーション (OPDA) は, 不正, リスク, 疑似ラベルの健康信号を用いて, 公平性とエントロピーに基づく安定性の罰則をスケジュールするオンラインコントローラである。
  論文  参考訳（メタデータ） (2026-05-15T01:43:32Z)
• Token-Level Inference-Time Alignment for Vision-Language Models [58.41370989069588]
  VLM(Vision-Language Models)は、現代のマルチモーダルインテリジェンスの重要なバックボーンとなっている。 本稿では,基本VLMを凍結し,その分布を近似する報酬モデルをトレーニングする軽量フレームワークTITAを提案する。 推測中、暗黙の選好信号は報酬モデルと目標VLMの対数確率比として抽出され、密集した自己回帰フィードバックが得られる。
  論文  参考訳（メタデータ） (2025-10-20T09:58:03Z)
• Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
  生成のための教師なし共形推論フレームワークを提案する。 我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。 その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
  論文  参考訳（メタデータ） (2025-09-26T23:40:47Z)
• Backdoor Cleaning without External Guidance in MLLM Fine-tuning [76.82121084745785]
  Believe Your Eyes (BYE)は、アテンションエントロピーパターンを自己教師信号として活用して、バックドアサンプルを特定してフィルタリングするデータフィルタリングフレームワークである。 クリーンタスクのパフォーマンスを維持しながら、ほぼゼロの攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2025-05-22T17:11:58Z)
• Provenance: A Light-weight Fact-checker for Retrieval Augmented LLM Generation Output [49.893971654861424]
  検索強化生成(RAG)から非実効出力を検出する軽量な手法を提案する。 私たちは、二項決定を下すためにしきい値にできる事実性スコアを計算します。 実験の結果, ROC曲線 (AUC) の下では, 関連するオープンソースデータセットの広範囲にわたって高い面積を示すことができた。
  論文  参考訳（メタデータ） (2024-11-01T20:44:59Z)
• WSSOD: A New Pipeline for Weakly- and Semi-Supervised Object Detection [75.80075054706079]
  弱機能および半教師付きオブジェクト検出フレームワーク(WSSOD)を提案する。 エージェント検出器は、まず関節データセット上でトレーニングされ、弱注釈画像上で擬似境界ボックスを予測するために使用される。 提案フレームワークはPASCAL-VOC と MSCOCO のベンチマークで顕著な性能を示し,完全教師付き環境で得られたものと同等の性能を達成している。
  論文  参考訳（メタデータ） (2021-05-21T11:58:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。