論文の概要: Reference-Based Bias Detection in LLMs via Relative Representations of Hidden States

• arxiv url: http://arxiv.org/abs/2609.10060v1
• Date: Wed, 09 Sep 2026 11:33:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:09.006314
• Title: Reference-Based Bias Detection in LLMs via Relative Representations of Hidden States
• Title（参考訳）: 隠れ状態の相対表現によるLCMの基準バイアス検出
• Abstract要約: 本稿では,関連するモデル変種にまたがる隠れ状態表現のバイアスを監査する参照ベース手法を提案する。 微調整されたリサップ表現幾何学のため、絶対的な隠れ状態は直接的に同値ではない。 対象群が正・負の属性とどのように関連するかを測定する。
• 参考スコア（独自算出の注目度）: 4.505185728893222
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing bias auditing methods typically rely on model outputs, requiring costly benchmarks or judge models and potentially missing internal shifts that never appear in generated text. We propose a reference-based method that audits bias in hidden-state representations across related model variants, for example before and after fine-tuning. Because fine-tuning reshapes representation geometry, absolute hidden states are not directly comparable, so we encode each sentence by its similarities to a fixed set of anchor sentences, yielding relative representations in a shared comparison space. There we measure how target groups shift in their association with positive and negative attributes, a quantity we call the Representational Bias Shift $ΔB$. Across three model families and the WildGuardMix, DecodingTrust and ToxiGen benchmarks, $ΔB$ correlates with output-level bias change in 15 of the 18 settings we test, reaching $|r| = 0.84$ ($p < 0.001$) under full fine-tuning and becoming more model-dependent under parameter-efficient adaptation. Thresholding $ΔB$ detects checkpoints whose bias increased with ROC AUC between $0.65$ and $0.99$, and on WildGuardMix and DecodingTrust it separates them better than a SEAT-based baseline for all three families. $ΔB$ is also stable under changes to the anchor set, attribute sets and target templates. Our method requires no task-specific evaluation data and audits a model in about three minutes, using $3$-$50\times$ less compute than the output-level benchmarks considered here. We view it as complementary to output-based auditing rather than a replacement for it.
• Abstract（参考訳）: 既存のバイアス監査手法は一般的にモデル出力に依存しており、コストのかかるベンチマークや判断モデルが必要であり、生成したテキストには現れない内部シフトが欠落する可能性がある。 本稿では,例えばファインチューニングの前後など,関連するモデル変種間の隠れ状態表現のバイアスを監査する参照ベース手法を提案する。 微調整による表現幾何学のため、絶対隠れ状態は直接比較されないので、各文を固定されたアンカー文の集合に類似してエンコードし、共有比較空間における相対表現を生成する。 ここでは、対象群が正および負の属性と関連してどのようにシフトするかを測定する。 3つのモデルファミリとWildGuardMix、DecodingTrust、ToxiGenベンチマークにおいて、$ΔB$は、テストした18設定のうち15の出力レベルのバイアス変化と相関し、完全な微調整の下で$|r| = 0.84$(p < 0.001$)に達し、パラメータ効率の適応の下でよりモデル依存になる。 Thresholding $ΔB$は、ROC AUCで0.65$から0.99$の間でバイアスが増大したチェックポイントを検出し、WildGuardMixとDecodingTrustでは、3つのファミリーのSEATベースのベースラインよりも優れている。 $ΔB$はアンカーセット、属性セット、ターゲットテンプレートの変更の下でも安定している。 提案手法では,タスク固有の評価データを必要とせず,約3分でモデルを評価する。 代替ではなく、アウトプットベースの監査を補完するものと考えています。

関連論文リスト

• Which Model Is Actually Serving You? IRIS: Budgeted Black-Box Auditing of Model Substitution and Routing Dilution in LLM Gateways [6.964275075635626]
  返却されたテキストのみを必要とする監査である$mathrmIRIS$を提示します。 安価なパイロットは指数的なクエリエラーの崩壊に適合し、疑わしいクエリが発行される前にその予算を凍結する。 $mathrmIRIS$ match or beats detection on shared task, and adapt allocationss the matched-budget target-hit rate from 7,3$% to 8,7$%。
  論文  参考訳（メタデータ） (2026-07-23T02:32:08Z)
• Statistically Indistinguishable, Operationally Distinct: A Formal Barrier for Tabular Foundation Models [6.240573495762223]
  タブラル基礎モデルでは,ルールに従わずにシステムが生成するデータを推論できないことを示す。 3つのマッチした100ドルの州立フロンティア大補題モデル(LLM)では、スキーマ、トリガーソース、ルールテーブル、ステートファイルが法定州として2/50ドル以上で分類される。 この障壁は識別可能性であり、キャパシティスケールではなく、データであり、よりリッチな機能は運用基盤なしではそれを横断できない。
  論文  参考訳（メタデータ） (2026-06-27T21:14:06Z)
• Scaling Laws for Agent Harnesses via Effective Feedback Compute [53.68149869349268]
  emphEffective Feedback Compute (EFC)は、情報的、有効、非冗長な場合にのみフィードバックを信用し、その後の決定のために保持するトレースレベルのスケーリング座標である。 EFCベースの座標は、生の計算ベースラインよりも失敗率を常に予測する。
  論文  参考訳（メタデータ） (2026-05-28T09:45:47Z)
• ChainzRule: Sample-Efficient, Robust Deep Learning Across Tabular, NLP, and Vision Tasks [0.0]
  エンタープライズドメイン全体にわたるディープラーニングシステムは、学術ベンチマークが不明瞭な制約の下で運用される。 本稿では、典型的なアクティベーションを微分正規化(DREG)によって制御される学習可能な層に置き換えるニューラルネットワークChainzRule(CR)を提案する。 CRは、ピマ糖尿病で85.71% pm 2.01%$、凍結エンコーダでSST-5の感情分類で46.20% pm 0.37%$、パラメータが3.2Mの完全順序回帰で70.17%$を達成している。
  論文  参考訳（メタデータ） (2026-05-23T01:52:50Z)
• Representation Without Reward: A JEPA Audit for LLM Fine-Tuning [1.2691047660244335]
  JEPA(Joint-embedding predictive Architectures)は、モデルが観測された出力よりも遅延表現を予測できるように訓練された時に、より有用な抽象化を学ぶべきであることを提案している。 自己回帰型言語モデルの微調整には、この原理はより厳密な要件を必要とする。 我々は、Llama-3.2-1B-Instruct LoRA を用いて、自然言語からレジェックス生成におけるその要件を検証した。
  論文  参考訳（メタデータ） (2026-05-14T20:27:32Z)
• The Surprising Universality of LLM Outputs: A Real-Time Verification Primitive [0.0]
  CPUのみのスコアリングプリミティブはトークン当たり2.6マイクロ秒で動作する。 トークンのランク周波数分布は同じ2パラメータのMandelbrotランキング分布に収束する。 利用可能な場合にモデルログの確率で構成し、クローズドAPIで使用可能なランクオンリーモードに分解するシングルパススコアリングプリミティブを導出する。
  論文  参考訳（メタデータ） (2026-04-28T13:35:31Z)
• $V_1$: Unifying Generation and Self-Verification for Parallel Reasoners [69.66089681814013]
  $V_$は、効率的なペアワイドランキングを通じて生成と検証を統合するフレームワークである。 V_$-Inferはポイントワイド検証でPass@1を最大10%改善する。 V_$-PairRLは、標準のRLとポイントワイドのジョイントトレーニングよりも、テストタイムのスケーリングが7ドル--9%で向上する。
  論文  参考訳（メタデータ） (2026-03-04T17:22:16Z)
• Learning Accurate Segmentation Purely from Self-Supervision [87.78965637247107]
  Selfmentは完全に自己管理型のフレームワークで、人間のラベルなしでオブジェクトを生画像から直接分割する。 Selfmentは、複数のベンチマークで新しい最先端(SoTA)結果を設定する。
  論文  参考訳（メタデータ） (2026-02-27T07:36:32Z)
• From Global to Granular: Revealing IQA Model Performance via Correlation Surface [83.65597122328133]
  我々は, IQA 性能の構造化, きめ細かな解析を行う textbfGranularity-Modulated correlation (GMC) を提案する。 GMCにはtextbfDistribution Regulatorが含まれており、相関関係を規則化し、非均一な品質分布からのバイアスを軽減する。 標準ベンチマークの実験では、GCCはスカラーメトリクスに見えないパフォーマンス特性を示し、IQAモデルを分析、比較、デプロイするためのより情報に富んだ信頼性の高いパラダイムを提供する。
  論文  参考訳（メタデータ） (2026-01-29T13:55:26Z)
• Correcting Mean Bias in Text Embeddings: A Refined Renormalization with Training-Free Improvements on MMTEB [5.315831681082424]
  そこで我々は,Renormalizationと呼ばれる,プラグアンドプレイでトレーニング不要で軽量なソリューションを提案する。 再正規化は既存のモデルの性能を継続的に統計的に向上させることを示す。
  論文  参考訳（メタデータ） (2025-11-14T07:51:59Z)
• Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。 認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。 この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
  論文  参考訳（メタデータ） (2025-10-01T13:56:44Z)
• Beyond Invariance: Test-Time Label-Shift Adaptation for Distributions with "Spurious" Correlations [44.99833362998488]
  テスト時のデータ分散の変化は、予測モデルのパフォーマンスに有害な影響を及ぼす可能性がある。 本研究では,未ラベルサンプルに適用したEMを用いて,共同分布の$p(y, z)$の変化に適応するテストタイムラベルシフト補正を提案する。
  論文  参考訳（メタデータ） (2022-11-28T18:52:33Z)
• Evaluating Models' Local Decision Boundaries via Contrast Sets [119.38387782979474]
  テストデータの体系的なギャップを埋めるのに役立つNLPのための新しいアノテーションパラダイムを提案する。 10種類のNLPデータセットに対してコントラストセットを作成することで,コントラストセットの有効性を示す。 我々のコントラストセットは明示的には逆ではないが、モデルの性能は元のテストセットよりも大幅に低い。
  論文  参考訳（メタデータ） (2020-04-06T14:47:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。