論文の概要: The Illusion of Debiasing: Persona Steering Redistributes Rather Than Reduces Bias in LLMs
- arxiv url: http://arxiv.org/abs/2609.07117v1
- Date: Mon, 07 Sep 2026 07:02:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 01:30:25.348652
- Title: The Illusion of Debiasing: Persona Steering Redistributes Rather Than Reduces Bias in LLMs
- Title（参考訳）: 除草のイライラ: LLMのバイアス低減よりもペルソナステアリング再試薬
- Abstract要約: 我々はペルソナ条件付けを制御プローブとして使用し,その効果を自己申告から単語レベルアソシエーションまで深度軸に沿って測定する。
段階的な解離が見られます。ペルソナは正当ですが構造的ではありません。
したがって、プロンプトベースのステアリングは出力チャネル内で動作し、表面マニピュラビリティーがマスクできる構造的リーチ限界を有する。
- 参考スコア（独自算出の注目度）: 3.8603160932953386
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Prompt-based interventions: system prompts, personas, role instructions, reliably reshape what a language model says, but it is unclear which layer they reach. Do they reconfigure internal structure, or only modulate the output channel? We use persona conditioning as a controlled probe, measuring its effects along a depth axis from self-report, through open-ended generation, to word-level parametric association, across three instruction-tuned models. We find a graded dissociation. Personas are legible but not structural: models follow single-trait instructions yet fail to reproduce human inter-trait covariance. The dissociation deepens with depth: personas hold or amplify closed-form QA bias, shift absolute tone while leaving between-group disparity unchanged, and barely perturb an already saturated associative baseline. Prompt-based steering thus operates in the output channel and has a structural reach limit that surface manipulability can mask.
- Abstract（参考訳）: プロンプトベースの介入: システムプロンプト、ペルソナ、ロールインストラクションは、言語モデルが何を言っているかを確実に再構築するが、どの層に到達するかは不明である。
内部構造を再構成するか、あるいは出力チャネルのみを変更するか?
我々はペルソナ条件付けを制御プローブとして使用し,その効果を自己申告からオープンエンド生成,単語レベルパラメトリックアソシエーション,および3つの命令調整モデルを用いて測定する。
段階的な解離が見つかる。
パーソナは正当であるが構造的ではない:モデルは単一トラント命令に従うが、人間のトラント間の共分散を再現できない。
パーソナはクローズドフォームQAバイアスを保持または増幅し、グループ間格差を保ちながら絶対音をシフトし、既に飽和した結合基線をほとんど摂動しない。
したがって、プロンプトベースのステアリングは出力チャネル内で動作し、表面マニピュラビリティーがマスクできる構造的リーチ限界を有する。
関連論文リスト
- Vision: Data-Centric Anchoring for Robust and Interpretable Agentic AI [21.406298170489507]
我々は、堅牢性と解釈可能性は、トレーニング後のモデルから抽出するのではなく、データ環境に組み込むべきだと論じている。
私たちの中心的な貢献は、Curate、Augment、Constrain、Attributeの4段階フレームワークであるData-Centric Agentic Loopです。
このフレームワークは4つのコア障害モードをデータライフサイクルにリンクする、障害駆動型分類に基盤を置いています。
論文 参考訳（メタデータ） (2026-09-08T03:57:54Z) - How Does Alignment Tuning Shape Representations of Sycophancy and Related Cue-Induced Biases in LLMs? [53.58941416780391]
本研究は, この感受性, 潜伏性および関連キュー誘発バイアスがモデル内に存在するかを研究する。
我々は、隠れた状態からバイアスごとの方向を抽出し、探索、1つのデータセットの移動、因果的介入の3つの手段によってそれを三角測量する。
論文 参考訳（メタデータ） (2026-07-20T16:10:06Z) - DriftScope: Measuring The Hidden Effects of Diffusion Model Adaptation [50.584834483403675]
新しい視覚概念を学習するか、望ましくないものを消去するか、事前学習したテキスト・画像拡散モデルに適応させることは、意図した効果だけで日常的に評価される。
適応が意味論的に無関係な概念を、構造的にメトリクスを集約することができない方法で体系的に損なうことを実証する。
DriftScopeは、任意の2つのモデルチェックポイントを取り込み、視覚的概念が最も移行したトークンのランクリストを返す、プロンプトレベルの診断ツールである。
論文 参考訳（メタデータ） (2026-06-30T20:57:51Z) - Interpretability Without Tradeoffs: Disentangling Polysemanticity At Equal Predictive Performance [58.49623467782041]
ELUDeはディープニューラルネットワークの解釈可能性を改善する方法である。
潜在表現を、解釈可能な機能のように振る舞う透明で検査可能なサブユニットに分解する。
明示的なトレーニングもラベルも必要とせず、事前訓練されたモデルにも適用できる。
論文 参考訳（メタデータ） (2026-05-29T13:39:09Z) - Uniform Diffusion Models Revisited: Leave-One-Out Denoiser and Absorbing State Reformulation [72.05592785529404]
UDMの標準プラグインブリッジパラメタライゼーションは,後側頭蓋に最適化されないことを示す。
また,UDM関節法をマスク拡散様サンプリング操作に分解して保存する均一拡散の吸収状態再構成も導入した。
論文 参考訳（メタデータ） (2026-05-21T17:27:19Z) - Scaling Human-AI Coding Collaboration Requires a Governable Consensus Layer [22.42181408084751]
ビブコーディングは正確で実行可能なコードを高速に生成するが、構造的なコミットメントや依存関係、証拠の記録は残っていない。
本稿では,操作可能な世界モデルであるコンセンサス層Cが,エンジニアリングの主要な成果物としてコードを置き換えるパラダイムであるエージェント・コンセンサスを提案する。
本稿では,チャットによるベースラインと比較して,コンセンサスに基づく人間の介入を減らすかどうかを測定するためのベンチマークタスクファミリーを提案する。
論文 参考訳（メタデータ） (2026-04-20T06:53:32Z) - From Hallucination to Structure Snowballing: The Alignment Tax of Constrained Decoding in LLM Reflection [0.0]
「大型言語モデル(LLM)における固有の自己補正は、幻覚雪球によるオープンエンド推論タスクでしばしば失敗する」
本研究は,制約付き復号法により構造的反射を純粋に強制することが,追加の訓練を伴わずに誤りの伝播を阻害するかどうかを考察する。
論文 参考訳（メタデータ） (2026-04-07T16:47:37Z) - Engineering Verifiable Modularity in Transformers via Per-Layer Supervision [0.0]
分散冗長性は損傷を補うため、資本化にとって重要なものとして認識される注目ヘッドを非難することは、最小限の行動変化をもたらす。
アーキテクチャの介入が隠されたモジュール性を公開することを実証します。
このことは、受動的観察から能動的制御への解釈可能性変換の方法論を台無しにしている。
論文 参考訳（メタデータ） (2026-03-08T05:18:14Z) - Your Language Model Secretly Contains Personality Subnetworks [31.480534845874473]
大規模言語モデルには,すでにパラメータ空間にペルソナ特化作業が存在することを示す。
本手法は完全にトレーニング不要であり,言語モデルの既存のパラメータ空間にのみ依存する。
論文 参考訳（メタデータ） (2026-02-06T20:03:28Z) - Thinking with Deltas: Incentivizing Reinforcement Learning via Differential Visual Reasoning Policy [75.66913260900726]
検証可能なリワードによる強化学習は、大規模言語モデルにおいてかなり高度な推論能力を持っている。
既存のパラダイムは、テキスト中心の成果報酬によって推進され、モデルが視覚的知覚をバイパスすることを奨励します。
我々はtextbfDifferential Visual Reasoning Policy によって駆動されるフレームワーク Deltas を用いた textbfThinking を提案する。
論文 参考訳（メタデータ） (2026-01-11T08:25:34Z) - A Mathematical Theory of Discursive Networks [0.0]
大規模言語モデル(LLM)は、書き込みを人間とソフトウェアの間のライブ交換に変換する。
我々は,この新メディアを,人とLLMを等しいノードとして扱う分散ネットワークとして特徴付け,それらのステートメントの循環状況を追跡する。
本研究では, ドリフトと自己修復のみに支配されるネットワークが, 緩やかな誤差率で安定化することを示す, 分散ネットワークの一般的な数学的モデルを開発する。
論文 参考訳（メタデータ） (2025-07-09T05:39:56Z) - Can LLMs Separate Instructions From Data? And What Do We Even Mean By That? [60.50127555651554]
大規模言語モデル(LLM)は、多くの実用的なアプリケーションにおいて印象的な結果を示すが、基本的な安全性機能は欠如している。
これにより、間接的なプロンプトインジェクションのような操作に脆弱になり、一般に安全クリティカルなタスクには適さない。
モデル出力から計算可能な命令データ分離の形式的尺度と経験的変量を導入する。
論文 参考訳（メタデータ） (2024-03-11T15:48:56Z) - How do Decisions Emerge across Layers in Neural Models? Interpretation
with Differentiable Masking [70.92463223410225]
DiffMaskは、差分性を維持しながら入力のサブセットをマスクアウトすることを学ぶ。
入力トークンを包含または無視する決定は、中間隠蔽層に基づく単純なモデルで行われる。
これにより、属性のヒートマップをプロットするだけでなく、ネットワーク層間で意思決定がどのように形成されるかを分析することができます。
論文 参考訳（メタデータ） (2020-04-30T17:36:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。