論文の概要: Over-Personalization Is a Decision Failure: Generation-Induced Apply Bias in LLMs

• arxiv url: http://arxiv.org/abs/2609.34284v2
• Date: Wed, 30 Sep 2026 02:14:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:25.988781
• Title: Over-Personalization Is a Decision Failure: Generation-Induced Apply Bias in LLMs
• Title（参考訳）: パーソナライゼーションは意思決定の失敗だ: LLMにおけるジェネレーション誘起の応用バイアス
• Abstract要約: LLMは、格納された各好みに対して、現在のコンテキストがそれを適用または抑制するよう求めるかどうかを判断しなければならない。 選好処理を3段階に分割し,それぞれを個別に測定する。
• 参考スコア（独自算出の注目度）: 12.943884009471871
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Personalized LLMs must decide, for each stored preference, whether the current context calls for applying or suppressing it, which we call its applicability. They frequently over-personalize, applying preferences the context rules out, yet existing benchmarks score only the final response and cannot tell where this failure arises. We decompose preference handling into three stages and measure each separately: (1) knowing whether a preference applies, (2) deciding on an explicit Apply/Suppress label, and (3) generating a response consistent with that label. Using linear probes, we first show that this applicability signal remains decodable from hidden states during generation. By making the decision explicit, we then find that in most settings wrong decisions faithfully followed outnumber correct decisions lost in generation. We thus locate the failure in the decision, which breaks once the model is also asked to answer. To determine whether this reflects lost sensitivity or a response bias, we propose ABIDE (Apply-Bias Investigation via Decision-score), which adapts signal detection theory to Apply-vs-Suppress decision scores read directly from logits. ABIDE reveals a generation-induced Apply bias: merely stating an answer-generation objective shifts the decision score toward Apply while sensitivity is largely preserved, and the shift persists under controls for prompt structure, cascades across preference slots, and prompt wording. Finally, we show that subtracting a single bias scalar, estimated on a held-out split, from the decision score at decoding time reduces leakage while largely preserving fulfillment.
• Abstract（参考訳）: パーソナライズされたLLMは、格納された各好みに対して、現在のコンテキストが適用または抑制を要求するかどうかを判断しなければなりません。 多くの場合、オーバーパーソナライズされ、コンテキストルールを優先的に適用するが、既存のベンチマークは最終応答のみをスコアし、この障害の発生場所を特定できない。 選好処理を3段階に分解し,それぞれを別々に測定する。(1) 選好が適用されるかどうか,(2) 明示的なApply/Suppressラベルを決定すること,(3) ラベルと整合した応答を生成すること。 まず、線形プローブを用いて、この適用性信号が生成中の隠れ状態から復号可能であることを示す。 決定を明確にすることで、ほとんどの設定において間違った決定が、世代で失われた正しい決定よりも忠実に従っていることが分かる。 したがって、モデルにも答えを求めると、決定の失敗は失敗に終わる。 ABIDE(Apply-Bias Investigation via Decision-score)は,信号検出理論をロジットから直接読み取ったApply-vs-Suppress決定スコアに適応させる。 ABIDEは、第1世代のApplyバイアスを明らかにしている: 応答生成の目的が決定スコアをApplyにシフトするのに対して、感度は大部分が保存されている。 最後に,1つのバイアススカラーを1つのホールトアウト分割で推定し,復号時間における決定スコアから減算すると,ほぼ完結を保ちながらリークが減少することを示す。

関連論文リスト

• RISA: Response Inspection and Selective Actions for Refusal Calibration in Large Language Models [19.938570872083652]
  トレーニング時間アライメントは、モデルパラメータを安全データで更新することで、拒絶動作を改善するが、さらなる計算とトレーニングが必要である。 インフェルノ時間アライメントは、基礎となるモデルパラメータを更新することなく、推論中のLCMの振る舞いを変更することを目的としている。 本稿では、初期応答を検査し、ベースモデルを更新することなくエラーを選択的に修正する推論時フレームワークである、応答検査と選択行動(RISA)を提案する。
  論文  参考訳（メタデータ） (2026-09-01T06:37:42Z)
• Wrong Prediction, Right Answer: Recovering Evidence from Collapsed LLM Sequence Scores [31.709549159768727]
  多様な推論ベンチマーク間で一貫した読み出しギャップを観察する。 隠れ状態プローブは、ネイティブシークエンススコアが完全に崩壊しても正解を復号することに成功した。 以上の結果から,無作為な内部論理を隠蔽する表現障害が明らかにゼロショット推論の欠点であることが明らかとなった。
  論文  参考訳（メタデータ） (2026-08-31T16:43:55Z)
• Accuracy and Order Sensitivity Diverge Under Label-Free Strategies [4.127762845164668]
  複数選択ベンチマークは、大きな言語モデルを評価するために広く使われている。 複数の選択は、選択順序に対する感度で知識を分割する。 本稿では,モデルが回答をコミットしながらオプションラベルを見るのを防ぐことが,位置の影響を除去するかどうかを検証する。
  論文  参考訳（メタデータ） (2026-08-12T11:34:45Z)
• SAGE: Answer-Conditioned Uncertainty Targets for Verbal Uncertainty Alignment [20.5795766462733]
  そこで本研究では,サンプル応答に対する解条件付き不確実性幾何を構成するグループレベルの不確実性ターゲットを提案する。 実験では、不確実性ランキングの改善、キャリブレーション誤差の低減、信頼性の低下が示されている。
  論文  参考訳（メタデータ） (2026-06-09T23:17:16Z)
• Adversarial Feeds Steer LLM Agent Decisions Against Their Defaults [0.0]
  LLMエージェントは、ソーシャルフィード、検索結果、検索コンテキスト、電子メールキューなどのランク付けされた外部情報ストリームを消費した後、ますます行動する。 モデル,ペルソナ,トピック,最終決定のプロンプトを保持する制御プロトコルを導入し,エージェントが遭遇するポストの構成と順序だけを変化させる。 我々は, 逆降圧, デフォルト飽和, 一方のフィードが真に不確実な決定を下す非対称性の3つの応答機構を同定した。
  論文  参考訳（メタデータ） (2026-05-30T22:43:23Z)
• Response Time Enhances Alignment with Heterogeneous Preferences [49.69696266152175]
  簡易な二次信号で選好データセットを増大させることで、住民の平均選好の識別性を回復できることを示す。 私たちの結果は、将来的なデータ収集パイプラインに約束と新たな機会をもたらします。
  論文  参考訳（メタデータ） (2026-05-07T22:05:23Z)
• Unintentional Unalignment: Likelihood Displacement in Direct Preference Optimization [60.176008034221404]
  直接選好最適化(DPO)とその変種は、言語モデルと人間の選好の整合にますます利用されている。 以前の研究では、トレーニング中に好まれる反応の可能性が減少する傾向が見られた。 確率変位は破滅的になりうることを示し、確率質量を好ましくない反応から反対の意味の反応へとシフトさせる。
  論文  参考訳（メタデータ） (2024-10-11T14:22:44Z)
• Mitigating LLM Hallucinations via Conformal Abstention [70.83870602967625]
  我々は,大言語モデルが一般ドメインでの応答をいつ無視すべきかを決定するための,原則化された手順を開発する。 我々は、幻覚率(エラー率)の厳密な理論的保証の恩恵を受けるため、共形予測手法を活用して、禁忌手順を開発する。 実験によって得られた共形禁忌法は, 種々の閉書, オープンドメイン生成質問応答データセットに, 幻覚率を確実に拘束する。
  論文  参考訳（メタデータ） (2024-04-04T11:32:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。