論文の概要: Isolating a Language Model's Judgment with a Label-Free Subspace

• arxiv url: http://arxiv.org/abs/2610.21256v1
• Date: Thu, 15 Oct 2026 04:49:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.194571
• Title: Isolating a Language Model's Judgment with a Label-Free Subspace
• Title（参考訳）: ラベルのない部分空間で言語モデルの判断を分離する
• Abstract要約: 判断がどのように表現されるべきかを指定する命令を変更することで、同じ入力であっても最終的な回答の信頼性が低下する。 これらの違いは低次元の表現部分空間に集中していることが分かる。 正当性、細部、安全性にわたって、分離された判断は、部分空間を特定するのに使われていない命令の下では信頼性が保たれている。
• 参考スコア（独自算出の注目度）: 10.267829312701027
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models are often asked to make judgments: whether a proposed answer is correct, whether one statement follows logically from another, or whether a response is safe. Yet changing the instructions that specify how the judgment should be expressed can make the final answer less reliable, even for the same input. We ask whether this reflects a change in internal judgment or a failure to express it. Comparing hidden-state vectors for the same input under different instructions, we find that their differences concentrate in a low-dimensional expression subspace. We identify this subspace without benchmark labels and remove its contribution from a linear predictor to obtain an isolated judgment. Across correctness, entailment, and safety, the isolated judgment remains reliable under instructions not used to identify the subspace, even when the model's final answer and the original predictor degrade. When the judgment question is negated, isolation raises the predictor's AUROC from 0.504 to 0.825 for entailment and from 0.480 to 0.891 for safety. We also find that judgment is readable in earlier layers, before the expression subspace begins to disrupt the predictor. Together, these results provide a way to separate judgment from expression and recover internal judgments even when the model's final answers are unreliable.
• Abstract（参考訳）: 言語モデルは、提案された回答が正しいかどうか、ある文が別の文から論理的に従うかどうか、あるいは応答が安全かどうかの判断を求められることが多い。 しかし、判断がどのように表現されるべきかを指定する命令を変更することで、同じ入力であっても、最終的な回答の信頼性が低下する可能性がある。 内部判断の変化を反映しているのか、あるいは表現に失敗したのかを問う。 異なる命令の下で同じ入力に対して隠れ状態ベクトルを比較すると、それらの差は低次元の表現部分空間に集中していることが分かる。 ベンチマークラベルなしでこの部分空間を識別し、線形予測器からの寄与を除去し、孤立判定を得る。 正当性、細部、安全性にわたって、モデルの最終的な答えと元の予測器が劣化しても、サブスペースを特定するのに使われていない命令の下では、孤立した判断は信頼性が保たれる。 判定問題を無効にすると、アイソレーションは予測者のAUROCを0.504から0.825に、安全性は0.480から0.891に上昇させる。 また、式サブスペースが予測器を乱し始める前に、以前のレイヤで判断が読みやすいこともわかりました。 これらの結果は、モデルの最終回答が信頼できない場合でも、表現から判断を分離し、内部判断を復元する方法を提供する。

関連論文リスト

• U-Space: Uncovering When and Why Uncertainty Arises in Language Models [48.66130361282914]
  不確実性は、個々の予測の信頼性を見積もることで、断線に対処しようとする。 既存の方法は、繰り返し世代または別々に訓練されたコンポーネントを必要とする。 機械的解釈可能性(Mechanistic Interpretability)は、これらの制限に対処する方法を提供する。
  論文  参考訳（メタデータ） (2026-10-06T20:40:29Z)
• Over-Personalization Is a Decision Failure: Generation-Induced Apply Bias in LLMs [12.943884009471871]
  LLMは、格納された各好みに対して、現在のコンテキストがそれを適用または抑制するよう求めるかどうかを判断しなければならない。 選好処理を3段階に分割し,それぞれを個別に測定する。
  論文  参考訳（メタデータ） (2026-09-28T04:29:25Z)
• Same Scores, Different Decisions: Evaluating JEV and Language Models for Legal Document Understanding [65.85599131866623]
  私たちはJevとContractNLIの9つの言語モデルを比較します。 制御された比較は、仮説の可視性、要求された出力、および出力順序によって異なる。 Jevは、評価された構成の中で、最低コストと中央値のレスポンス時間を持っています。
  論文  参考訳（メタデータ） (2026-09-23T10:53:01Z)
• Truth for Believable AI: Expressed Doubt, Provenance, and Belief Revision as an Engineerable Stance [0.0]
  定型言語モデル上での動作層として,不確実性,先入観を意識したアサーション,明示的信念のリビジョンを実装できるかどうかを検証した。 合成モデルとQwen2.5-0.5B-インストラクタを用いて,機械的に評価したマルチセッションベンチマークを用いて評価を行った。
  論文  参考訳（メタデータ） (2026-09-22T11:34:53Z)
• When Correct Decisions Hide Internal Stress: Decision-State Probing in Multimodal Language Models [18.50038551163168]
  我々はS$3$Eを用いてマルチモーダル言語モデルにおける振る舞い-内部疎結合を解析する。 意味紛争候補が過剰な意思決定状態のずれを引き起こすかどうかを測定する。 以上の結果から,強制選択の正確性だけでは,内部決定幾何学の不変性の十分な証明にはならないことが示唆された。
  論文  参考訳（メタデータ） (2026-06-07T01:11:36Z)
• A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
  本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。 我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。 本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
  論文  参考訳（メタデータ） (2025-10-03T07:01:45Z)
• Mitigating LLM Hallucinations via Conformal Abstention [70.83870602967625]
  我々は,大言語モデルが一般ドメインでの応答をいつ無視すべきかを決定するための,原則化された手順を開発する。 我々は、幻覚率(エラー率)の厳密な理論的保証の恩恵を受けるため、共形予測手法を活用して、禁忌手順を開発する。 実験によって得られた共形禁忌法は, 種々の閉書, オープンドメイン生成質問応答データセットに, 幻覚率を確実に拘束する。
  論文  参考訳（メタデータ） (2024-04-04T11:32:03Z)
• Where and What? Examining Interpretable Disentangled Representations [96.32813624341833]
  解釈可能なバリエーションの獲得は、長い間、絡み合い学習の目標の1つだった。 独立性の仮定と異なり、解釈性は教師なしの設定での絡み合いを促進するために使われることは滅多にない。 本論文では, 解釈対象と解釈対象の2つの質問について検討し, 離散表現の解釈可能性を検討する。
  論文  参考訳（メタデータ） (2021-04-07T11:22:02Z)
• Regularizing Reasons for Outfit Evaluation with Gradient Penalty [73.40920780576887]
  我々は,判断と説得力のある説明からなるフィードバックを提供する服装評価システムを構築した。 システムは、ドメインの知識を体系的に忠実に追従する教師ありの方法で訓練される。
  論文  参考訳（メタデータ） (2020-02-02T18:59:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。