論文の概要: BeliefScope: Diagnosing Evidence-Driven Revision and Pressure-Induced Shifts in Large Language Models

• arxiv url: http://arxiv.org/abs/2610.11305v1
• Date: Thu, 08 Oct 2026 06:11:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.825418
• Title: BeliefScope: Diagnosing Evidence-Driven Revision and Pressure-Induced Shifts in Large Language Models
• Title（参考訳）: BeliefScope: 大規模言語モデルにおけるエビデンス駆動リビジョンと圧力誘起シフトの診断
• Abstract要約: 言語モデルは、真に関連のある証拠を受け取った後や、無関係な事実を付加する方向性のユーザプレッシャーを受けた後に、同じ提案を修正することができる。 固定目標命題に関連する2つの要因を分離するブラックボックスフレームワークであるBeliefScopeを紹介した。
• 参考スコア（独自算出の注目度）: 2.015177052949575
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A language model may revise the same proposition after receiving genuinely relevant evidence or after receiving directional user pressure that adds no relevant fact. The observable response shift alone therefore does not reveal which source drove the change. We introduce BeliefScope, a controlled black-box framework for separating these two sources of influence around a fixed target proposition. BeliefScope crosses Evidence and Pressure with factor-specific local controls and measures response changes through probability reports, categorical judgments, and action recommendations on channel-appropriate scales. To determine when these observable contrasts support reliable attribution, we evaluate the observation design under controlled synthetic conditions. Known-truth recovery and targeted ablations establish where Evidence- and Pressure-related effects can be separated, while semi-synthetic stress tests map how that recoverability changes as the observation process becomes noisier and more heterogeneous. Across a 36-family Qwen/Llama study, with targeted 12-family checks that also include Gemma3-12B, the resulting profiles show substantial evaluation-context dependence: broad model-level differences can change under matched controls, decoding, or response interfaces, while some narrower within-model patterns remain stable. Instruction interventions further show that reduced target-aligned Pressure following can reflect either stable resistance or movement in the opposite direction. BeliefScope summarizes these measurements as a conditional belief-response profile that keeps diagnostic effects tied to the evaluation conditions under which they are observed, together with explicit validity boundaries for that diagnosis.
• Abstract（参考訳）: 言語モデルは、真に関連のある証拠を受け取った後や、無関係な事実を付加する方向性のユーザプレッシャーを受けた後に、同じ提案を修正することができる。 したがって、観測可能な応答シフトだけでは、どのソースが変更を駆動したかを明らかにしない。 固定目標命題に関連する2つの要因を分離するブラックボックスフレームワークであるBeliefScopeを紹介した。 BeliefScopeはエビデンスとプレッシャーを、因子特異的な局所的な制御で横断し、確率レポート、分類学的判断、チャネルに適したスケールでのアクションレコメンデーションを通じて応答の変化を測定する。 これらの観測可能なコントラストが信頼できる属性をサポートするかどうかを判断するために,制御された合成条件下での観測設計を評価する。 半合成応力試験は、観測プロセスがノイズを増し、さらに異質になるにつれて、その回復可能性がどのように変化するかを示す。 36ファミリーのQwen/Llamaの研究では、Gemma3-12Bを含む12ファミリーのチェックを対象とし、結果として得られたプロファイルは、相当な評価・コンテキスト依存を示す。 指示介入はさらに、目標整列圧力の減少は、安定な抵抗または反対方向の運動を反映できることを示している。 BeliefScopeは、これらの測定を条件付き信念応答プロファイルとして要約し、それらが観察される評価条件に結びついている診断効果と、その診断に対する明確な妥当性境界を維持する。

関連論文リスト

• Complex Problem Solving in Large Language Models: A Statistical Control Survey and Diagnostic Framework [52.886947585847594]
  大規模言語モデル(LLM)による複雑な問題解決は、しばしばより強い推論やより長い生成の問題としてフレーム化される。 しかし、早期のエラー増幅、迅速な脆さ、誤ったコミットメントを修正する失敗を説明するのは難しい。 本調査はCPSを潜在解状態上の逐次推定・決定問題と解釈する。
  論文  参考訳（メタデータ） (2026-09-17T18:28:45Z)
• Position, Not Provenance: Separating Reasoning Mediation from Sycophancy in Medical Vision-Language Models [0.0]
  医療ビジョン言語モデルは、臨床的な疑問に答える前に連鎖推論を生成する。 CoT-Mediateは、モデルが生成する推論の中で、単一の臨床的に有意な属性を摂動させる行動的枠組みである。 LLaVA-MedとMedGemmaを1000VQA-RADサンプルで評価した。
  論文  参考訳（メタデータ） (2026-07-29T17:11:52Z)
• When Are Neural Interaction Discoveries Real? Identifiability, Recoverability, and a Pre-Fit Diagnostic [0.0]
  これは基本的には、観測された入力支援の幾何学によって支配される識別可能性の問題である。 表現能力が識別可能でないことを示す。 相互作用の回復性はサポート幾何学に依存することを示す。
  論文  参考訳（メタデータ） (2026-06-07T00:52:43Z)
• Counterfactual Likelihood Tests for Indirect Influence in Private Reasoning Channels [51.56484100374058]
  本稿では,私的推論チャネル間の影響を測定するための実証実験について述べる。 この方法は、上流のプライベートブロックを長さマッチングドナーブロックに置き換え、公開トークンシーケンスと下流ターゲットを固定し、下流ターゲットの負のログに似たシフトを測定する。
  論文  参考訳（メタデータ） (2026-05-18T20:27:43Z)
• Evaluating Evidence Grounding Under User Pressure in Instruction-Tuned Language Models [6.431677598656395]
  競合するドメインでは、命令調整言語モデルは、コンテキスト内証拠に対する忠実さに対するユーザ調整のプレッシャーをバランスさせなければならない。 我々は,0.27Bから32Bのパラメータにまたがる19の命令調整モデルに対して,エビデンス組成と不確実性を詳細に説明する。
  論文  参考訳（メタデータ） (2026-03-20T17:38:23Z)
• On the Structural Non-Preservation of Epistemic Behaviour under Policy Transformation [51.56484100374058]
  このような情報条件の相互作用パターンを振る舞い依存として定式化する。 これにより、$$-behavioural equivalenceというプローブ相対的な概念と、政治内行動距離が導かれる。 その結果、共通政策変換の下でプローブ条件の挙動分離が保存されない構造条件が明らかになった。
  論文  参考訳（メタデータ） (2026-02-24T22:55:21Z)
• Causality is Key for Interpretability Claims to Generalise [35.833847356014154]
  大規模言語モデル(LLM)の解釈可能性の研究は、モデル行動に関する重要な洞察をもたらした。 繰り返し発生する落とし穴: 一般化しない発見と、証拠を突破する因果解釈。 パールの因果的階層は、解釈可能性の研究が正当化できることを明確にする。
  論文  参考訳（メタデータ） (2026-02-18T18:45:04Z)
• Decoding Susceptibility: Modeling Misbelief to Misinformation Through a Computational Approach [61.04606493712002]
  誤報に対する感受性は、観測不可能な不検証の主張に対する信念の度合いを記述している。 既存の感受性研究は、自己報告された信念に大きく依存している。 本稿では,ユーザの潜在感受性レベルをモデル化するための計算手法を提案する。
  論文  参考訳（メタデータ） (2023-11-16T07:22:56Z)
• Nonparametric Identifiability of Causal Representations from Unknown Interventions [63.1354734978244]
  本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。 我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
  論文  参考訳（メタデータ） (2023-06-01T10:51:58Z)
• Robust detection and attribution of climate change under interventions [4.344839102717429]
  フィンガープリントは気候変動の検出と属性(D&A)の鍵となるツールである 本稿では,教師付き学習に基づく直接D&A手法を提案し,頑健な予測につながる指紋を抽出する。 本研究は, 関連する介入に対するロバスト性制約を組み込むことは, 気候変動の検出と帰属に有益であることが示唆された。
  論文  参考訳（メタデータ） (2022-12-09T15:13:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。