論文の概要: Toward a Graded Measure of Belief Stability in Large Language Models

• arxiv url: http://arxiv.org/abs/2609.34158v1
• Date: Mon, 28 Sep 2026 02:36:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-04 06:22:41.359233
• Title: Toward a Graded Measure of Belief Stability in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける信頼安定性の段階的測定に向けて
• Abstract要約: 格付けされた信念の安定性は、信念がいかに大きな言語モデル内で持続するかを示す尺度である。 請求に対する支持は、その請求がモデルの他のコミットメントと一緒に検討されているときに継続するかどうかを問うものである。 我々は、内部モデル表現を用いて条件信念の確率を推定する直接条件推定器を用いて、このアイデアを運用する。
• 参考スコア（独自算出の注目度）: 0.15655985886975654
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) increasingly mediate how people access and reason with information, yet factual reliability is usually evaluated one judgment at a time. We introduce graded belief stability, a relational measure of how well a belief persists within an LLM's broader belief system. Unlike individual belief probability, it asks whether support for a claim persists when that claim is considered alongside the model's other epistemic commitments. We operationalize this idea with a Direct Conditional estimator that uses internal model representations to estimate conditional belief probabilities. Across 12 LLMs and three domains, lower-stability beliefs exhibit greater mean behavioral movement under conversational challenge in 83.3% of model-domain settings after matching on individual belief probability. Graded belief stability therefore extends reliability assessment beyond how strongly an LLM supports a claim to how robustly that belief is supported within its broader system of beliefs.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、人々が情報にアクセスし、推論する方法をますます仲介するが、現実的な信頼性は通常、一度に1つの判断で評価される。 我々は, LLMの広い信念体系内での信念の持続性に関する関係尺度である, 段階的信念安定性を導入する。 個々の信念の確率とは違って、モデルの他のエピステマティックなコミットメントと共にその主張が検討されるとき、主張に対する支持が持続するかどうかを問う。 我々は、内部モデル表現を用いて条件信念の確率を推定する直接条件推定器を用いて、このアイデアを運用する。 12のLDMと3つの領域で、低い安定性の信念は、個々の信念の確率に一致した後、83.3%のモデルドメイン設定において会話上の挑戦の下で、より深い行動運動を示す。 したがって、段階的な信条安定は、LLMがより広い信条体系内でその信条がどれだけ堅固に支持されているかという主張を強く支持する以上の信頼性評価を拡大する。

関連論文リスト

• Can LLMs Use Linguistic Uncertainty Markers to Reliably Reflect Intrinsic Confidence? [50.17126900886782]
  モデルが、安定かつ一般化可能な方法でマーカーと特定の信頼レベルを関連付けるために、独自の言語的信頼フレームワークを適用できるかどうかは不明である。 我々は,与えられたタスク領域において,モデルが特定のてんかんマーカーと関連付ける内在的信頼度として,_marker internal confidence_(MIC)を定式化する。 分析フレームワークを多種多様なモデルやタスクに適用すると、LLMはマーカーの意味のモデル中心の解釈の下でも、忠実に誤解される。
  論文  参考訳（メタデータ） (2026-05-27T17:38:00Z)
• Confidence-Aware Alignment Makes Reasoning LLMs More Reliable [65.44962502963378]
  CASPOは、トークンレベルの信頼度とステップワイドな論理的正しさを、個別の報酬モデルをトレーニングせずに整合させるフレームワークである。 推論中、信頼を意識した思考(CaT)を提案し、不確実な推論枝を無視可能なO(V)レイテンシで動的に生成する。 10のベンチマークと複数のモデルファミリでの実験では、CASPOは推論の信頼性と推論効率を一貫して改善している。
  論文  参考訳（メタデータ） (2026-05-08T07:08:25Z)
• Certainty robustness: Evaluating LLM stability under self-challenging prompts [0.5156484100374058]
  大規模言語モデル(LLM)は、確実性や真実を推論する明確なメカニズムが欠如しているにもかかわらず、高い自信を持って答えを提示することが多い。 本稿では,LLMの安定性と適応性のバランス性を評価するための2ターン評価フレームワークであるCertainty Robustness Benchmarkを紹介する。 我々はLiveBenchの200の推論と数学の質問を用いて、4つの最先端LCMを評価し、正当性のある自己補正と正当性のない答えの変化を区別する。
  論文  参考訳（メタデータ） (2026-02-10T18:07:51Z)
• Vulnerability of LLMs' Belief Systems? LLMs Belief Resistance Check Through Strategic Persuasive Conversation Interventions [8.026492468995187]
  小さなモデルは極端なコンプライアンスを示し、最初の説得的なターンで80%以上の信念の変化が生じる。 メタ認知は、堅牢性を高めるのではなく、信念の侵食を加速することで脆弱性を増大させる。 これらの知見は、現在のロバストネス介入のモデル依存性のかなりの限界を浮き彫りにした。
  論文  参考訳（メタデータ） (2026-01-20T04:43:55Z)
• Illusions of Confidence? Diagnosing LLM Truthfulness via Neighborhood Consistency [78.91846841708586]
  完全な自己整合性で答えられた事実でさえ、軽微な文脈干渉の下で急速に崩壊することを示します。 本研究では,概念的近傍における応答コヒーレンスを評価する信念の構造尺度であるNighbor-Consistency Belief(NCB)を提案する。 また、文脈不変の信念構造を最適化し、長い知識の脆さを約30%低減する構造意識訓練(SAT)を提案する。
  論文  参考訳（メタデータ） (2026-01-09T16:23:21Z)
• The Facade of Truth: Uncovering and Mitigating LLM Susceptibility to Deceptive Evidence [49.94160400740222]
  MisBeliefは、協調的な多ラウンドの相互作用によって誤解を招く証拠を生成するフレームワークである。 MisBeliefを用いて、3つの難易度で4,800のインスタンスを生成し、7つの代表的なLCMを評価する。 結果は、モデルは直接的な誤報に対して堅牢であるが、この洗練された証拠に非常に敏感であることを示している。 本稿では,疑似意図を証拠裏で推測することにより早期警告信号を提供するガバナンス機構である,認知的意図遮蔽(DIS)を提案する。
  論文  参考訳（メタデータ） (2026-01-09T02:28:00Z)
• Can Large Language Models Express Uncertainty Like Human? [71.27418419522884]
  我々は,人間に注釈を付けた信頼スコアを持つヘッジ式の最初の多種多様な大規模データセットをリリースする。 現代大言語モデルにまたがる言語信頼に関する最初の体系的研究を行う。
  論文  参考訳（メタデータ） (2025-09-29T02:34:30Z)
• Toward a Graph-Theoretic Model of Belief: Confidence, Credibility, and Structural Coherence [0.0]
  本稿では、有向重み付きグラフとして、信念システムに対する最小の定式化を導入する。 論理的および議論に基づくフレームワークとは異なり、バイナリの正当化ステータスや推論的クロージャをコミットすることなく、きめ細かい構造表現をサポートする。 その目的は、信念体系の内部組織を解析するための基盤となる基盤を提供することである。
  論文  参考訳（メタデータ） (2025-08-05T14:03:23Z)
• Confidence Under the Hood: An Investigation into the Confidence-Probability Alignment in Large Language Models [14.5291643644017]
  信頼性・確率アライメントの概念を紹介します。 モデルの内部と信頼感の一致を調査する。 分析したモデルのうち、OpenAIのGPT-4は信頼性と信頼性のアライメントが最強であった。
  論文  参考訳（メタデータ） (2024-05-25T15:42:04Z)
• Think Twice Before Trusting: Self-Detection for Large Language Models through Comprehensive Answer Reflection [90.71323430635593]
  本稿では, LLM生成解を超える包括的解答空間を考察した, 新たな自己検出パラダイムを提案する。 このパラダイムに基づいて、2段階のフレームワークを導入し、まずまずLLMに各候補の回答を反映し、正当化するように指示する。 このフレームワークは、優れた自己検出のための既存のアプローチとシームレスに統合できる。
  論文  参考訳（メタデータ） (2024-03-15T02:38:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。