論文の概要: Measuring Mechanistic Uncertainty in Large Language Models via Causal Robustness

• arxiv url: http://arxiv.org/abs/2610.22636v1
• Date: Thu, 15 Oct 2026 20:46:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.665697
• Title: Measuring Mechanistic Uncertainty in Large Language Models via Causal Robustness
• Title（参考訳）: 因果ロバスト性による大規模言語モデルの機械的不確かさの測定
• Abstract要約: 本稿では,モデル応答を支える内部機構の安定性を通じて不確実性を特徴付ける機械的不確実性の概念を紹介する。 不正確で不確実な反応は、より小さなマージンを示し、内部介入に対する感受性が高いことを示す。 制御された知識注入実験において、正しく学習された事実は訓練後のマージンを増大させ、因果的堅牢性は機械的に不確実性の信号を与えることを示唆している。
• 参考スコア（独自算出の注目度）: 10.210786273177657
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly used in critical domains, where their susceptibility to hallucinations makes reliable and interpretable uncertainty quantification essential. We introduce the concept of mechanistic uncertainty, which characterizes uncertainty through the stability of the internal mechanisms supporting a model's response. We propose the causal robustness margin, defined as the minimum internal intervention required to deviate the model's output, and operationalize it using Jacobian Lens (Jlens) concept steering vectors. Across three open-source models and five question-answering datasets, we show incorrect and uncertain responses exhibit smaller margins, indicating greater sensitivity to internal interventions, and the causal robustness margin complements conventional output-based uncertainty methods. Finally, in a controlled knowledge injection experiment, correctly learned facts show increased margins after training, suggesting that causal robustness provides a mechanistically grounded signal of uncertainty.
• Abstract（参考訳）: 大型言語モデル (LLM) は、幻覚への感受性が信頼性と解釈可能な不確実性定量化を必須とする臨界領域において、ますます使われている。 本稿では,モデル応答を支える内部機構の安定性を通じて不確実性を特徴付ける機械的不確実性の概念を紹介する。 モデル出力を逸脱するために必要な最小内部介入として定義される因果ロバスト性マージンを提案し,ヤコビアンレンズ(Jlens)の概念ステアリングベクトルを用いて運用する。 3つのオープンソースモデルと5つの質問回答データセットで、不正確かつ不確実な応答はより小さなマージンを示し、内部介入に対する感度が高く、因果ロバスト性マージンは従来の出力ベース不確実性手法を補完する。 最後に、制御された知識注入実験において、正しく学習された事実は訓練後のマージンを増大させ、因果的堅牢性は機械的に不確実性の信号を与えることを示唆している。

関連論文リスト

• Latent Confidence Alignment for LLM Self-Assessment [8.73168195475753]
  本稿では,モデル能力と項目難易度を指標として,モデル自己評価と潜在誤り確率との整合性を測定するためのモデルベース潜在能力フレームワークとメタ認知的視点を提案する。 20モデルを用いた医療領域データセットの実験は,提案手法がモデル能力に影響を与えることなく自己評価品質を向上させることを示す。
  論文  参考訳（メタデータ） (2026-06-20T08:13:31Z)
• Position: Uncertainty Quantification in LLMs is Just Unsupervised Clustering [8.56875523245176]
  不確かさの定量化は、大規模言語モデル(LLM)を高い領域に展開するための主要なセーフガードとして広く見なされている。 LLMの主流UQメソッドは、単に教師なしクラスタリングアルゴリズムである。
  論文  参考訳（メタデータ） (2026-05-19T00:47:02Z)
• Can LLMs Detect Their Confabulations? Estimating Reliability in Uncertainty-Aware Language Models [24.72990207218907]
  LLM(Large Language Models)は、畳み込み(confabulation)として知られる、流動的だが不正なコンテンツを生成する傾向にある。 本研究では、文脈内情報がモデル行動にどのように影響するか、LLMが信頼できない応答を識別できるかを検討する。
  論文  参考訳（メタデータ） (2025-08-11T16:12:36Z)
• Breach in the Shield: Unveiling the Vulnerabilities of Large Language Models [13.216398753024182]
  大規模言語モデル(LLMs)と視覚言語モデル(VLMs)は、幅広いタスクで素晴らしいパフォーマンスを実現しています。 本研究では,このような摂動の影響を受けやすいパラメータや入力次元を同定することにより,この脆弱性の原因を特定することを目的とする。 我々は、情報幾何学に根ざし、個々のパラメータと入力次元の感度を定量化する、textbfFI, textbf First order local textbfInfluence という安定性尺度を提案する。
  論文  参考訳（メタデータ） (2025-03-28T16:23:59Z)
• Enhancing LLM Reliability via Explicit Knowledge Boundary Modeling [41.19330514054401]
  大規模言語モデル(LLM)は、不一致の自己認識に起因する幻覚の傾向にある。 本稿では,高速かつ低速な推論システムを統合し,信頼性とユーザビリティを調和させる明示的知識境界モデリングフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-03-04T03:16:02Z)
• Enhancing Trust in Large Language Models with Uncertainty-Aware Fine-Tuning [10.457661605916435]
  大規模言語モデル(LLM)は、その印象的な推論と質問応答能力によって自然言語処理の分野に革命をもたらした。 LLMは時に、幻覚として知られる、信頼できるが誤った情報を生成する傾向にある。 本稿では,決定論の原理に基づく不確実性を考慮した因果的言語モデリング損失関数を提案する。
  論文  参考訳（メタデータ） (2024-12-03T23:14:47Z)
• Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
  大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。 本稿では,LLMのための不確実性分解フレームワークについて述べる。 提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
  論文  参考訳（メタデータ） (2023-11-15T05:58:35Z)
• Improving the Reliability of Large Language Models by Leveraging Uncertainty-Aware In-Context Learning [76.98542249776257]
  大規模言語モデルはしばしば「ハロシン化」の課題に直面している 本研究では,不確実性に応答してモデルが出力を拡張あるいは拒否することを可能にする,不確実性を考慮したコンテキスト内学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-07T12:06:53Z)
• Robustness and Accuracy Could Be Reconcilable by (Proper) Definition [109.62614226793833]
  強靭性と精度のトレードオフは、敵文学において広く研究されている。 局所的不変性の帰納的バイアスを課す不適切に定義された頑健な誤差に由来する可能性がある。 定義上、SCOREは、最悪のケースの不確実性に対処しながら、堅牢性と正確性の間の和解を促進する。
  論文  参考訳（メタデータ） (2022-02-21T10:36:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。