論文の概要: Belief-Trajectory Energy: Measuring the Path to a Prediction

• arxiv url: http://arxiv.org/abs/2610.05114v1
• Date: Sun, 04 Oct 2026 10:44:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 23:21:38.565237
• Title: Belief-Trajectory Energy: Measuring the Path to a Prediction
• Title（参考訳）: 信念・軌道エネルギー:予測への道のりを測る
• Abstract要約: 本稿では,モデル内で誘導される階層的な予測的リビジョンを通じて入力を特徴付けるモデル基底測度であるBelief-Trajectory Energyを紹介する。 局所的なBTEはフィッシャー・ラオ幾何学の下での予測的リビジョンに対応し、リビジョンのシーケンスは初期から最終の信念の変化を超えて情報をキャプチャすることを示す。 さらなる分析により、BTEは事前学習を通して発達し、ターゲットトレーニングによって選択的に再形成され、その結果の計測がスコアリングモデルが学んだことを反映していることが示される。
• 参考スコア（独自算出の注目度）: 18.027571424233155
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) progressively revise their predictions across Transformer layers, yet we typically observe only the final output, discarding the trajectory through which it is formed. We introduce Belief-Trajectory Energy(BTE), a model-grounded measure that characterizes an input through the layerwise predictive revisions it induces in a model. By mapping intermediate states into a shared predictive space, BTE provides a principled measure of belief change that can be summarized as either a scalar or a structured depth profile. Theoretically, we show that local BTE corresponds to predictive revision under the Fisher-Rao geometry, while the sequence of revisions captures information beyond the initial-to-final belief change. Empirically, scalar BTE provides a model-relative signal of difficulty across diverse reasoning tasks, while richer BTE representations support human-LLM review detection and fine-grained generator attribution, reaching up to $0.998$ macro-AUROC and $95.6\%$ eight-way attribution accuracy. Further analysis shows that BTE develops throughout pretraining and is selectively reshaped by targeted training, demonstrating that the resulting measurement reflects what the scoring model has learned. Together, our results establish belief trajectories as a principled model-grounded signal and suggest a broader perspective in which learned models can themselves serve as instruments for characterizing the data they process. More demonstrations can be found at https://yingjiahao14.github.io/BTE-web/.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、トランスフォーマー層にまたがる予測を徐々に修正するが、通常は最終的な出力のみを観測し、それが形成される軌道を破棄する。 本稿では,Breef-Trajectory Energy(BTE)について紹介する。 中間状態を共有予測空間にマッピングすることで、BTEはスカラーまたは構造化深度プロファイルとして要約できる信念変化の原則的尺度を提供する。 理論的には、局所的なBTEはフィッシャー・ラオ幾何学の下での予測的リビジョンに対応し、一方、リビジョンのシーケンスは初期から最終の信念の変化を超えて情報をキャプチャする。 経験的に、スカラーBTEは様々な推論タスクの難易度に関するモデル相対的な信号を提供する一方で、よりリッチなBTE表現は人間-LLMレビュー検出と微粒なジェネレータ属性をサポートし、最大0.998$マクロAUROCと9.6$8ウェイ属性精度まで到達する。 さらなる分析により、BTEは事前学習を通して発達し、ターゲットトレーニングによって選択的に再形成され、その結果の計測がスコアリングモデルが学んだことを反映していることが示される。 この結果から,学習モデル自体が処理するデータの特徴付けの手段として機能する,より広範な視点が示唆された。 さらなるデモはhttps://yingjiahao14.github.io/BTE-web/で見ることができる。

関連論文リスト

• GRAM: Correcting Frozen Time-Series Foundation Models via Graph-Retrieved Amplitude Memory [58.68570511441593]
  時系列基礎モデル(TSFM)は、ドメイン間事前トレーニングによるゼロショット予測を可能にする。 冷凍TSFMのための一般的な検索拡張フレームワークであるGRAMを提案する。
  論文  参考訳（メタデータ） (2026-10-04T00:20:36Z)
• LogitDynamics: Reliable ViT Error Detection from Layerwise Logit Trajectories [1.4610038284393168]
  視覚変換器(ViT)の誤差予測に関する研究 大規模言語モデルにおける内信号幻覚検出の動機付けにより、類似の深度信号がViTに存在するかどうかを考察する。 中間層に軽量な線形ヘッドを付加することにより、予測クラスのロジットとトップK競合の両方をキャプチャする最後のL層から特徴を抽出する。 これらの特徴に基づいて訓練された線形プローブは、エラーインジケータを予測する。
  論文  参考訳（メタデータ） (2026-04-12T13:43:40Z)
• Generative Active Learning for Long-tail Trajectory Prediction via Controllable Diffusion Model [33.08750291010022]
  軌道予測のための生成能動学習(GALTraj)を紹介する。 GALTrajは、生成能動学習を軌道予測にうまく展開する最初の方法である。 シナリオの多様性にのみ焦点をあてた従来のシミュレーション手法とは異なり、GALTrajは、軌道予測において、シミュレータ駆動の強化が長期学習にどのような恩恵をもたらすかを示す最初の方法である。
  論文  参考訳（メタデータ） (2025-07-30T12:36:05Z)
• ExPLAIND: Unifying Model, Data, and Training Attribution to Study Model Behavior [39.590138981646696]
  ポストホックの解釈可能性のメソッドは、通常、モデルの振る舞いをそのコンポーネント、データ、または独立した訓練軌跡に関連付ける。 これらの観点をすべて統合した統合フレームワークであるExPLAINDを紹介します。
  論文  参考訳（メタデータ） (2025-05-26T14:53:11Z)
• Boosted Control Functions: Distribution generalization and invariance in confounded models [10.503777692702952]
  非線形で非同定可能な構造関数が存在する場合でも分布の一般化を可能にする不変性という強い概念を導入する。 フレキシブルな機械学習手法を用いて,ブースト制御関数(BCF)を推定する制御Twicingアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-10-09T15:43:46Z)
• Prototype-based Aleatoric Uncertainty Quantification for Cross-modal Retrieval [139.21955930418815]
  クロスモーダル検索手法は、共通表現空間を共同学習することにより、視覚と言語モダリティの類似性関係を構築する。 しかし、この予測は、低品質なデータ、例えば、腐敗した画像、速いペースの動画、詳細でないテキストによって引き起こされるアレタリック不確実性のために、しばしば信頼性が低い。 本稿では, 原型に基づくAleatoric Uncertainity Quantification (PAU) フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-09-29T09:41:19Z)
• Generative Causal Representation Learning for Out-of-Distribution Motion Forecasting [13.99348653165494]
  本稿では,分散シフト下での知識伝達を容易にするための生成因果学習表現を提案する。 ヒトの軌道予測モデルにおいて提案手法の有効性を評価する一方、GCRLは他の領域にも適用可能である。
  論文  参考訳（メタデータ） (2023-02-17T00:30:44Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。