論文の概要: Search for Truth from Reasoning: A Dynamic Representation Editing Framework for Steering LLM Trajectories

• arxiv url: http://arxiv.org/abs/2606.28589v2
• Date: Thu, 02 Jul 2026 05:26:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.488024
• Title: Search for Truth from Reasoning: A Dynamic Representation Editing Framework for Steering LLM Trajectories
• Title（参考訳）: 推論からの真理探索: LLM軌道の動的表現編集フレームワーク
• Abstract要約: 展開する推論鎖内の真理の幾何学について検討する。 動的表現編集フレームワークDynaSteerを提案する。 私たちのコードはhttps://github.com/tianlwang/DynaSteer.comで公開されています。
• 参考スコア（独自算出の注目度）: 41.42484801242256
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Current approaches to enhance Large Language Model (LLM) reasoning, such as Chain-of-Thought and "Wait" prompts, primarily encourage models to think more, yet often fail to guide them toward Truth. While Representation Editing (RepE) offers a intrinsic control, its application to dynamic reasoning trajectories remains underexplored. In this work, we bridge this gap by investigating the geometry of truth within unfolding reasoning chains. We uncover three critical insights: (1) Truth is encoded at the sentence level and is entangled with latent reasoning patterns; (2) Effective intervention follows an Uncertainty Principle and a Decay Effect, requiring localization to early, high-entropy forks; (3) Naive steering vectors suffer from noise, risking collateral damage to correct trajectories. Based on these findings, we propose DynaSteer, a dynamic RepE framework. DynaSteer employs pattern clustering to disentangle reasoning manifolds and utilizes Fisher-LDA to project purified truth. By dynamically monitoring lookahead entropy, it selectively steers and rolls back trajectories only when necessary. Comprehensive experimental results on several MATH benchmark verify the effectiveness of DynaSteer, and experiments on out-of-domain coding tasks further confirm its generalization ability. Our code is publicly available at https://github.com/tianlwang/DynaSteer.
• Abstract（参考訳）: Chain-of-Thought や "Wait" のプロンプトなど,Large Language Model (LLM) 推論を強化する現在のアプローチは,モデルをもっと深く考えるように促すものだが,真理へ導くのに失敗することが多い。 Representation Editing (RepE) は本質的な制御を提供するが、動的推論軌道への応用はいまだ検討されていない。 本研究では、このギャップを、展開する推論鎖内の真理の幾何学を調査することによって埋める。 1) 真理は文レベルでエンコードされ, 潜時推論パターンと絡み合っている, 2) 効果的な介入は不確実性原理と不確実性効果に従い, 早期の高エントロピーフォークの局所化を必要とする,(3) ナイーブ・ステアリング・ベクターはノイズに悩まされ, 正しい軌跡に損傷を与える。 これらの知見に基づき,動的RepEフレームワークDynaSteerを提案する。 DynaSteer はパターンクラスタリングを用いて推論多様体をアンタングル化し、フィッシャー・LDA を用いて純粋真理を投影する。 頭頂部のエントロピーを動的に監視することで、必要なときにのみ軌道を選択的に操縦し、ロールバックする。 複数のMATHベンチマークによる総合的な実験結果により、DynaSteerの有効性が検証され、ドメイン外コーディングタスクの実験により、その一般化能力がさらに確認される。 私たちのコードはhttps://github.com/tianlwang/DynaSteer.comで公開されています。

関連論文リスト

• The Tell-Tale Norm: $\ell_2$ Magnitude as a Signal for Reasoning Dynamics in Large Language Models [18.187988335064716]
  隠れ状態の l2 ノルムがモデルの推論強度の内在的なシグナルとなることを示す。 このパターンに動機付けられて、推論強度とモデルの潜在幾何学との公式なリンクを確立する。 モデルアーキテクチャとベンチマークによる実験では、l2-normベースの技術が推論性能を著しく改善していることが示されている。
  論文  参考訳（メタデータ） (2026-06-04T13:59:07Z)
• AnE: Pushing the Reasoning Frontier of Multimodal LLMs via Anchor Evolution [61.593935260052795]
  Supervised Fine-Tuning (SFT) とReinforcement Learning (RL) による後学習は多モーダル大規模言語モデル(MLLM)における推論の強化に不可欠である 既存のパラダイムは、静的データの制限により、しばしばパフォーマンスのボトルネックに達する。 我々は,真理に順応したデータキュレーションとモデル進化を統合する新しいパラダイムであるアンカー進化(AnE)を提案する。
  論文  参考訳（メタデータ） (2026-05-25T08:26:34Z)
• Internalizing LLM Reasoning via Discovery and Replay of Latent Actions [4.830503861275364]
  連鎖プロセスの隠れ状態への内部化は、テスト時間計算をスケールするための非常に効率的なパラダイムとして現れている。 動的潜在軌道制御問題として推論強化を再構築するSTIR(Self-Distilled Tools for Internal Reasoning)を提案する。
  論文  参考訳（メタデータ） (2026-02-04T08:44:57Z)
• CoG: Controllable Graph Reasoning via Relational Blueprints and Failure-Aware Refinement over Knowledge Graphs [53.199517625701475]
  CoGはDual-Process Theoryにインスパイアされたトレーニング不要のフレームワークで、直観と熟考の相互作用を模倣している。 CoGは精度と効率の両方において最先端のアプローチを著しく上回っている。
  論文  参考訳（メタデータ） (2026-01-16T07:27:40Z)
• RISER: Orchestrating Latent Reasoning Skills for Adaptive Activation Steering [62.63376387138257]
  本稿では,アクティベーション空間における大規模言語モデル(LLM)推論を適応的に制御するプラグイン・アンド・プレイ介入フレームワークを提案する。 RISERは再利用可能な推論ベクトルのライブラリを構築し、軽量ルータを使用して各入力に対して動的に構成する。 ルーターは、タスクレベルの報酬の下で強化学習を通じて最適化され、緊急かつ構成的な方法で潜在する認知的プリミティブを活性化する。
  論文  参考訳（メタデータ） (2026-01-14T08:04:33Z)
• Rethinking Reasoning Quality in Large Language Models through Enhanced Chain-of-Thought via RL [19.659532349434418]
  強化学習(Reinforcement Learning, RL)は、近年、大規模言語モデルの推論能力を強化する主要なパラダイムとなっている。 しかし、数学やプログラミングのベンチマークで一般的に使われるルールベースの報酬関数は、応答形式と正しさのみを評価する。 本稿では,報酬と有利な信号の両方を再生するプラグイン・アンド・プレイのRL報酬フレームワークであるDynamic Reasoning Efficiency Reward (DRER)を提案する。
  論文  参考訳（メタデータ） (2025-09-07T11:52:18Z)
• SEAL: Steerable Reasoning Calibration of Large Language Models for Free [58.931194824519935]
  大規模言語モデル(LLM)は、拡張チェーン・オブ・ソート(CoT)推論機構を通じて複雑な推論タスクに魅力的な機能を示した。 最近の研究では、CoT推論トレースにかなりの冗長性が示されており、これはモデル性能に悪影響を及ぼす。 我々は,CoTプロセスをシームレスに校正し,高い効率性を示しながら精度を向上する,トレーニング不要なアプローチであるSEALを紹介した。
  論文  参考訳（メタデータ） (2025-04-07T02:42:07Z)
• Unveiling the Magic of Code Reasoning through Hypothesis Decomposition and Amendment [54.62926010621013]
  我々は,大規模言語モデルの推論能力に対する新たな視点を提供するために,新しいタスクであるコード推論を導入する。 論理的推論の確立した形式に基づいて3つのメタベンチマークを要約し、8つの特定のベンチマークタスクにインスタンス化する。 本稿では,人間の複雑な問題解決手法に触発された新たな経路探索パイプラインを提案する。
  論文  参考訳（メタデータ） (2025-02-17T10:39:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。