論文の概要: When Steering Fails in Latent Reasoning: A Latent-to-Language Transition Gap

• arxiv url: http://arxiv.org/abs/2609.21662v1
• Date: Fri, 18 Sep 2026 11:58:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:17.067634
• Title: When Steering Fails in Latent Reasoning: A Latent-to-Language Transition Gap
• Title（参考訳）: 潜時推論におけるステアリング障害:潜時-潜時遷移ギャップ
• Abstract要約: 連続的な思考の操舵は、明示的なCoTの操舵よりも後続の言語生成に弱い効果をもたらすことがわかった。 これらの結果から, 遷移界面は, 将来の潜伏操舵法の評価・設計の中心的ターゲットであることが明らかとなった。
• 参考スコア（独自算出の注目度）: 13.786637807412795
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Activation steering has become a widely used approach for controlling language models during explicit chain-of-thought (CoT) reasoning, motivating its extension to latent CoT. However, we find that steering continuous thoughts produces substantially weaker effects on subsequent language generation than steering explicit CoT, even when the hidden representations are moved by comparable amounts. We first show that task information remains identifiable in continuous thoughts. Hence, we hypothesize a \textbf{latent-to-language transition gap}, in which an intervention effect in latent space fails to transfer to language generation. Two further results support this hypothesis: the output distribution changes abruptly at the transition boundary, and task-related directions exert much weaker bidirectional control in latent CoT than in explicit CoT. These findings identify the transition interface as a central target for evaluating and designing future latent-steering methods.
• Abstract（参考訳）: アクティベーションステアリング(Activation steering)は、明示的なチェーン・オブ・シント(CoT)推論において言語モデルを制御するために広く使われているアプローチとなり、潜在CoTへの拡張を動機付けている。 しかし, 連続的思考の操舵は, 隠蔽表現が同等の量で移動しても, 明示的CoTの操舵よりも言語生成に著しく弱い効果をもたらすことがわかった。 まず、連続した思考においてタスク情報が識別可能であることを示す。 したがって、潜時空間における介入効果が言語生成に遷移しないような「textbf{latent-to-Language transition gap」を仮定する。 さらに2つの結果がこの仮説を支持する: 出力分布は遷移境界で突然変化し、タスク関連方向は明示的なCoTよりも遅延CoTにおいてはるかに弱い双方向制御を行う。 これらの結果から, 遷移界面は, 将来の潜伏操舵法の評価・設計の中心的ターゲットであることが明らかとなった。

関連論文リスト

• Invariant Reasoning Directions in Latent Trajectories of Language Models [23.0736392766448]
  遅延推論トラジェクトリは、不安定なインスタンス固有の変動と混在する安定な不変方向を含むことを示す。 本稿では,潜伏空間における安定な推論方向を識別・操作するためのトレーニング不要な介入フレームワークTILRを紹介する。 TILRはパラフレーズ下での応答一貫性を10%向上し,推論精度を保ちながら遅延軌道のばらつきを最大50%低減する。
  論文  参考訳（メタデータ） (2026-06-28T02:59:08Z)
• OneVL: One-Step Latent Reasoning and Planning with Vision-Language Explanation [61.18260993245354]
  Chain-of-Thought(CoT)推論は、VLAベースの自律運転において、軌道予測の強力なドライバである。 本稿では,2つの補助デコーダによって制御されるコンパクトな潜在トークンを通じて推論をルーティングする,統一VLAおよびワールドモデルフレームワークであるOneVLを提案する。 OneVLは、明示的なCoTを超える最初の遅延CoTメソッドとなり、応答のみのレイテンシで最先端の精度を提供する。
  論文  参考訳（メタデータ） (2026-04-20T16:37:22Z)
• KnowDiffuser: A Knowledge-Guided Diffusion Planner with LM Reasoning and Prior-Informed Trajectory Initialization [8.04458701181863]
  KnowDiffuserは知識誘導型モーションプランニングフレームワークである。 言語モデルの意味的理解と拡散モデルの生成力を統合する。 これは、オープンループとクローズループの両方の評価において、既存のプランナーを著しく上回っている。
  論文  参考訳（メタデータ） (2026-03-11T05:45:29Z)
• Latent Thoughts Tuning: Bridging Context and Reasoning with Fused Information in Latent Tokens [13.653741247835091]
  Latent Thoughts Tuning(LT-Tuning)は、潜在思想の構築とデプロイ方法を再定義するフレームワークである。 本研究では,コンテキスト隠蔽状態と予測意味指導を協調的に活用するコンテキスト予測融合機構を提案する。 提案手法は,既存の潜在推論ベースラインより優れ,機能崩壊を効果的に軽減し,頑健な推論精度を実現する。
  論文  参考訳（メタデータ） (2026-02-10T19:19:10Z)
• Beyond Dense States: Elevating Sparse Transcoders to Active Operators for Latent Reasoning [25.054823575096332]
  LSTR(Latent Sparse Transcoder Reasoning)を提案する。 LSTRのコアとなるのは、線形多様体輸送をスパースセマンティック更新から切り離すための残留スキップアーキテクチャを備えた潜在トランジショントランスコーダ(LTT)である。 大規模な実験により,LSTRは推論精度と圧縮効率を保ちながら,解釈性を大幅に向上することが示された。
  論文  参考訳（メタデータ） (2026-02-02T06:08:35Z)
• TaCo: Capturing Spatio-Temporal Semantic Consistency in Remote Sensing Change Detection [54.22717266034045]
  Ta-Coは時間的意味遷移のための一貫したセマンティックネットワークである。 我々は,Ta-Coがリモートセンシング検出タスクにおいて一貫したSOTA性能を実現することを示す。 この設計は推論中に余分な計算オーバーヘッドを伴わずにかなりの利得を得ることができる。
  論文  参考訳（メタデータ） (2025-11-25T13:44:29Z)
• A Survey on Latent Reasoning [100.54120559169735]
  大きな言語モデル(LLM)は印象的な推論機能を示している。 中間ステップを言語化するCoT推論は、モデルの表現帯域幅を制限する。 潜在的推論は、モデルの連続的な隠れ状態に完全にマルチステップの推論を実行することで、このボトルネックに対処する。
  論文  参考訳（メタデータ） (2025-07-08T17:29:07Z)
• CoT-BERT: Enhancing Unsupervised Sentence Representation through Chain-of-Thought [3.0566617373924325]
  本稿では,教師付き推論の進歩的思考を活用する革新的な手法であるCoT-BERTを提案する。 我々は、高度なコントラスト学習損失関数を開発し、新しいテンプレート認知戦略を提案する。
  論文  参考訳（メタデータ） (2023-09-20T08:42:06Z)
• UTSGAN: Unseen Transition Suss GAN for Transition-Aware Image-to-image Translation [57.99923293611923]
  我々はI2Iトランスフォーメーションに対してトランジッションアウェアアプローチを導入し、データトランスフォーメーションマッピングをトランジッション変数で明示的にパラメータ化する。 本稿では、遷移変数に定義された遷移整合性を利用することにより、観測されていない翻訳における整合性の正規化を可能にする。 これらの知見に基づき、遷移エンコーダを用いた遷移のための多様体を構成する生成フレームワークである Unseen transition Suss GAN (UTSGAN) を提案する。
  論文  参考訳（メタデータ） (2023-04-24T09:47:34Z)
• Exploring Transferable and Robust Adversarial Perturbation Generation from the Perspective of Network Hierarchy [52.153866313879924]
  敵の例の移動可能性と堅牢性は、ブラックボックスの敵攻撃の実用的かつ重要な2つの性質である。 伝送可能で頑健な逆生成法(TRAP)を提案する。 我々のTRAPは、ある種の干渉に対して印象的な伝達性と高い堅牢性を実現する。
  論文  参考訳（メタデータ） (2021-08-16T11:52:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。