論文の概要: Does Latent Chain-of-Thought Actually Reason? A Single, Unifying Taxonomy for Latent Reasoning

• arxiv url: http://arxiv.org/abs/2610.21182v1
• Date: Thu, 15 Oct 2026 03:37:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.163816
• Title: Does Latent Chain-of-Thought Actually Reason? A Single, Unifying Taxonomy for Latent Reasoning
• Title（参考訳）: 潜伏鎖は実際に推論されるのか?潜伏鎖推論のための単一の統合分類法
• Abstract要約: 潜在チェーン・オブ・シントは、記述された推論ステップを連続的な隠蔽状態に置き換える。 これらのステップが実際にどのような計算を行うのかは不明だ。 この問題は21のモデルタスク構成にまたがって検討する。
• 参考スコア（独自算出の注目度）: 31.526494691202554
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Latent chain-of-thought replaces written reasoning steps with continuous hidden states, giving models additional steps to compute before answering. It remains unclear what computation these steps actually perform. High task accuracy and decodable intermediate answers do not establish that a model uses its latent chain to reach an answer. We study this question across twenty-one model-task configurations covering three training recipes, three reasoning tasks, and two backbones. We combine chain deletion and content replacement with probes and trajectory analysis to test whether the chain affects the answer, what it encodes, and how its states change. On logical tasks, COCONUT often carries an answer that is already readable before the chain begins. Its states settle early, and deleting the chain leaves predictions almost unchanged. Per-step supervision produces an ordered layout of reasoning steps and can make the model depend on the chain. Yet even an ordered chain can act as a placeholder, with deletion hurting performance while content replacement leaves answers unchanged. On arithmetic tasks, all tested recipes show dependence on chain content. These results show why readable latent states alone are insufficient evidence of reasoning. We introduce a taxonomy that separates what a chain represents from how the model uses it. Seen this way, earlier reports no longer compete: placeholder tokens, collapsed superposition and step-dependent causal roles are each consistent with a different kind of chain, each obtained on a different task, training recipe or measurement. Once a study says which property it tested, whether the model uses the chain, what the chain holds, or how its state moves, claims about latent reasoning can be compared.
• Abstract（参考訳）: 潜在チェーン・オブ・シントは、記述された推論ステップを連続的な隠蔽状態に置き換え、モデルが応答する前に計算するための追加ステップを提供する。 これらのステップが実際にどのような計算を行うのかは不明だ。 高いタスク精度とデオード可能な中間解は、モデルがその潜在鎖を使って解に到達することを証明しない。 この質問は、3つのトレーニングレシピ、3つの推論タスク、2つのバックボーンを含む21のモデルタスク構成にまたがる。 連鎖の削除と内容の置換をプローブと軌跡解析と組み合わせて、連鎖が応答に影響を及ぼすかどうか、エンコードするもの、そしてその状態がどのように変化するかを検証する。 論理的タスクでは、COCONUTはチェーンの開始前に既に読み取ることができる答えを持つことが多い。 彼らの状態は早期に落ち着き、チェーンの削除は予測をほとんど変更しない。 ステップごとの監視は、順序付けられた推論ステップのレイアウトを生成し、モデルがチェーンに依存するようにすることができる。 しかし、順序付けられたチェーンでさえプレースホルダーとして機能し、削除がパフォーマンスを損なう一方で、コンテンツ置換の回答は変わらない。 算術的なタスクでは、すべてのテストされたレシピはチェーンの内容に依存している。 これらの結果は、可読性潜伏状態のみが推論の不十分な証拠であることを示している。 私たちは、チェーンが表現しているものをモデルが使用する方法と区別する分類法を導入します。 プレースホルダートークン、崩壊した重ね合わせ、ステップ依存の因果関係の役割は、それぞれ異なる種類のチェーンと整合し、それぞれが異なるタスク、トレーニングのレシピまたは測定で得られる。 研究がどの特性をテストしたか、モデルがチェーンを使用しているか、チェーンが保持しているか、あるいはその状態がどのように動いているかを判断すると、潜在的推論について比較できる。

関連論文リスト

• Ceiling of a Task: When Can a Transformer Succeed Without Its Chain of Thought? [83.98403694325687]
  推論モデルは、答える前に長いチェーンの思考を生成する。 これらの鎖の内容が実際の計算作業を行うか、大半が装飾的であるかが議論されている。 各変圧器に保持されるシリアルタスクについて3つの結果を示す。
  論文  参考訳（メタデータ） (2026-09-27T03:02:40Z)
• Answer-Conditioned Chains of Thought Degrade Verifiable-Reasoning Distillation in Large Language Models [21.049419375153914]
  一般的な修正は、生成元に金の答えを示し、その答えに達する連鎖を書くように要求する。 この2番目のステップでは、トレーニングデータを正確性フィルタリングがキャッチできない方法で分解する。
  論文  参考訳（メタデータ） (2026-07-16T04:28:19Z)
• Does Verbose Chain-of-Thought Really Help? In-Distribution Evidence that Content, Not Length, Matters [10.230437172157474]
  思考の連鎖はLSM推論を改善するが、ソースは競合する。 それぞれのモデルを同じ質問に繰り返しサンプリングし、同じ推論計画に従って、より長い自然世代とペアリングする。 余分なトークンは、独立に訓練されたすべての理性者に対して、本質的には変化しない。 同じ意味的内容を表す2つのトレースが、より冗長な場合に異なる結果をもたらすかどうかを問う。
  論文  参考訳（メタデータ） (2026-06-29T11:06:46Z)
• Mechanistic Evidence for Faithfulness Decay in Chain-of-Thought Reasoning [0.0]
  Chain-of-Thoughtの説明は、言語モデルが複雑な問題を解決する方法を理解するために広く使われている。 モデルの意思決定プロセスに個別の推論ステップが忠実かどうかを測定する指標である正規化論理差判定(NLDD)を提案する。
  論文  参考訳（メタデータ） (2026-02-04T21:55:57Z)
• Chain-of-Probe: Examining the Necessity and Accuracy of CoT Step-by-Step [81.50681925980135]
  モデル推論における心の変化を探索する手法を提案する。 心的変化のパターンを解析することにより,モデルの推論の正しさを検証した。 我々の検証では、最終回答では正しいが、多くの応答が推論プロセスに誤りを含んでいることが明らかになった。
  論文  参考訳（メタデータ） (2024-06-23T15:50:22Z)
• Mitigating Misleading Chain-of-Thought Reasoning with Selective Filtering [59.495717939664246]
  大規模言語モデルは、複雑な問題を解くためにチェーン・オブ・ソート(CoT)推論技術を活用することで、顕著な能力を示した。 本稿では,選択フィルタリング推論(SelF-Reasoner)と呼ばれる新しい手法を提案する。 SelF-ReasonerはScienceQA、ECQA、LastLetterタスクに対して、微調整されたT5ベースラインを一貫して改善する。
  論文  参考訳（メタデータ） (2024-03-28T06:28:35Z)
• ReCEval: Evaluating Reasoning Chains via Correctness and Informativeness [67.49087159888298]
  ReCEvalは2つの重要な特性(正確性と情報性)を通じて推論チェーンを評価するフレームワークである。 本稿では、ReCEvalが様々なエラータイプを効果的に識別し、従来の手法と比較して顕著な改善をもたらすことを示す。
  論文  参考訳（メタデータ） (2023-04-21T02:19:06Z)
• Entailer: Answering Questions with Faithful and Truthful Chains of Reasoning [26.715242799194908]
  質問応答システムは、体系的な推論の連鎖を通して、その答えが自身の内的信念によってどのように示唆されるかを示す。 我々のアプローチは、トレーニングされた後方チェーンモデルで、回答仮説を含む一連の前提を生成することができ、モデル自体がそれらの前提を信じることを確認する検証器を組み合わせることです。 私たちの知る限りでは、これは多段階連鎖を生成できる最初のシステムであり、それは忠実であり(その答えは推論から従う)、真実である(連鎖はシステムの内部の信念を反映している)。
  論文  参考訳（メタデータ） (2022-10-21T19:51:56Z)
• Exploiting Reasoning Chains for Multi-hop Science Question Answering [51.86289192292466]
  我々のフレームワークは、コーパス固有のアノテーションを必要とせずに説明可能な推論を行うことができる。 ローカルチェーン情報とグローバルチェーン情報の両方に関するTextitChain対応の損失は、生成されたチェーンが遠隔監視信号として機能するようにも設計されている。
  論文  参考訳（メタデータ） (2021-09-07T07:22:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。