論文の概要: Reasoning or Just Prompting? Probing the Mechanism of Latent Chemical Reasoning

• arxiv url: http://arxiv.org/abs/2610.34173v1
• Date: Sun, 25 Oct 2026 09:03:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.551447
• Title: Reasoning or Just Prompting? Probing the Mechanism of Latent Chemical Reasoning
• Title（参考訳）: 推論か単にプロンプティングか : 潜在化学推論のメカニズムを探る
• Abstract要約: 潜在推論は明示的なトークンを通してではなく連続空間で中間計算を行う。 中間潜伏状態の交換や適度な摂動は性能にはほとんど影響しないことがわかった。 我々は, 潜在化学推論は連続空間に隠れた推論連鎖よりも, ソフト・プロンプトとみなす方がよいことを示唆している。
• 参考スコア（独自算出の注目度）: 19.702424484905894
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Latent reasoning performs intermediate computation in continuous space rather than through explicit tokens, which is particularly appealing in chemistry, where errors in explicit reasoning can propagate to the final answer. Yet if latent states truly constitute an implicit reasoning chain, they should be causally important. We find otherwise: swapping or moderately perturbing intermediate latent states has little effect on performance, while removing them entirely sometimes causes a substantial score drop. Thus, the latent states matter, but their molecule-specific content appears to matter far less. This points to a simpler interpretation. Rather than encoding a step-by-step reasoning chain, latent states may primarily steer subsequent model computation, much like soft prompts. Indeed, a single fixed prefix shared across molecules reproduces LatentChem's performance, and a learned static soft prompt performs comparably to per-input latent generation in controlled models. The tolerance of latent sequences to substitution and moderate perturbation further supports this connection. We therefore suggest that latent chemical reasoning may be better viewed as soft prompting than as a reasoning chain hidden in continuous space.
• Abstract（参考訳）: 潜在推論は明示的なトークンよりも連続空間で中間計算を行うが、これは化学において特に魅力的であり、明示的な推論の誤りは最終解に伝播する。 しかし、もし潜伏状態が本当に暗黙の推論連鎖を構成するなら、それらは慎重に重要であるべきである。 中間潜伏状態のスワップや適度な摂動はパフォーマンスにはほとんど影響しないが、それらを取り除くと、かなりのスコアが低下することがある。 したがって、潜伏状態は重要であるが、分子特異的な含量ははるかに少ないようである。 これは単純な解釈である。 ステップバイステップの推論チェーンを符号化する代わりに、潜在状態は、ソフトプロンプトのように、主に後続のモデル計算を操縦する。 実際、分子間で共有される単一の固定接頭辞は、LatentChemのパフォーマンスを再現し、学習された静的なプロンプトは、制御されたモデルにおいて、インプット毎の潜時生成と互換性を持って実行される。 置換と適度な摂動に対する潜伏配列の耐性は、この結合をさらに支持する。 したがって, 潜在化学的推論は連続空間に隠された推論連鎖よりも, ソフト・プロンプトとみなす方がよい可能性が示唆された。

関連論文リスト

• CALR: Continuous Anchored Latent Reasoning via Render-of-Thought Compression [25.786168938213063]
  視覚的潜在推論は、レンダリングの導出をコンパクトな中間状態に圧縮し、テキスト推論のオーバーヘッドを減らした。 既存のアプローチはこれらの状態を表現する方法が異なるが、離散的な手法は有限のコードブックへの量子化によって精度を向上させる。 我々の連続的および離散的なシステムの解析は、2つの機能的要件を識別する: 答えは潜在状態に依存し、それらの状態は有効な問題固有の推論をしなければならない。 機能的アンカーを通した応答利用と潜時生成を繋ぐ連続アンコレッド潜時推論(CALR)を提案する。
  論文  参考訳（メタデータ） (2026-10-05T18:00:56Z)
• Think in Latent, Explain in Language: Self-Explainable Latent Reasoning [60.882997917270934]
  自己説明可能な潜在推論(SELR)のための統合フレームワークを提案する。 SELRは1つのモデルを訓練し、効率的で本質的に説明可能な潜在推論を行う。 この設計により、生成された潜在表現がタスク効果と意味論的に解釈可能であることが保証される。
  論文  参考訳（メタデータ） (2026-07-01T16:11:00Z)
• Why Struggle with Continuous Latents? Interpretable Discrete Latent Reasoning via Rendered Compression [42.15219720606396]
  大規模言語モデルは、明示的な連鎖と強化学習を通じて高い推論性能を達成する。 潜在推論は、計算を潜在空間にシフトすることで、このコストを削減する。 連続潜時状態を明示的な離散トークンに変換する最初の方法である textbfDiscrete Latent Reasoning (DLR) を提案する。
  論文  参考訳（メタデータ） (2026-06-29T02:34:52Z)
• Thinking in Uncertainty: Mitigating Hallucinations in MLRMs with Latent Entropy-Aware Decoding [38.5840117402958]
  トークン確率分布から適切な文脈推論情報を直接抽出できることを論じる。 本稿では,効率的なプラグアンドプレイデコーディング戦略であるLatent Entropy-Aware Decodingを提案する。 このモデルは高エントロピー状態下での確率重み付き連続埋め込みを採用し、エントロピーが減少するにつれて離散トークン埋め込みに遷移する。
  論文  参考訳（メタデータ） (2026-03-09T12:47:54Z)
• LatentChem: From Textual CoT to Latent Thinking in Chemical Reasoning [107.60117957760794]
  テキスト生成から化学的導出を分離する潜在推論インタフェースであるLatntChemを紹介する。 我々は,LatentChemがChemCoTBench上のCoTベースラインの強いベースラインに対して59.88%の非ティー勝利率を達成したことを示す。 その結果, 化学推論は連続潜伏力学としてより自然かつ効果的に実現されているという実証的証拠が得られた。
  論文  参考訳（メタデータ） (2026-02-06T01:28:27Z)
• Latent Reasoning in LLMs as a Vocabulary-Space Superposition [80.01651003144282]
  大規模言語モデル(LLM)は、チェーン・オブ・シークレット・プロンプトによる強力な推論能力を示すが、明示的な推論は計算上のオーバーヘッドを大幅に引き起こす。 遅延推論に関する最近の研究は、明示的な監督なしに遅延空間を推論することでコストを削減するが、性能は著しく低下する。 この問題に対処するため、LLM語彙の列空間に潜伏空間を制限し、潜伏推論を語彙確率の重ね合わせとして扱う。 後続の推論が終わると、それは最終的な答えを得るために明確な推論の固有状態に崩壊する。 Latent-SFTはGSM8kに新しい状態を設定し、明示的に一致する
  論文  参考訳（メタデータ） (2025-10-17T10:51:20Z)
• Training Large Language Models to Reason in a Continuous Latent Space [71.0274000348354]
  我々は、言語を超えた推論の可能性を探るため、Coconut (Chain of Continuous Thought)と呼ばれる新しいパラダイムを導入します。 この状態を単語に復号するのではなく、連続した空間に直接埋め込む次の入力としてモデルにフィードバックします。 この潜在的推論パラダイムは、継続的思考が複数の代替の次のステップをエンコードできる高度な推論パターンを可能にする。
  論文  参考訳（メタデータ） (2024-12-09T18:55:56Z)
• Implicit Chain of Thought Reasoning via Knowledge Distillation [58.80851216530288]
  思考推論ステップの連鎖を明示的に生成する代わりに、言語モデルの内部の隠れ状態を使用して暗黙の推論を行います。 このアプローチにより、明示的にチェーン・オブ・シントなしでは解決不可能なタスクを、非チェーン・オブ・シントに匹敵する速度で解決できることが分かりました。
  論文  参考訳（メタデータ） (2023-11-02T17:59:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。