論文の概要: A*-Thought-V2: Efficient Latent Reasoning via Geometric Dynamics of LLM

• arxiv url: http://arxiv.org/abs/2609.07821v1
• Date: Mon, 07 Sep 2026 17:56:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.496702
• Title: A*-Thought-V2: Efficient Latent Reasoning via Geometric Dynamics of LLM
• Title（参考訳）: A*-Thought-V2:LLMの幾何学的ダイナミクスによる効率的な潜時推論
• Abstract要約: CoT(Chain-of-Thought)は、LLM(Large Language Models)の推論能力を改善するが、かなりの計算とコンテキストコストを発生させる。 A*-Thought-V2 は LLM ガイドフレームワークの幾何学的ダイナミクスであり,COT を隠れ状態軌道としてモデル化し,ハード削除を明示的かつ単純でインターリーブな潜在アーキテクチャに置き換える。
• 参考スコア（独自算出の注目度）: 40.07171947823021
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Chain-of-Thought (CoT) improves the reasoning ability of Large Language Models (LLMs) but incurs substantial computation and context costs. Existing methods either lose intermediate information through hard pruning or lack a principled criterion for continuous compression. We present A*-Thought-V2, a geometric dynamics of LLM guided framework that models CoT as a hidden-state trajectory and replaces hard deletion with an explicit-implicit interleaved latent architecture. After projecting question, step, and solution representations into a 3D PCA space, it measures alignment between each local transition and global question-to-solution direction. Aligned steps remain explicit text, whereas deviating steps are compressed into continuous latent tokens. Directional angles capture both local semantics and reasoning dynamics: small angles indicate direct execution and answer formation, while large angles more frequently involve checking, correction, and branch exploration; their temporal variation reveals exploration, convergence, and refinement stages. To train this architecture, we introduce stepwise embedding forcing, which pools each redundant step into a single latent embedding, and label forcing, which supervises that latent token with a soft multi-modal vocabulary distribution instead of a hard one-hot label. Experiments on Qwen3.5-9B and Qwen3.6-27B across six in-domain and out-of-domain benchmarks show that A*-Thought-V2 improves average accuracy by up to 2.6% while reducing response length by up to half, increasing Accuracy per Computation Unit by 2.29$\times$, and reducing preprocessing and training time by 94.6% and up to 80.3%, respectively. Representation analyses suggest that latent states form a compact region distinct from textual states, while higher entropy at latent-token positions reflects broader soft targets that encourage richer step-level feature learning.
• Abstract（参考訳）: CoT(Chain-of-Thought)は、LLM(Large Language Models)の推論能力を改善するが、かなりの計算とコンテキストコストを発生させる。 既存の方法は、ハードプルーニングによって中間情報を失うか、あるいは連続圧縮のための原則的な基準が欠如している。 A*-Thought-V2 は LLM ガイドフレームワークの幾何学的ダイナミクスであり,COT を隠れ状態軌道としてモデル化し,ハード削除を明示的かつ単純でインターリーブな潜在アーキテクチャに置き換える。 質問・ステップ・解表現を3次元PCA空間に投影した後、各局所遷移とグローバルな質問・解決方向のアライメントを測定する。 指定されたステップは明示的なテキストのままだが、逸脱したステップは連続的な潜在トークンに圧縮される。 方向角は局所的意味論と推論力学の両方を捉え、小さな角度は直接実行と答えの生成を示し、大きな角度はより頻繁にチェック、修正、分岐探索を含む。 このアーキテクチャをトレーニングするために、各冗長ステップを1つの潜伏埋め込みにプールするステップワイズ埋め込み強制と、その潜伏トークンをハードな1ホットラベルではなくソフトなマルチモーダル語彙分布で監督するラベル強制を導入する。 Qwen3.5-9B と Qwen3.6-27B を6つのドメイン内および外部のベンチマークで比較したところ、A*-Thought-V2 は平均精度を最大2.6%改善し、応答長を最大半分削減し、計算単位あたりの精度を2.29$\times$に、前処理とトレーニング時間を94.6%、トレーニング時間を最大80.3%向上した。 表現分析により,潜伏状態はテキスト状態とは異なるコンパクトな領域を形成し,潜伏状態のエントロピーはより広いソフトターゲットを反映し,よりリッチなステップレベルの特徴学習を促進することが示唆された。

関連論文リスト

• SeGDeP: Semantic- and Geometric-Aware Decoupled Prompts for Reasoning Segmentation [51.46828526392219]
  推論セグメンテーションは暗黙の言語学的結論を正確なマスクに変換する。 既存のMLLMセグメンタインタフェースでは、特別なトリガーを使用するか、両方の信号を1つのコンテキストに圧縮する。 明示的なWhat-whereインターフェースであるSeGDePを提示する。
  論文  参考訳（メタデータ） (2026-09-08T15:11:32Z)
• Reinforcing Dual-Path Reasoning in Spatial Vision Language Models [113.86271063627782]
  本稿では,空間的VLMにLOR(Language-Only Reasoning)とDTR(Detect-Then-Reason)の2つの相補的推論経路を持つ統一的なフレームワークを提案する。 様々な空間ベンチマークにおいて、SR-REALは空間的VLMベースラインを著しく上回る。
  論文  参考訳（メタデータ） (2026-06-16T05:32:39Z)
• STEP: Learning STructured Embeddings for Progressive Time Series [1.034052616244602]
  本稿では,プログレッシブ時系列の解釈可能な表現を学習するための新しい手法を提案する。 我々の手法は、低次元の潜在空間を学習するために、自己教師付きコントラスト的目的を用いている。 多様な領域における最先端技術に対するアプローチを評価する。
  論文  参考訳（メタデータ） (2026-05-29T09:33:34Z)
• Thinking Deeper, Not Longer: Depth-Recurrent Transformers for Compositional Generalization [1.5736899098702974]
  本稿では,パラメータ数から計算深度を分離するDepth-recurrent Transformerを提案する。 アーキテクチャには3つのメカニズムが組み込まれています(20以上のステップ)。 我々は,タスクの複雑さに対処して,思考ステップがスケールするにつれて,パフォーマンスが機会からほぼ完璧に遷移する,明確な計算フロンティアを観察する。
  論文  参考訳（メタデータ） (2026-03-23T08:06:45Z)
• DenoiseFlow: Uncertainty-Aware Denoising for Reliable LLM Agentic Workflows [20.319113495948294]
  我々は多段階推論過程をノイズMDPとして定式化する。 DenoiseFlowは3つの調整段階を通じてプログレッシブなdenoisingを行うクローズドループフレームワークである。
  論文  参考訳（メタデータ） (2026-02-28T08:11:38Z)
• Thinking with Images as Continuous Actions: Numerical Visual Chain-of-Thought [55.65577137924979]
  本稿では,連続的な数値座標を用いたMLLM画像の推論を可能にするフレームワークを提案する。 NV-CoTはMLLM作用空間を離散語彙トークンから連続ユークリッド空間へと拡張する。 3つのベンチマーク実験により、NV-CoTは局所化精度と最終回答精度を大幅に向上することが示された。
  論文  参考訳（メタデータ） (2026-02-27T12:04:07Z)
• Self-Supervised Cross-Modal Learning for Image-to-Point Cloud Registration [22.360139236823155]
  CrossI2Pは、クロスモーダル学習と2段階の登録を単一のエンドツーエンドパイプラインで統合する、自己教師型フレームワークである。 我々は、CrossI2Pが、KITTI Odometryベンチマークで23.7%、nuScenesで37.9%、最先端の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2025-09-19T11:29:22Z)
• Bidirectional Feature-aligned Motion Transformation for Efficient Dynamic Point Cloud Compression [97.66080040613726]
  特徴空間における動きを暗黙的にモデル化する双方向特徴整合運動変換(Bi-FMT)フレームワークを提案する。 Bi-FMTは、時間的に一貫した潜在表現を生成するために、過去と将来の両方のフレームで機能を調整する。 圧縮効率とランタイムの両方において, Bi-FMT が D-DPCC と AdaDPCC を上回っていることを示す。
  論文  参考訳（メタデータ） (2025-09-18T03:51:06Z)
• Cross-Modal Geometric Hierarchy Fusion: An Implicit-Submap Driven Framework for Resilient 3D Place Recognition [9.411542547451193]
  本稿では,密度に依存しない幾何学的推論により3次元位置認識を再定義するフレームワークを提案する。 具体的には、元のシーンポイント雲密度の干渉に免疫する弾性点に基づく暗黙の3次元表現を導入する。 これら2種類の情報を活用することで,鳥眼視と3Dセグメントの両視点から幾何学的情報を融合する記述子を得る。
  論文  参考訳（メタデータ） (2025-06-17T07:04:07Z)
• Hierarchical Temporal Context Learning for Camera-based Semantic Scene Completion [57.232688209606515]
  カメラによるセマンティックシーンの補完を改善するための,新たな時間的文脈学習パラダイムであるHTCLを提案する。 提案手法は,Semantic KITTIベンチマークで1st$をランク付けし,mIoUの点でLiDARベースの手法を超えている。
  論文  参考訳（メタデータ） (2024-07-02T09:11:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。