論文の概要: Discovering a Shared Logical Subspace: Steering LLM Logical Reasoning via Alignment of Natural-Language and Symbolic Views
- arxiv url: http://arxiv.org/abs/2604.19716v1
- Date: Tue, 21 Apr 2026 17:42:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-22 22:41:49.90699
- Title: Discovering a Shared Logical Subspace: Steering LLM Logical Reasoning via Alignment of Natural-Language and Symbolic Views
- Title(参考訳): 共有論理部分空間の発見:自然言語とシンボリックビューのアライメントによるLLM論理推論のステアリング
- Authors: Feihao Fang, My T. Thai, Yuanyuan Lei,
- Abstract要約: 大規模言語モデル(LLM)は、多段階の論理的推論に苦戦している。
LLMには、自然言語とシンボリック言語ビューを同時に整合させる共通内部論理部分空間があるかどうかを問う。
- 参考スコア(独自算出の注目度): 16.869958532486258
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) still struggle with multi-step logical reasoning. Existing approaches either purely refine the reasoning chain in natural language form or attach a symbolic solver as an external module. In this work, we instead ask whether LLMs contain a shared internal logical subspace that simultaneously aligns natural-language and symbolic-language views of the reasoning process. Our hypothesis is that this logical subspace captures logical reasoning capabilities in LLMs that are shared across views while remaining independent of surface forms. To verify this, we employ Canonical Correlation Analysis on the paired residual activations from natural-language and symbolic-language reasoning chains, learning a low-dimensional subspace with maximum cross-view correlation. Furthermore, we design a training-free approach that steers LLMs reasoning chain along this logical subspace, thereby leveraging the complementary reasoning signals from both views. Experiments on four logical reasoning benchmarks demonstrate the effectiveness of our approach, improving accuracy by up to 11 percentage points and generalizing well on out-of-domain problems.
- Abstract(参考訳): 大規模言語モデル(LLM)は、多段階の論理的推論に苦戦している。
既存のアプローチは、自然言語形式の推論チェーンを純粋に洗練するか、あるいはシンボルソルバを外部モジュールとしてアタッチするかのいずれかである。
本研究では, LLM には推論過程の自然言語と記号的な視点を同時に一致させる共通内部論理部分空間が存在するのかを問う。
我々の仮説は、この論理部分空間は、面形式に依存しながらビュー間で共有されるLLMの論理的推論能力を捉えているというものである。
これを検証するために、我々は、自然言語とシンボリック言語推論チェインからペア化された残余アクティベーションに対して正準相関解析を用い、最大視界相関を持つ低次元部分空間を学習した。
さらに、この論理部分空間に沿ってLCMの推論連鎖を操り、両ビューからの補完的推論信号を活用する訓練自由アプローチを設計する。
4つの論理的推論ベンチマークの実験は、我々のアプローチの有効性を示し、精度を最大11ポイント向上し、領域外問題をうまく一般化した。
関連論文リスト
- A Balanced Neuro-Symbolic Approach for Commonsense Abductive Logic [21.003276503456632]
本稿では,大規模言語モデルによって提供されるコモンセンス関係を用いて論理問題を拡張するための新しい手法を提案する。
これは、有用な事実を見つける可能性を最大化するために、潜在的コモンセンス仮定による探索手順を含む。
論文 参考訳(メタデータ) (2026-01-26T15:40:26Z) - Leveraging LLMs for Hypothetical Deduction in Logical Inference: A Neuro-Symbolic Approach [11.400815134634016]
本稿では,忠実な論理的推論のためのニューロシンボリックアプローチであるLINAを紹介する。
LLMが命題論理抽出から洗練された論理推論への移行を自律的に行えるようにすることで、LINAは推論プロセスのレジリエンスを高める。
実証的な評価は、LINAが確立された命題論理フレームワークと従来のプロンプト技術の両方を著しく上回っていることを示している。
論文 参考訳(メタデータ) (2024-10-29T06:38:46Z) - Disentangling Logic: The Role of Context in Large Language Model Reasoning Capabilities [31.728976421529577]
包括的なドメイン集合からの抽象的および文脈的論理的問題に対するコントラストについて検討する。
我々は、標準的な命題論理、特に命題推論と帰納論理推論に焦点を当てる。
本実験は,LLMの論理的推論と真の推論能力に関する知見を提供することを目的としている。
論文 参考訳(メタデータ) (2024-06-04T21:25:06Z) - LogicBench: Towards Systematic Evaluation of Logical Reasoning Ability of Large Language Models [52.03659714625452]
最近開発された大規模言語モデル (LLM) は、幅広い言語理解タスクにおいて非常によく機能することが示されている。
しかし、それらは自然言語に対して本当に「理性」があるのだろうか?
この疑問は研究の注目を集めており、コモンセンス、数値、定性的など多くの推論技術が研究されている。
論文 参考訳(メタデータ) (2024-04-23T21:08:49Z) - Language Models can be Logical Solvers [99.40649402395725]
論理解法の推論過程を直接エミュレートする新しい言語モデルであるLoGiPTを導入する。
LoGiPTは、導出的ソルバの見えない推論過程を明らかにして精錬することから導かれる、新しく構築された命令チューニングデータセットに基づいて微調整される。
論文 参考訳(メタデータ) (2023-11-10T16:23:50Z) - Modeling Hierarchical Reasoning Chains by Linking Discourse Units and
Key Phrases for Reading Comprehension [80.99865844249106]
本稿では,論理的推論の基盤として,対話レベルと単語レベルの両方の文脈を扱う総合グラフネットワーク(HGN)を提案する。
具体的には、ノードレベルの関係とタイプレベルの関係は、推論過程におけるブリッジと解釈できるが、階層的な相互作用機構によってモデル化される。
論文 参考訳(メタデータ) (2023-06-21T07:34:27Z) - Logic-LM: Empowering Large Language Models with Symbolic Solvers for
Faithful Logical Reasoning [101.26814728062065]
大規模言語モデル(LLM)は人間のような推論能力を示しているが、それでも複雑な論理的問題に悩まされている。
本稿では,論理問題の解法を改善するために,LLMとシンボリックソルバを統合した新しいフレームワークであるLogic-LMを紹介する。
論文 参考訳(メタデータ) (2023-05-20T22:25:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。