論文の概要: Geometry of Reason: Spectral Signatures of Valid Mathematical Reasoning

• arxiv url: http://arxiv.org/abs/2601.00791v1
• Date: Fri, 02 Jan 2026 18:49:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-05 15:04:33.627563
• Title: Geometry of Reason: Spectral Signatures of Valid Mathematical Reasoning
• Title（参考訳）: 推論の幾何学:有効数学的推論のスペクトル信号
• Authors: Valentin Noël,
• Abstract要約: 本研究では,注意パターンのスペクトル分析により,大規模言語モデルにおける有効な数学的推論を学習なしで検出する手法を提案する。 この方法は、トレーニングデータ、微調整、あるいは学習された分類器を必要としない。 これらの知見は,ハロゲン化検出とAI安全監視への即時適用による検証を推論するための基本的枠組みとして,スペクトルグラフ解析を確立した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present a training-free method for detecting valid mathematical reasoning in large language models through spectral analysis of attention patterns. By treating attention matrices as adjacency matrices of dynamic graphs over tokens, we extract four interpretable spectral diagnostics, the Fiedler value (algebraic connectivity), high-frequency energy ratio (HFER), graph signal smoothness, and spectral entropy, that exhibit statistically significant differences between valid and invalid mathematical proofs. Experiments across seven transformer models from four independent architectural families (Meta Llama, Alibaba Qwen, Microsoft Phi, and Mistral AI) demonstrate that this spectral signature produces effect sizes up to Cohen's $d = 3.30$ ($p < 10^{-116}$), enabling 85.0--95.6\% classification accuracy under rigorous evaluation, with calibrated thresholds reaching 93--95\% on the full dataset. The method requires no training data, fine-tuning, or learned classifiers: a single threshold on a spectral metric suffices for high accuracy. Through systematic label correction, we discover that the spectral method detects logical coherence rather than compiler acceptance, identifying mathematically valid proofs that formal verifiers reject due to technical failures. We further identify an architectural dependency: Mistral-7B's Sliding Window Attention shifts the discriminative signal from HFER to late-layer Smoothness ($d = 2.09$, $p_{\text{MW}} = 1.16 \times 10^{-48}$), revealing that attention mechanism design affects which spectral features capture reasoning validity. These findings establish spectral graph analysis as a principled framework for reasoning verification with immediate applications to hallucination detection and AI safety monitoring.
• Abstract（参考訳）: 本研究では,注意パターンのスペクトル分析により,大規模言語モデルにおける有効な数学的推論を学習なしで検出する手法を提案する。 注意行列をトークン上の動的グラフの隣接行列として扱うことにより、有効な数学的証明と有効な数学的証明の間に統計的に有意な差異を示す4つの解釈可能なスペクトル診断、Fiedler値(代数接続性)、高周波エネルギー比(HFER)、グラフ信号の滑らかさ、スペクトルエントロピーを抽出する。 4つの独立したアーキテクチャファミリ(Meta Llama、Alibaba Qwen、Microsoft Phi、Mistral AI)のトランスフォーマーモデルに対する実験では、このスペクトルシグネチャはCohenの$d = 3.30$$(p < 10^{-116}$)までの効果サイズを生成し、厳密な評価の下で85.0-95.6\%の分類精度を実現し、キャリブレーション閾値が93-95\%に達することを実証している。 この方法は、トレーニングデータ、微調整、あるいは学習された分類器を必要としない。 提案手法は,系統的なラベル補正により,コンパイラの受け入れよりも論理的コヒーレンスを検知し,形式的検証者が技術的失敗により拒否する数学的に有効な証明を同定する。 Mistral-7B's Sliding Window Attentions the discriminative signal from HFER to late-layer Smoothness ($d = 2.09$, $p_{\text{MW}} = 1.16 \times 10^{-48}$) 注意機構の設計は、スペクトル特徴が推論の有効性を捉えるのに影響を及ぼす。 これらの知見は,ハロゲン化検出とAI安全監視への即時適用による検証を推論するための基本的枠組みとして,スペクトルグラフ解析を確立した。

関連論文リスト

• A Graph Signal Processing Framework for Hallucination Detection in Large Language Models [0.0]
  事実記述は低周波収束と一貫した「エネルギー山」の挙動を示すが,幻覚型は異なる特徴を示す。 スペクトルシグネチャを用いた単純な検出器は、パープレキシティベースのベースラインに対して 88.75% の精度を達成する。 これらの結果は、スペクトル幾何学が推論パターンや誤りの振る舞いを捉え、大きな言語モデルで検出するためのフレームワークを提供する可能性があることを示唆している。
  論文  参考訳（メタデータ） (2025-10-21T22:35:48Z)
• From Eigenmodes to Proofs: Integrating Graph Spectral Operators with Symbolic Interpretable Reasoning [0.0]
  完全スペクトル型ニューロシンボリック推論フレームワークであるSpectral NSRを紹介する。 論理ルールをスペクトルテンプレートとして組み込み、グラフスペクトル領域で直接推論を行う。 スペクトルNSRは, 高い精度, 高速な推測, 対向摂動に対する頑健性の向上, 先行するベースラインと比較して高い解釈性を実現している。
  論文  参考訳（メタデータ） (2025-09-07T01:12:20Z)
• SpectrumFM: Redefining Spectrum Cognition via Foundation Modeling [65.65474629224558]
  本稿ではスペクトル認識のための新しいパラダイムを提供するスペクトルFMと呼ばれるスペクトル基盤モデルを提案する。 畳み込みニューラルネットワークを利用した革新的なスペクトルエンコーダを提案し、スペクトルデータにおける微細な局所信号構造と高レベルのグローバルな依存関係の両方を効果的に捕捉する。 2つの新しい自己教師型学習タスク、すなわちマスク付き再構成と次のスロット信号予測が、SpectrumFMの事前学習のために開発され、モデルがリッチで伝達可能な表現を学習できるようにする。
  論文  参考訳（メタデータ） (2025-08-02T14:40:50Z)
• A Self-supervised Learning Method for Raman Spectroscopy based on Masked Autoencoders [3.9517125314802306]
  SMAE と呼ばれる Masked AutoEncoder に基づくラマン分光の自己教師型学習パラダイムを提案する。 SMAEは、事前トレーニング中にスペクトルアノテーションを必要としない。ランダムなマスキングを行い、スペクトル情報を再構成することにより、本質的なスペクトル特徴を学習する。
  論文  参考訳（メタデータ） (2025-04-21T10:44:06Z)
• Hallucination Detection in LLMs with Topological Divergence on Attention Graphs [60.83579255387347]
  幻覚(Halucination)、すなわち、事実的に誤ったコンテンツを生成することは、大きな言語モデルにとって重要な課題である。 本稿では,TOHA (Topology-based HAllucination detector) をRAG設定に導入する。
  論文  参考訳（メタデータ） (2025-04-14T10:06:27Z)
• Graph Structural Attack by Spectral Distance [35.998704625736394]
  グラフ畳み込みネットワーク(GCN)は、グラフ学習タスクにおける優れたパフォーマンスのために、関心の高まりを助長している。 本稿では,フーリエ領域におけるグラフスペクトルフィルタの破壊に有効なグラフ構造攻撃について検討する。
  論文  参考訳（メタデータ） (2021-11-01T04:02:34Z)
• Offline detection of change-points in the mean for stationary graph signals [55.98760097296213]
  グラフ信号定常性の概念に依存するオフライン手法を提案する。 我々の検出器は、漸近的でない不等式オラクルの証拠を伴っている。
  論文  参考訳（メタデータ） (2020-06-18T15:51:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。