論文の概要: Uncovering Why LLMs Fail: From Internal Mechanisms to Adversarial Reasoning Trajectories

• arxiv url: http://arxiv.org/abs/2610.37369v2
• Date: Wed, 28 Oct 2026 07:19:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-30 22:39:27.528643
• Title: Uncovering Why LLMs Fail: From Internal Mechanisms to Adversarial Reasoning Trajectories
• Title（参考訳）: LLMが失敗する理由:内部メカニズムから逆推論軌道へ
• Abstract要約: 大規模言語モデル(LLM)は通常、ファイナルアウトプットの正確性や安全性によって評価されるが、エンドポイントラベルは障害の発生方法を明らかにしない。 本稿では,LLMが3つの基本検査で失敗する理由の根本原因を明らかにするために,ホワイトボックス診断フレームワークCauTraceについて検討する。 全体として、CauTraceは、サポート、コミットメント、検証の変更を通じて障害ダイナミクスを分析するための統合診断フレームワークを提供する。
• 参考スコア（独自算出の注目度）: 2.9552943916934726
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) are usually evaluated by final-output correctness or safety, yet an endpoint label does not reveal how a failure develops throughout the reasoning process. We therefore ask whether ordinary reasoning failures and adversarially induced failures can be characterized using the same internal coordinates. Towards this end, we in this paper study a white-box diagnostic framework CauTrace to disclose the root-cause of why LLM fails from three fundamental inspections: Functional States, Propagation of Representation, Temporal-State Coordination and Reasoning Trajectory. First, seven functional states are creatively defined to represent the support and constraint processing in LLMs. Second, the propagation of representation change measures how the changes among the seven states persist across subsequent Transformer blocks. Third, temporal-state coordination and trajectory topology characterize when the commitment and verification occur relative to the support, and how the dominant state sequence evolves over the full inference process. Finally, we evaluate CauTrace on both clean reasoning failures and paired adversarial perturbations. Across Qwen and LLaMA-family models, the failed traces show weaker Attention-MLP agreement on support-state updates and less verification activity relative to commitment, while the exact representation-level signatures and timing shifts vary by architecture. Held-out repair and steering tests demonstrate consistent operational signals that were in line with our claims for certain models and specific settings, with aligned steering producing the predicted directional changes in process measures. Overall, CauTrace provides a unified diagnostic framework for analyzing failure dynamics through changes in support, commitment, and verification, which would shed light on the in-depth research on LLM security.
• Abstract（参考訳）: 大規模言語モデル(LLM)は通常、ファイナルアウトプットの正確性や安全性によって評価されるが、エンドポイントラベルは推論プロセスを通じて障害がどのように進展するかを明らかにしない。 したがって、通常の推論失敗と逆向きに誘導された失敗が、同じ内部座標を用いて特徴づけられるかどうかを問う。 そこで本研究では,LLMが機能状態,表現の伝播,時間的コーディネート,推論軌道の3つの基本検査から失敗する理由の根本原因を明らかにするために,ホワイトボックス診断フレームワークCauTraceについて検討する。 まず、LLMにおけるサポートと制約処理を表現するために、7つの機能状態が創造的に定義される。 第二に、表現の変化の伝播は、後のTransformerブロック間での7つの状態間の変化の持続性を測定する。 第三に、時間的状態調整と軌道トポロジーは、そのコミットメントと検証が支持と相対的に発生し、支配的な状態列が完全な推論過程を通してどのように進化するかを特徴付ける。 最後に,クリーンな推論障害と対向性摂動の両方についてCauTraceを評価した。 QwenとLLaMAのモデル全体では、失敗したトレースはサポート状態のアップデートに対する注意-MLP合意の弱さとコミットメントに対する検証活動の低さを示し、正確な表現レベルシグネチャとタイミングシフトはアーキテクチャによって異なる。 ヒードアウト補修およびステアリングテストは、特定のモデルや特定の設定に対する当社の主張と一致した一貫した操作信号を示し、アライメントステアリングは、プロセス測定における予測された方向変化を発生させる。 全体として、CauTraceは、サポート、コミットメント、検証の変更を通じて障害ダイナミクスを解析するための統一的な診断フレームワークを提供する。

関連論文リスト

• Complex Problem Solving in Large Language Models: A Statistical Control Survey and Diagnostic Framework [52.886947585847594]
  大規模言語モデル(LLM)による複雑な問題解決は、しばしばより強い推論やより長い生成の問題としてフレーム化される。 しかし、早期のエラー増幅、迅速な脆さ、誤ったコミットメントを修正する失敗を説明するのは難しい。 本調査はCPSを潜在解状態上の逐次推定・決定問題と解釈する。
  論文  参考訳（メタデータ） (2026-09-17T18:28:45Z)
• Operational Hallucination and Safety Drift in AI Agents [0.3823356975862005]
  ツール使用自律エージェントのプランナーとして機能する大規模言語モデル(LLM)は、マルチターン実行における動的信頼性のリスクを導入する。 本稿では,複数のLLM(Safety Drift)とOperational Hallucination(Operational Hallucination)の2つの障害モードを実証的に特徴付ける。 本稿では、インテント-アクション整合性チェック、状態追跡、強制終了プリミティブを組み込んだ、軽量でプラグ&プレイのアーキテクチャ青写真であるAction-Aware Supervision Layerを提案する。
  論文  参考訳（メタデータ） (2026-07-20T17:01:50Z)
• TrustVLA: Mechanism-Guided Inference-Time Defense Against Vision-Language-Action Backdoors [54.12833308568015]
  VLA(Vision-Language-Action)モデルは、エンドユーザが監査できないパイプラインを通じてデプロイされる。 小さな視覚トリガーは、障害が観測可能である前に、長い水平ロボットポリシーをリダイレクトする。 個別に提案した2つのVLA攻撃を通してこのギャップについて検討した。
  論文  参考訳（メタデータ） (2026-07-14T09:43:52Z)
• TAG: Target-Agnostic Guidance for Stable Object-Centric Inference in Vision-Language-Action Models [59.13964209628383]
  VLA(Vision-Language-Action)ポリシーは、言語指示や視覚的な観察をロボット行動にマッピングする上で大きな進歩を見せている。 本稿では,VLA政策における乱れや外見に起因したバイアスを明示的に軽減する単純な推論時ガイダンス機構であるTAG(Target-Agnostic Guidance)を提案する。 我々は, LIBERO, LIBERO-Plus, VLABenchなどの標準操作ベンチマーク上でTAGを評価し, クラッタ下での堅牢性を一貫して改善し, ニアミスや不正なオブジェクト実行を減らす。
  論文  参考訳（メタデータ） (2026-03-25T17:56:32Z)
• Reasoning Provenance for Autonomous AI Agents: Structured Behavioral Analytics Beyond State Checkpoints and Execution Traces [0.0]
  Agent Execution Record (AER) は構造化された推論プリミティブであり、すべてのステップで第一級クエリ可能なフィールドとしてインテント、観察、推論をキャプチャする。 AERが集団レベルの行動分析を可能にする方法を示す: 推論パターンマイニング、信頼度校正、クロスエージェント比較、モックリプレイによる反事実回帰テスト。
  論文  参考訳（メタデータ） (2026-03-23T08:27:54Z)
• CoG: Controllable Graph Reasoning via Relational Blueprints and Failure-Aware Refinement over Knowledge Graphs [53.199517625701475]
  CoGはDual-Process Theoryにインスパイアされたトレーニング不要のフレームワークで、直観と熟考の相互作用を模倣している。 CoGは精度と効率の両方において最先端のアプローチを著しく上回っている。
  論文  参考訳（メタデータ） (2026-01-16T07:27:40Z)
• LatentGuard: Controllable Latent Steering for Robust Refusal of Attacks and Reliable Response Generation [4.29885665563186]
  LATENTGUARDは、行動アライメントと教師付き潜在空間制御を組み合わせて、解釈可能で正確な安全操縦を行うフレームワークである。 本研究は, 実用性を損なうことなく, 安全性制御性と応答解釈性の両方を向上することを示す。
  論文  参考訳（メタデータ） (2025-09-24T07:31:54Z)
• Decomposing Behavioral Phase Transitions in LLMs: Order Parameters for Emergent Misalignment [0.0]
  極端に有害なデータセットを微調整したLCMは、人間の価値に対して広く不一致した行動を引き起こす可能性がある。 我々は、微調整中の急激な遷移を検出し、特徴付けるための包括的枠組みを開発する。 我々のフレームワークは、言語に基づく順序パラメータの自動発見と定量化を可能にする。
  論文  参考訳（メタデータ） (2025-08-27T16:19:49Z)
• ASCoT: An Adaptive Self-Correction Chain-of-Thought Method for Late-Stage Fragility in LLMs [21.409155842171497]
  CoT(Chain-of-Thought)の促進により,LLM(Large Language Models)の推論機能が大幅に向上した。 CoT鎖の後半で導入されたエラーは、当初と同一のエラーよりも、最終回答が著しく破損する可能性が高い。 本稿では、この脆弱性に対処するために、適応自己補正連鎖法(ASCoT)を導入する。
  論文  参考訳（メタデータ） (2025-08-07T11:26:40Z)
• MARS: Benchmarking the Metaphysical Reasoning Abilities of Language Models with a Multi-task Evaluation Dataset [50.36095192314595]
  大きな言語モデル(LLM)は、一般化可能な推論能力を持つ意識的なエージェントとして機能する。 この能力は、イベントにおける無限の可能な変更をモデル化する複雑さのために、まだ探索されていない。 我々は,各ステップに対応する3つのタスクからなる最初のベンチマークMARSを紹介する。
  論文  参考訳（メタデータ） (2024-06-04T08:35:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。