論文の概要: Implicit Patterns in LLM-Based Binary Analysis
- arxiv url: http://arxiv.org/abs/2603.19138v1
- Date: Thu, 19 Mar 2026 16:56:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-20 17:19:06.280839
- Title: Implicit Patterns in LLM-Based Binary Analysis
- Title(参考訳): LLMに基づくバイナリ解析におけるインプシットパターン
- Authors: Qiang Li, XiangRui Zhang, Haining Wang,
- Abstract要約: 我々は,マルチパスLSM推論が,構造化されたトークンレベルの暗黙的パターンを生じさせることを示す,最初の大規模トレースレベル研究を示す。
本研究は,LLM駆動のバイナリ解析の体系的特徴と,より信頼性の高い解析システムの基礎を提供する。
- 参考スコア(独自算出の注目度): 6.612857121548629
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Binary vulnerability analysis is increasingly performed by LLM-based agents in an iterative, multi-pass manner, with the model as the core decision-maker. However, how such systems organize exploration over hundreds of reasoning steps remains poorly understood, due to limited context windows and implicit token-level behaviors. We present the first large-scale, trace-level study showing that multi-pass LLM reasoning gives rise to structured, token-level implicit patterns. Analyzing 521 binaries with 99,563 reasoning steps, we identify four dominant patterns: early pruning, path-dependent lock-in, targeted backtracking, and knowledge-guided prioritization that emerge implicitly from reasoning traces. These token-level implicit patterns serve as an abstraction of LLM reasoning: instead of explicit control-flow or predefined heuristics, exploration is organized through implicit decisions regulating path selection, commitment, and revision. Our analysis shows these patterns form a stable, structured system with distinct temporal roles and measurable characteristics. Our results provide the first systematic characterization of LLM-driven binary analysis and a foundation for more reliable analysis systems.
- Abstract(参考訳): バイナリ脆弱性分析は、LLMベースのエージェントによって反復的、複数パスの方法でますます実施され、モデルが中核的な意思決定者となる。
しかし、そのようなシステムが数百の推論ステップをどう整理するかは、限られたコンテキストウィンドウと暗黙のトークンレベルの振る舞いのため、よく理解されていない。
我々は,マルチパスLSM推論が,構造化されたトークンレベルの暗黙的パターンを生じさせることを示す,最初の大規模トレースレベル研究を示す。
521個のバイナリを99,563個の推論ステップで解析し、早期刈り込み、パス依存ロックイン、ターゲットバックトラッキング、そして推論トレースから暗黙的に現れる知識誘導優先化の4つの支配的なパターンを同定した。
これらのトークンレベルの暗黙のパターンは、LSM推論の抽象化として機能する:明示的な制御フローや事前定義されたヒューリスティックではなく、探索は、経路の選択、コミットメント、修正を暗黙的な決定によって構成される。
分析の結果,これらのパターンは時間的役割と測定可能な特性を区別した安定な構造システムを形成していることがわかった。
本研究は,LLM駆動のバイナリ解析の体系的特徴と,より信頼性の高い解析システムの基礎を提供する。
関連論文リスト
- On Multi-Step Theorem Prediction via Non-Parametric Structural Priors [50.16583672681106]
本研究では,インコンテキスト学習(ICL)のレンズによる学習自由な定理予測について検討する。
本稿では,過去の解の時間的依存関係を有向グラフとしてエンコードし,推論中に探索空間を効果的に引き起こす明示的なトポロジ的制約を課すTheorem Precedence Graphsを提案する。
FormalGeo7kベンチマークの実験から,本手法は89.29%の精度を実現し,ICLベースラインを著しく上回り,最先端の教師付きモデルに適合することがわかった。
論文 参考訳(メタデータ) (2026-03-05T06:08:50Z) - Learning Structured Reasoning via Tractable Trajectory Control [99.75278337895024]
Ctrl-Rは、トラクタブルな軌道制御を通じて構造化推論を学ぶためのフレームワークである。
Ctrl-Rは,従来達成できなかった推論パターンを効果的に探索し,内部化することができることを示す。
論文 参考訳(メタデータ) (2026-03-02T09:18:19Z) - How and Why LLMs Generalize: A Fine-Grained Analysis of LLM Reasoning from Cognitive Behaviors to Low-Level Patterns [51.02752099869218]
大きな言語モデル(LLM)は、非常に異なる一般化の振る舞いを示す。
推論を原子核スキルに分解する新しいベンチマークを導入する。
SFTモデルはよりシャープなドリフトと表面パターンへの過度な適合を示すのに対し、RL型モデルはより安定した行動プロファイルを維持し、推論スキルの崩壊に抵抗することを示す。
論文 参考訳(メタデータ) (2025-12-30T08:16:20Z) - Increasing AI Explainability by LLM Driven Standard Processes [0.0]
本稿では,Large Language Models (LLM) を標準化された分析プロセスに組み込むことにより,人工知能(AI)システムの説明可能性を高めるアプローチを提案する。
LLMの推論空間と、その上の説明可能なプロセス空間とを分離する階層アーキテクチャが提示される。
実証的な評価は、システムが分散ガバナンス、システム分析、戦略的推論コンテキストにおいて、人間レベルの決定ロジックを再現可能であることを示している。
論文 参考訳(メタデータ) (2025-11-10T13:16:10Z) - From Implicit Exploration to Structured Reasoning: Leveraging Guideline and Refinement for LLMs [33.17712742134723]
本稿では,暗黙的な探索からガイドや改良を通じて構造化された推論へ移行する枠組みを提案する。
まず、成功した軌道から構造的推論パターンを抽出し、失敗から反射信号を抽出する。
推論中、モデルはこれらのガイドラインをステップバイステップで追従し、各ステップの後に改善を加えてエラーを修正し、推論プロセスを安定化させる。
論文 参考訳(メタデータ) (2025-09-08T02:11:49Z) - Mapping the Minds of LLMs: A Graph-Based Analysis of Reasoning LLM [11.181783720439563]
大規模言語モデル(LLM)は、拡張されたChain-of-Thought(CoT)生成を通じて洗練された推論能力を示す。
RLMは、数発のプロンプトによる性能劣化など、直感的で不安定な動作を示すことが多い。
RLMの推論過程をより良くモデル化するための統一的なグラフベース分析フレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-20T03:54:57Z) - A Survey of Frontiers in LLM Reasoning: Inference Scaling, Learning to Reason, and Agentic Systems [93.8285345915925]
推論(Reasoning)は、論理的推論、問題解決、意思決定を可能にする基本的な認知プロセスである。
大規模言語モデル(LLM)の急速な進歩により、推論は高度なAIシステムを区別する重要な能力として浮上した。
我々は,(1)推論が達成される段階を定義するレジーム,(2)推論プロセスに関与するコンポーネントを決定するアーキテクチャの2つの側面に沿って既存の手法を分類する。
論文 参考訳(メタデータ) (2025-04-12T01:27:49Z) - Reasoning on a Spectrum: Aligning LLMs to System 1 and System 2 Thinking [2.8972218767527527]
大きな言語モデル(LLM)は印象的な推論能力を示すが、構造化されたステップバイステップの推論に依存しているため、限界が示される。
この作業は、ステップバイステップの推論が常に最適であるという仮定に挑戦し、タスク要求に基づいた推論戦略を適用する必要性を強調します。
論文 参考訳(メタデータ) (2025-02-18T02:58:37Z) - LogiDynamics: Unraveling the Dynamics of Inductive, Abductive and Deductive Logical Inferences in LLM Reasoning [74.0242521818214]
本稿では,大言語モデル(LLM)におけるインダクティブ(システム1)と帰納的/帰納的(システム2)の推論の比較力学を体系的に検討する。
我々は、制御されたアナログ推論環境、多様度(テキスト、視覚、記号)、難易度、タスク形式(MCQ/フリーテキスト)を利用する。
我々の分析によると、System 2のパイプラインは一般的に、特に視覚的/象徴的なモダリティや難しいタスクにおいて優れており、System 1はテキストやより簡単な問題に対して競争力がある。
論文 参考訳(メタデータ) (2025-02-16T15:54:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。