論文の概要: Post-Hoc Attention Steering of Large Language Models for Robust Code Understanding under Obfuscation
- arxiv url: http://arxiv.org/abs/2609.26102v1
- Date: Thu, 20 Aug 2026 05:16:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.878184
- Title: Post-Hoc Attention Steering of Large Language Models for Robust Code Understanding under Obfuscation
- Title（参考訳）: 難読化下でのロバストコード理解のための大規模言語モデルのポストホックアテンションステアリング
- Abstract要約: 大規模言語モデル(LLM)は、コード理解において強力な能力を示しているが、難読化に対する頑健さはいまだによく分かっていない。
提案するCodeSteerは,意味的に関連するプログラム要素に対して,モデル注意を再配置する新しいアテンションステアリング手法である。
提案手法は,軽量なプログラム解析と推論時アテンションステアリングを統合して,プログラムのコアインプット・トゥ・アウトプット・依存性にLCMを誘導する。
- 参考スコア（独自算出の注目度）: 15.427245397603189
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Code obfuscation is widely used in software systems and malware to conceal program logic and hinder analysis, posing significant challenges for both human developers and automated tools. While large language models (LLMs) have shown strong capabilities in code understanding, their robustness to obfuscation remains poorly understood. Our preliminary study shows that LLM performance significantly degrades on obfuscated code, suggesting a reliance on superficial lexical cues rather than deep semantic reasoning. To address this limitation, we propose CodeSteer, a novel attention steering approach that reallocates model attention toward semantically relevant program elements, including backward slices for output prediction and control-flow paths for execution reasoning. Our method integrates lightweight program analysis with inference-time attention steering to guide LLMs toward the core input-to-output dependencies of a program. Experiments across multiple models and datasets demonstrate that CodeSteer significantly improves performance on obfuscated code, often recovering comparable accuracy to the level of unobfuscated programs. We also show CodeSteer's practical utility through a case study on buffer overflow detection, highlighting its potential for malware/vulnerability analysis and reverse engineering of obfuscated code.
- Abstract（参考訳）: コードの難読化は、プログラムロジックを隠蔽し分析を妨げるために、ソフトウェアシステムやマルウェアで広く使われており、人間開発者と自動化ツールの両方にとって大きな課題となっている。
大きな言語モデル(LLM)は、コード理解において強力な能力を示しているが、難読化に対する頑健さはいまだによく分かっていない。
予備研究は,LLMの性能が難読化コードに著しく低下していることを示し,深い意味的推論よりも表面的語彙的手がかりに依存していることが示唆された。
この制限に対処するため,CodeSteerを提案する。モデル注意を意味的に関連するプログラム要素に再配置する新しいアテンションステアリング手法で,出力予測の後方スライスや実行推論の制御フローパスなどを提案する。
提案手法は,軽量なプログラム解析と推論時アテンションステアリングを統合して,プログラムのコアインプット・トゥ・アウトプット・依存性にLCMを誘導する。
複数のモデルとデータセットにわたる実験により、CodeSteerは難読化されたコードのパフォーマンスを大幅に改善し、しばしば難読でないプログラムのレベルに匹敵する精度を回復することを示した。
また、バッファオーバーフロー検出のケーススタディを通じてCodeSteerの実用性を示し、マルウェア/脆弱性解析と難読化コードのリバースエンジニアリングの可能性を強調した。
関連論文リスト
- The Imitation Game: When LLMs Learn to Reason Like Programs via Code-Centric Reasoning Data Synthesis [50.473217152006875]
MIMICは、データ合成を推論するための厳密な媒体として実行可能なコードを活用するフレームワークである。
MIMICは、ナラティブ融合、コード誘導テスト合成、動的コードインスツルメンテーションを通じて、アルゴリズムを検証可能な推論軌道に変換する。
提案手法は, 一般的な推論, 複雑な数学的ベンチマーク, きめ細かい決定論的タスクにおいて, 精度を著しく向上させる。
論文 参考訳（メタデータ） (2026-09-13T17:04:16Z) - Do Machines Struggle Where Humans Do? LLM and Human Comprehension of Obfuscated Code [9.04223924791364]
我々は,大規模な言語モデルが,難読化が人間プログラマにもたらす障害モードを共有しているかどうかを評価する。
推論調整モデルでは、経験レベルを越えた人間の難易度パターンと顕著に一致していることが分かる。
その結果,制御フロー平滑化時の性能は状態空間の複雑さに比例して低下することがわかった。
論文 参考訳（メタデータ） (2026-06-30T14:26:46Z) - Can LLMs Deobfuscate Binary Code? A Systematic Analysis of Large Language Models into Pseudocode Deobfuscation [27.576617126549294]
BinDeObfBenchは、LLMベースのバイナリ難読化を評価するための最初の包括的なベンチマークである。
推論モデルは、激しい難読化の下で堅牢性を維持することができる。
コンテキスト内学習は標準モデルにはメリットがあるが、推論モデルには限界がある。
論文 参考訳（メタデータ） (2026-04-09T10:56:06Z) - Readability-Robust Code Summarization via Meta Curriculum Learning [53.44612630063336]
現実の世界では、コードが貧弱な構造や難読化され、モデルのパフォーマンスが著しく低下することが多い。
本稿では,可読性の低いコードに対するコード要約の堅牢性を向上する,新しい微調整手法であるRoFTCodeSumを提案する。
論文 参考訳（メタデータ） (2026-01-09T02:38:24Z) - Can LLMs Recover Program Semantics? A Systematic Evaluation with Symbolic Execution [1.5377279217726239]
難読化は、プログラムの理解、メンテナンス、テスト、脆弱性検出といったソフトウェアエンジニアリングタスクに永続的な課題をもたらす。
微調整言語モデルがプログラムを効果的に難読化し、分析可能性を取り戻すことができるかどうかを検討する。
論文 参考訳（メタデータ） (2025-11-24T13:55:20Z) - "Digital Camouflage": The LLVM Challenge in LLM-Based Malware Detection [0.0]
大規模言語モデル(LLM)がマルウェア検出のための有望なツールとして登場した。
しかし、逆コンパイラレベルの難読化の下での信頼性はまだ発見されていない。
本研究は,コンパイラレベルの難読化技術に対する3つの最先端LCMのロバスト性を実証的に評価する。
論文 参考訳（メタデータ） (2025-09-20T12:47:36Z) - Training Language Models to Generate Quality Code with Program Analysis Feedback [66.0854002147103]
大規模言語モデル(LLM)によるコード生成は、ますます本番環境で採用されているが、コード品質の保証には失敗している。
実運用品質のコードを生成するためにLLMにインセンティブを与える強化学習フレームワークであるREALを提案する。
論文 参考訳（メタデータ） (2025-05-28T17:57:47Z) - The Code Barrier: What LLMs Actually Understand? [7.407441962359689]
本研究では,言語モデルの意味理解能力を評価するために,コード難読化を構造化テストフレームワークとして利用する。
難読化の複雑さが増加するにつれて、統計的に顕著な性能低下が見られる。
本研究では,言語モデルにおけるコード理解を評価するための新しい評価手法を提案する。
論文 参考訳（メタデータ） (2025-04-14T14:11:26Z) - ObscuraCoder: Powering Efficient Code LM Pre-Training Via Obfuscation Grounding [60.37988508851391]
言語モデル(LM)は、コード記述ツールボックスのベースとなっている。
Code-LMの事前学習目標の変更を探求する研究は、データ効率の向上と構文とセマンティクスの相互接続性の向上を目的としており、顕著に不十分である。
本研究では,Code-LMが表面的な構文を超越し,事前学習したサンプルの効率を高めるために,難読化コードの基盤について検討する。
論文 参考訳（メタデータ） (2025-03-27T23:08:53Z) - Code to Think, Think to Code: A Survey on Code-Enhanced Reasoning and Reasoning-Driven Code Intelligence in LLMs [53.00384299879513]
大規模言語モデル(LLM)では、コードと推論が互いに強化される。
コードは検証可能な実行パスを提供し、論理的な分解を強制し、実行時の検証を可能にする。
我々は,このシナジーを強化するために,重要な課題を特定し,今後の研究方向性を提案する。
論文 参考訳（メタデータ） (2025-02-26T18:55:42Z) - A Transformer-based Approach for Source Code Summarization [86.08359401867577]
コードトークン間のペア関係をモデル化することにより,要約のためのコード表現を学習する。
アプローチは単純であるにもかかわらず、最先端技術よりもかなりの差があることが示される。
論文 参考訳（メタデータ） (2020-05-01T23:29:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。