論文の概要: When Binaries Talk Back: Representation-Confusion Attacks on LLM-Assisted Reverse Engineering
- arxiv url: http://arxiv.org/abs/2607.12507v1
- Date: Tue, 14 Jul 2026 08:38:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-15 17:08:30.088309
- Title: When Binaries Talk Back: Representation-Confusion Attacks on LLM-Assisted Reverse Engineering
- Title（参考訳）: LLM支援リバースエンジニアリングにおける表現拡散攻撃
- Abstract要約: バイナリは、データをある起源からの命令やレコードのように、独立したエビデンスのように見せることができる。
我々は、逆エンジニアリング(RARE)における融合攻撃(Confusion Attacks in Reverse Engineering)と呼ぶ。
RAREはこれらの障害を測定する。
Ghidra, r2pipe, angrを16のプログラムに実装する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: LLM-assisted reverse-engineering (RE) systems analyze strings, decompiler output, and tool reports derived from ttacker-controlled binaries. A binary can make data look like instructions or records from one origin look like independent evidence. We call such failures Representation-Confusion Attacks in Reverse Engineering (RARE): the pipeline promotes a correctly extracted observation to instruction authority, claim-validating evidence, or trusted analysis state without the authority or support that role requires. RARE-Bench measures these failures with behavior-checked clean and adversarial binaries. After an exploratory 11,520-call study, we test RARE-Guard's authorization and evidence controls on 20 new programs and two models. Without runtime controls, the models propose a planted unsafe action in 35/40 adversarial cases and 0/40 clean cases. When binary-derived content is shown only as data (Data-Only rendering), they still make 15 unsafe proposals. Tool Authorization denies all 15 and authorizes all 40 matched analyst requests. On identical report drafts, Support Gate validates 23/40 false claims by counting records from one origin separately. Provenance Gate groups those records before counting support, validates 0/40 false claims, and retains all 40 supported claims. We then instrument Ghidra, r2pipe, and angr on 16 further programs. In a preselected eight-program subset, no single-tool draft reaches Support Gate's validation threshold for the false claim. In fused drafts across all 16 programs, Support Gate validates 32/32 false claims. Provenance Gate prevents validation of all 32 and retains all 32 supported claims. A deterministic renderer prevents downgraded claims from reappearing in the final report. Binary-derived content may therefore guide analysis without gaining authority over tools, and views from several tools do not necessarily provide independent evidence.
- Abstract（参考訳）: LLM支援のリバースエンジニアリング(RE)システムは、文字列、デコンパイラ出力、およびタッカー制御されたバイナリから派生したツールレポートを分析する。
バイナリは、データをある起源からの命令やレコードのように、独立したエビデンスのように見せることができる。
このような障害をRepresentation-Confusion Attacks in Reverse Engineering (RARE: Representation-Confusion Attacks in Reverse Engineering)と呼びます。
RARE-Benchは、振舞いチェックされたクリーンで対向的なバイナリでこれらの障害を測定する。
11,520回の電話調査の後、RARE-Guardの承認と20の新しいプログラムと2つのモデルに対するエビデンス制御を検証した。
実行時コントロールなしで、モデルは35/40の敵ケースと0/40のクリーンケースに植込みの安全でないアクションを提案する。
バイナリから派生したコンテンツがデータ(データオンリーレンダリング)としてのみ表示される場合、彼らはまだ15の安全でない提案をしている。
ツール認証は15を全て否定し、マッチした40のアナリスト要求をすべて承認する。
同じ報告書の草案では、サポートゲートは1つの起源からのレコードを別々に数えて、23/40の虚偽のクレームを検証している。
Provenance Gateは、サポートをカウントする前にこれらのレコードをグループ化し、0/40の偽のクレームを検証し、サポート対象のクレームをすべて保持している。
次に、さらに16のプログラムにGhidra、r2pipe、angrを実装します。
プリセレクトされた8つのプログラムサブセットでは、偽のクレームに対するSupport Gateのバリデーションしきい値に達する単一のツールドラフトは存在しない。
全16プログラムの融合ドラフトでは、サポートゲートは32/32の虚偽のクレームを検証している。
Provenance Gateはすべての32の検証を防止し、すべての32のクレームを保持する。
決定論的レンダラは、最終レポートで劣化したクレームが再び現れるのを防ぐ。
したがって、バイナリから派生したコンテンツは、ツールよりも権威を得ることなく分析を導くことができ、いくつかのツールからの見解が必ずしも独立した証拠を提供するとは限らない。
関連論文リスト
- VeriPhy: Agentic Physical Reasoning for World Model Evaluation and Refinement [57.86962208273888]
テキストのみのプランナが入力された物理義務にプロンプトをコンパイルする監査可能な物理検証システムを提案する。
それぞれのアクションは、ペイロードがタイプされた測定か、明示的にタグ付けされた学習状態である証明付きエビデンスレコードを返す。
我々は, 実発生障害を即時参照, 空間, 時間でローカライズする, 1500クリックの欠陥記録のコーパスにおいて, 評価をアンロックする。
論文 参考訳（メタデータ） (2026-09-02T20:36:45Z) - Why Didn't It Check? Unsupported Final Claims and Their Repair in Two Tool-Equipped Language Models [0.0]
単一の利用可能なツールコールが不確実性を解決するとしても、言語モデルは、彼らが見た証拠によって最終的なクレームが支持されないことをコミットすることができる。
我々は、この失敗を、正確に定義された2つの量に分類する: 発生、モデルが、隠れた正解を使わずに、可視的証拠と最終的クレームから測定した、どれだけの頻度で、どれだけの頻度で不在なクレームを発生させるか、そして、不在な証拠が供給されたときに、同じ自然に発生するクレームが修復されるか。
論文 参考訳（メタデータ） (2026-08-27T23:02:52Z) - MemToC: Benchmarking Memory-Tool Conflict Resolution in Large Language Models [49.47300047353726]
MemToCは、実行時ツールによるポストツール-リターン仲裁のベンチマークである。
MemToCは、542の質制御された事実質問から構築された6,504回の評価エピソードで構成されている。
オープンウェイトな7-9Bモデルでは、ツールが強く支配的なクローズドブックの回答を返す。
論文 参考訳（メタデータ） (2026-08-26T18:22:03Z) - From Traceability to Justifiability: Accountability Structures in Agentic Software Engineering [0.0]
公開資料のみから、AIレコードがクレームを表現できるかどうか、宣言された場所を保持できるかどうかを測定する。
188個の二重グレード細胞で、デフォルトレコードが行動システムのコンテンツアイデンティティを出力するプラットフォームは見つからなかった。
計器は、パイプラインが発行した排気のみからの保証深度を計算し、宣言された深さと比較する。
論文 参考訳（メタデータ） (2026-08-21T16:45:00Z) - From Trajectories to Evidence: Auditable Experimental Records for Industrial Research Agents [47.678562263387214]
研究エージェントは、産業レコメンデーション設定において、多段階の機械学習実験をますます実施している。
生成されたアーティファクトは、サポートされないか、不完全かもしれないし、実行されたラウンドは無効かもしれないし、あるいは廃止されるかもしれないし、後の修正は、以前の発見を曖昧にするかもしれない。
本稿では,連続的アーティファクトのバウンダリ検証と実行後のクレーム資格を結合するエビデンス・グラウンド・フレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-05T13:37:38Z) - Evidence-Grounded Verified Agentic Reasoning: A Path Toward Eliminating LLM Hallucination in Empirical Inference via Tool-Attested Kernel Proofs [0.564046562677526]
リーン4ベースのツールコールアーキテクチャが経験的クレームを管理するのにどのように使用できるかを示します。
検証されたすべての出力は、検査済みのツールコールと、有効な推論のカーネルチェックされたチェーンから構造的に下降する。
正式なサイドカーは、目標命題、ソーススコープ、エビデンス境界、証明義務、棄権条件を監査可能にする。
時間とともに、データセット、API、公開レコード、AI生成ドキュメントの型付きサイドカーは、この形式化の負担を再利用可能なインフラストラクチャに戻すことができる。
論文 参考訳（メタデータ） (2026-07-14T11:33:44Z) - Characterizing and Bridging the Diagnostic Gap in eBPF Verifier Rejections [5.3302893005312955]
eBPFにより、開発者はLinuxカーネル内でカスタムプログラムを実行できる。
検証者がプログラムを拒否すると、不確実なエラーにより修復が困難になる。
証明が確立された場所と,検証ログから失われていた場所を再構築するbpfixを提案する。
論文 参考訳（メタデータ） (2026-07-02T20:33:32Z) - Hallucination as Exploit: Evidence-Carrying Multimodal Agents [10.441697487723568]
マルチモーダルエージェントはますます、スクリーンショットやドキュメント、Webページからツールコールを選択している。
本稿では,自由形式モデルテキストを不許容な証拠として扱うエビデンス搬送型マルチモーダルエージェント(ECA)を提案する。
ECAは不透明なモデルの信念を検証者、スキーマ、実装レベルで監査可能な残留物に変換する。
論文 参考訳（メタデータ） (2026-05-18T23:40:43Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳（メタデータ） (2026-03-13T20:44:15Z) - Backdoor4Good: Benchmarking Beneficial Uses of Backdoors in LLMs [63.668008418097905]
クリーンタスク性能を保ちながら、優れたバックドアは高い制御性、タンパー抵抗性、ステルスネスを達成できることを示す。
私たちの発見は、バックドアは本質的に悪意のあるものではない、という新たな洞察を示しています。適切に設計された場合、信頼できるAIシステムのためのモジュールで解釈可能、有益なビルディングブロックとして機能します。
論文 参考訳（メタデータ） (2026-03-08T04:01:13Z) - Inferring multiple helper Dafny assertions with LLMs [47.33158055894705]
本研究では,Dafnyプログラムにおけるヘルパーアサーションの欠落を自動的に推測するために,Large Language Modelsの使用について検討する。
推論の難易度を分析するために,アサーション型の分類を導入した。
その結果、自動アサーション推論は証明工学の労力を大幅に削減できることが示された。
論文 参考訳（メタデータ） (2025-10-31T09:45:39Z) - Evidence-Bound Autonomous Research (EviBound): A Governance Framework for Eliminating False Claims [0.609170287691728]
EviBoundは、二重ガバナンスゲートを通じて偽のクレームを排除するエビデンスベースの実行フレームワークである。
事前実行承認ゲートは、コードが実行される前に受け入れ基準スキーマを検証する。
実行後検証ゲートは、MLflow APIクエリを通じてアーティファクトを検証する。
論文 参考訳（メタデータ） (2025-10-28T17:47:13Z) - Contrastive Learning to Improve Retrieval for Real-world Fact Checking [84.57583869042791]
ファクト・チェッキング・リランカ(Contrastive Fact-Checking Reranker, CFR)を提案する。
我々はAVeriTeCデータセットを活用し、証拠文書からの人間による回答とクレームのサブクエストを注釈付けする。
データセットの精度は6%向上した。
論文 参考訳（メタデータ） (2024-10-07T00:09:50Z) - GenAudit: Fixing Factual Errors in Language Model Outputs with Evidence [64.95492752484171]
GenAudit - 文書基底タスクの事実チェック LLM 応答を支援するためのツール。
GenAuditは、レファレンス文書でサポートされていないクレームを修正したり削除したりすることでLCMレスポンスを編集することを提案し、また、サポートしているように見える事実の参照から証拠を提示する。
GenAuditは、さまざまなドメインから文書を要約する際に、8つの異なるLCM出力でエラーを検出することができる。
論文 参考訳（メタデータ） (2024-02-19T21:45:55Z) - Black-box Dataset Ownership Verification via Backdoor Watermarking [67.69308278379957]
我々は、リリースデータセットの保護を、(目立たしい)サードパーティモデルのトレーニングに採用されているかどうかの検証として定式化する。
バックドアの透かしを通じて外部パターンを埋め込んでオーナシップの検証を行い,保護することを提案する。
具体的には、有毒なバックドア攻撃(例えばBadNets)をデータセットのウォーターマーキングに利用し、データセット検証のための仮説テストガイダンスメソッドを設計する。
論文 参考訳（メタデータ） (2022-08-04T05:32:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。