論文の概要: Chameleon: Recovering Cyber-Physical Systems from Memory Corruption Attacks via ML Surrogates
- arxiv url: http://arxiv.org/abs/2607.01356v1
- Date: Wed, 01 Jul 2026 18:14:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-03 19:45:08.549896
- Title: Chameleon: Recovering Cyber-Physical Systems from Memory Corruption Attacks via ML Surrogates
- Title（参考訳）: Chameleon:MLサロゲートを介してメモリ破壊攻撃からサイバー物理システムを復元する
- Abstract要約: サイバー物理システム(CPS)は、私たちの生活のあらゆる側面にますます展開され、メモリ破損の脆弱性によって妥協される可能性がある。
既存の技術は主にそのような攻撃を検出することに集中しているが、攻撃検出時に実行を終了または停止することで応答する。
機械学習(ML)ベースのサロゲートを用いたメモリ破損攻撃からCPSを自動的に回復する新しいフレームワークであるChameleonを提案する。
- 参考スコア（独自算出の注目度）: 13.936830637955444
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Cyber-physical systems (CPSs) are increasingly deployed in every aspect of our lives and can be compromised through memory corruption vulnerabilities, allowing attackers to hijack the control flow and take over the system. Existing techniques mostly focus on detecting such attacks but respond by terminating or halting execution upon attack detection, which is not acceptable in CPSs used in safety-critical tasks, as interrupted tasks can have catastrophic consequences. Other techniques replace compromised CPS components with simplified defaults that degrade system behavior, or reboot the system upon attack detection. We propose Chameleon, a novel framework for automatically recovering CPSs from memory corruption attacks using machine learning (ML)-based surrogates trained at compartment granularity that nearly replicate their original compartments' behavior but do not have the same memory corruption vulnerabilities. Upon attack detection, Chameleon replaces the compromised compartment with its trained surrogate. We implemented Chameleon using the LLVM compiler and evaluated its efficiency and effectiveness on seven different robotic vehicles (RVs), including simulated and real ones. We found that Chameleon can generate surrogates that closely approximate the original compartments (with an average R$^2$=0.96), successfully recover the system despite real-world memory corruption attacks unlike prior approaches, and complete their tasks while incurring low performance and memory overhead.
- Abstract（参考訳）: サイバー物理システム(CPS)は、私たちの生活のあらゆる側面にますます展開されており、メモリ破損の脆弱性によって侵入され、攻撃者が制御フローをハイジャックし、システムを乗っ取ることができる。
既存の技術は主にこのような攻撃の検出に重点を置いているが、攻撃検出時に実行を終了または停止することで応答するが、中断されたタスクは破滅的な結果をもたらす可能性があるため、安全上重要なタスクで使用されるCPSでは受け入れられない。
他のテクニックでは、妥協したCPSコンポーネントを、システムの振る舞いを低下させたり、アタック検出時にシステムをリブートする、単純化されたデフォルトに置き換える。
機械学習(ML)ベースのサロゲートを用いて記憶破壊攻撃からCPSを自動的に回復する新しいフレームワークであるChameleonを提案する。
攻撃検知の際、シャメレオンは妥協した区画を訓練されたサロゲートで置き換える。
LLVMコンパイラを用いてChameleonを実装し,シミュレーションおよび実車を含む7種類のロボット車両(RV)における効率と有効性を評価した。
その結果、Chameleon は元のコンパートメントを近似したサロゲート(平均 R$^2$=0.96 )を生成でき、従来の手法とは異なり現実のメモリ破壊攻撃にも拘わらずシステムを回復し、性能とメモリオーバーヘッドを低く抑えながらタスクを完了できることがわかった。
関連論文リスト
- A Self-Evolving Multi-Agent Framework Defense against LLM Jailbreak Attacks [53.12252890906191]
大規模言語モデル(LLM)は、ジェイルブレイク攻撃に弱いままである。
本稿では,永続的相互作用ルールメモリを中心に構築された自己進化型テストタイムディフェンスを提案する。
論文 参考訳（メタデータ） (2026-08-26T16:52:06Z) - Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies [62.65225104423404]
自己進化エージェントシステムは、敵の影響力が永久に符号化される、質的に新しい脅威の風景を導入します。
モジュール・ライフサイクル・アタック・サーフェス・マトリックスを中心に組織化されたセキュリティとプライバシの分析を行った。
その結果, 自己進化は, 既知のすべての攻撃カテゴリをセッションバウンドからラインパーシスタントに変換することがわかった。
論文 参考訳（メタデータ） (2026-06-22T09:23:50Z) - MemVenom: Triggered Poisoning of Multimodal Memories in Web Agents [74.64265314956441]
そこで我々は,グラフ構造化外部メモリにテキスト画像のコーディネートを施したブラックボックス攻撃フレームワークを提案する。
MemVenomは、GPT-5ファミリーのWebエージェントで最大99.15%に達する、良質なパフォーマンスに最小限の影響を伴って、強力なエンドツーエンド攻撃を成功させる。
論文 参考訳（メタデータ） (2026-06-09T11:53:25Z) - Hijacking Agent Memory: Stealthy Trojan Attacks Through Conversational Interaction [3.809725488301918]
大規模言語モデル(LLM)エージェントは、永続的で自律的なタスク実行をサポートするために、長期記憶を活用する傾向にある。
既存のメモリ中毒攻撃は、インジェクトされたコンテンツが直接メモリに格納され、選択的な抽出と書き換えの段階を見渡せると仮定する。
メカニスティック分析は、攻撃が埋め込み空間の異方性を悪用し、注意パターンを変えることを示唆している。
論文 参考訳（メタデータ） (2026-05-28T14:02:00Z) - Trojan Hippo: Weaponizing Agent Memory for Data Exfiltration [33.8989871605613]
トロイジャン・ヒッポ(Trojan Hippo)は、より現実的な脅威モデルで機能する永続メモリ攻撃のクラスである。
基本的なセキュリティ原則から着想を得た4つのメモリシステム防御を評価し,攻撃成功率を大幅に低下させることを確認した。
この相当なセキュリティとユーティリティのトレードオフのため、防衛の効果的な実世界の展開は、依然としてオープンな課題である。
論文 参考訳（メタデータ） (2026-05-03T17:07:20Z) - Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections [57.64370755825839]
セルフ進化エージェントはセッション間で内部状態を更新する。
我々はこのリスクを調査し、Zombie Agentと呼ばれる永続的な攻撃を形式化する。
我々は,攻撃者が制御するWebコンテンツを通じて間接的露光のみを使用するブラックボックス攻撃フレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-17T15:28:24Z) - BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。
BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
論文 参考訳（メタデータ） (2025-08-11T16:04:47Z) - Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。
この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。
クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
論文 参考訳（メタデータ） (2025-06-16T08:09:32Z) - Memory Under Siege: A Comprehensive Survey of Side-Channel Attacks on Memory [0.210674772139335]
メモリに対するサイドチャネル攻撃(SCAM)は、メモリサブシステムから意図しないデータ漏洩を利用して機密情報を推測する。
本研究の目的は、SCAMを検証し、様々な攻撃手法を分類し、既存の防御機構を評価することである。
論文 参考訳（メタデータ） (2025-05-08T02:16:08Z) - CToMP: A Cycle-task-oriented Memory Protection Scheme for Unmanned Systems [12.99735259288243]
メモリ破損攻撃(MCA)は、機密データや摂動の漏洩を進行中のプロセスにもたらす。
無人システムのMCAは特に防御が難しい。
MCAは、無人システムにおいて多様な予測不可能な攻撃インタフェースを持つ。
論文 参考訳（メタデータ） (2023-09-12T06:06:59Z) - Adversarial EXEmples: A Survey and Experimental Evaluation of Practical
Attacks on Machine Learning for Windows Malware Detection [67.53296659361598]
EXEmplesは、比較的少ない入力バイトを摂動することで、機械学習に基づく検出をバイパスすることができる。
我々は、機械学習モデルに対する過去の攻撃を包含し、一般化するだけでなく、3つの新たな攻撃を含む統一フレームワークを開発する。
これらの攻撃はFull DOS、Extended、Shiftと呼ばれ、DOSヘッダをそれぞれ操作し、拡張し、第1セクションの内容を変更することで、敵のペイロードを注入する。
論文 参考訳（メタデータ） (2020-08-17T07:16:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。