論文の概要: MAFIA: Query-Only Memory Attacks via Probing and Factual Injection against Audited LLM Agents
- arxiv url: http://arxiv.org/abs/2608.03844v1
- Date: Tue, 04 Aug 2026 15:50:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:23.270853
- Title: MAFIA: Query-Only Memory Attacks via Probing and Factual Injection against Audited LLM Agents
- Title（参考訳）: MAFIA: Audited LLMエージェントに対するプロビイングとファクトインジェクションによるクエリオンリーメモリアタック
- Abstract要約: MAFIAはクエリのみのメモリアタックフレームワークである。
MAFIAは最大90.7%の攻撃成功率を達成し、83.3%のピークから7.4%のピークまでの監査検出を抑える。
- 参考スコア（独自算出の注目度）: 17.12311922030347
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Memory-augmented LLM agents rely on rich context for long-horizon reasoning and acting, yet their memory modules expose a persistent attack surface for malicious records, making the study of memory poisoning threats imperative. However, existing query-only attacks often fail to remain effective in two realistic and prevalent settings: large-scale benign memory pools and active input auditing. Consequently, current approaches fall short when facing the dual challenges of high retrieval competitiveness and rigorous semantic checks. To overcome these limitations, we propose MAFIA, a query-only Memory Attack framework via probing and Factual Injection against Audit, tailored to this extended threat model. Specifically, MAFIA introduces: (1) a placement strategy that ensures retrieval-competitive injection via memory probing, budget allocation, and scheduling; and (2) a payload design that bypasses audits using compact factual cloaks, preserving malicious effects while maintaining high semantic similarity. Extensive evaluations reveal that MAFIA achieves up to a 90.7% attack success rate while suppressing audit detection from a peak of 83.3% to at most 7.4%, exposing critical vulnerabilities across agentic memory systems. Code will be made publicly available at https://github.com/JiamingChen1234/MAFIA.
- Abstract（参考訳）: メモリ拡張LDMエージェントは、長期の推論と行動にリッチなコンテキストに依存しているが、そのメモリモジュールは悪意のあるレコードに対して永続的な攻撃面を公開するため、メモリ中毒の脅威の研究は必須である。
しかし、既存のクエリオンリーの攻撃は、大規模な良性メモリプールとアクティブな入力監査という、2つの現実的で一般的な設定で有効に保たないことが多い。
その結果、検索競争力と厳密なセマンティックチェックという2つの課題に直面している場合、現在のアプローチは不十分である。
これらの制限を克服するために、我々は、この拡張脅威モデルに合わせて、探索と監査に対するFactual InjectionによるクエリのみのメモリアタックフレームワークであるMAFIAを提案する。
具体的には,(1)メモリ探索,予算割当,スケジューリングによる検索競合注入を保証する配置戦略,(2)コンパクトなファクト・クロークを用いた監査を回避し,意味的類似性を保ちながら悪意のある効果を保ったペイロード設計を導入する。
大規模な評価では、MAFIAは最大90.7%の攻撃成功率を達成し、83.3%のピークから7.4%までの監査検出を抑え、エージェントメモリシステム全体の重大な脆弱性を露呈している。
コードはhttps://github.com/JiamingChen1234/MAFIA.comで公開される。
関連論文リスト
- Detecting Contaminated Code-Generation Prompt Batches via Influence Functions [4.185678330063222]
大規模言語モデル(LLM)は、コード生成にますます使われているが、安全でない実装を誘発するプロンプトに弱いままである。
本稿では、影響関数を利用して異常モデル動作を誘発するプロンプトのバッチを識別する脅威モデル非依存検出手法であるCodeSIFTを提案する。
論文 参考訳（メタデータ） (2026-08-14T13:37:53Z) - Understanding and Mitigating Prompt Leaking Attacks in Real-World LLM-Based Applications [57.33208520608409]
本稿では,大規模言語モデル(LLM)に基づくアプリケーションにおいて,プロンプトリークのシステマティックスタディを提案する。
デプロイの80%以上は、現実的な逆クエリの下で、システムにリークする。
我々は、最適化可能なソフトプロンプトを用いてモデルの注意を喚起する実用的な防御であるARAを提案する。
論文 参考訳（メタデータ） (2026-06-17T04:20:00Z) - MemVenom: Triggered Poisoning of Multimodal Memories in Web Agents [74.64265314956441]
そこで我々は,グラフ構造化外部メモリにテキスト画像のコーディネートを施したブラックボックス攻撃フレームワークを提案する。
MemVenomは、GPT-5ファミリーのWebエージェントで最大99.15%に達する、良質なパフォーマンスに最小限の影響を伴って、強力なエンドツーエンド攻撃を成功させる。
論文 参考訳（メタデータ） (2026-06-09T11:53:25Z) - MemAudit: Post-hoc Auditing of Poisoned Agent Memory via Causal Attribution and Structural Anomaly Detection [15.403262505444454]
本稿では,大規模言語モデルエージェントのための時間後因果記憶監査フレームワークを提案する。
MemAuditは、現実的なポストホック監査シナリオ下での攻撃成功率を大幅に削減する。
論文 参考訳（メタデータ） (2026-05-22T15:03:13Z) - TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。
我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。
我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
論文 参考訳（メタデータ） (2026-04-30T13:44:01Z) - ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models [60.14219417402433]
LLMエージェントの既存のメモリベンチマークは、事実の明示的なリコールを評価するが、意識的な検索なしに、経験が自動的な振る舞いになる暗黙の記憶を見落としている。
IndicitMemBenchは、非宣言的メモリの標準的な認知科学のアカウントから引き出された3つの構造を通して暗黙的メモリを評価する最初の体系的なベンチマークである。
当社の300イテムスイートでは,初動採点を備えたLearning/Priming-Interfere-Testプロトコルを統一しています。
論文 参考訳（メタデータ） (2026-04-09T10:26:32Z) - MemoPhishAgent: Memory-Augmented Multi-Modal LLM Agent for Phishing URL Detection [15.810091292280584]
MemoPhishAgent (MPA) は、フィッシング固有のツールをオーケストレーションするメモリ拡張マルチモーダルLLMエージェントである。
MPAは3つの最先端(SOTA)ベースラインを上回り、リコール率を13.6%向上させた。
MPAは本番環境にデプロイされ、60KのハイリスクURLを毎週処理し、91.44%のリコールを達成する。
論文 参考訳（メタデータ） (2026-02-24T21:50:46Z) - TrapSuffix: Proactive Defense Against Adversarial Suffixes in Jailbreaking [52.72486831074384]
サフィックスベースのジェイルブレイク攻撃は、敵のサフィックス、すなわち短いトークンシーケンスを付加し、LLMを安全でない出力にステアリングする。
提案するTrapSuffixは,推論パイプラインを変更することなく,トラップアラインな動作をベースモデルに注入する,軽量な微調整手法である。
様々なサフィックスベースのジェイルブレイク設定で、TrapSuffixは平均攻撃成功率を0.01%以下に下げ、平均追跡成功率87.9%を達成する。
論文 参考訳（メタデータ） (2026-02-06T11:43:56Z) - Memory Poisoning Attack and Defense on Memory Based LLM-Agents [3.7127635602605014]
永続メモリを備えた大規模言語モデルエージェントは、メモリ中毒攻撃に対して脆弱である。
近年の研究では、MINJA (Memory Injection Attack) が95%以上のインジェクション成功率を達成した。
本研究は,記憶障害攻撃と防御の系統的評価を通じてギャップに対処する。
論文 参考訳（メタデータ） (2026-01-09T03:26:10Z) - A-MemGuard: A Proactive Defense Framework for LLM-Based Agent Memory [31.673865459672285]
大規模言語モデル(LLM)エージェントは、過去のインタラクションから学習するためにメモリを使用する。
敵は、エージェントのメモリに一見無害なレコードを注入して、その将来の振る舞いを操作できる。
A-MemGuard は LLM エージェントメモリのための最初のプロアクティブな防御フレームワークである。
論文 参考訳（メタデータ） (2025-09-29T16:04:15Z) - Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
完全無害データを用いた新しい毒殺法を提案する。
自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。
LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
論文 参考訳（メタデータ） (2025-05-23T08:13:59Z) - AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。
我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。
また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
論文 参考訳（メタデータ） (2024-08-04T09:53:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。