論文の概要: Adaptive Defense Orchestration for RAG: A Sentinel-Strategist Architecture against Multi-Vector Attacks

• arxiv url: http://arxiv.org/abs/2604.20932v1
• Date: Wed, 22 Apr 2026 11:17:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-24 14:40:06.102239
• Title: Adaptive Defense Orchestration for RAG: A Sentinel-Strategist Architecture against Multi-Vector Attacks
• Title（参考訳）: RAGのための適応防衛オーケストレーション:マルチベクトル攻撃に対するセンチネル・ストラテジストアーキテクチャ
• Authors: Pranav Pallerla, Wilson Naik Bhukya, Bharath Vemula, Charan Ramtej Kodi,
• Abstract要約: 検索強化世代システムは、医療や法律などの機密性の高い領域にますます展開されている。 この機能は、メンバシップ推論、データ中毒、意図しないコンテンツのリークなど、重大なセキュリティリスクをもたらす。 本稿では,リスク分析と防衛選択のためのコンテキスト認識フレームワークであるSentinel-Strategistアーキテクチャを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Retrieval-augmented generation (RAG) systems are increasingly deployed in sensitive domains such as healthcare and law, where they rely on private, domain-specific knowledge. This capability introduces significant security risks, including membership inference, data poisoning, and unintended content leakage. A straightforward mitigation is to enable all relevant defenses simultaneously, but doing so incurs a substantial utility cost. In our experiments, an always-on defense stack reduces contextual recall by more than 40%, indicating that retrieval degradation is the primary failure mode. To mitigate this trade-off in RAG systems, we propose the Sentinel-Strategist architecture, a context-aware framework for risk analysis and defense selection. A Sentinel detects anomalous retrieval behavior, after which a Strategist selectively deploys only the defenses warranted by the query context. Evaluated across three benchmark datasets and five orchestration models, ADO is shown to eliminate MBA-style membership inference leakage while substantially recovering retrieval utility relative to a fully static defense stack, approaching undefended baseline levels. Under data poisoning, the strongest ADO variants reduce attack success to near zero while restoring contextual recall to more than 75% of the undefended baseline, although robustness remains sensitive to model choice. Overall, these findings show that adaptive, query-aware defense can substantially reduce the security-utility trade-off in RAG systems.
• Abstract（参考訳）: Retrieval-augmented Generation (RAG) システムは、医療や法律などの機密性の高いドメインに展開され、プライベートなドメイン固有の知識に依存している。 この機能は、メンバシップ推論、データ中毒、意図しないコンテンツのリークなど、重大なセキュリティリスクをもたらす。 直接的な緩和は、すべての関連する防衛を同時に行うことであるが、それを行うとかなりの費用がかかる。 我々の実験では、常時オンのディフェンススタックがコンテキストリコールを40%以上削減し、検索の劣化が主要な障害モードであることを示す。 RAGシステムにおけるこのトレードオフを軽減するために,リスク分析と防御選択のためのコンテキスト認識フレームワークであるSentinel-Strategistアーキテクチャを提案する。 Sentinelは異常な検索動作を検出し、その後、ストラテジストはクエリコンテキストによって保証される防御のみを選択的にデプロイする。 3つのベンチマークデータセットと5つのオーケストレーションモデルで評価され、ADOはMBAスタイルのメンバシップ推論リークを排除し、完全に静的なディフェンススタックに対する検索ユーティリティを実質的に回復し、未定義のベースラインレベルに近づいた。 データ中毒下では、最強のADOは攻撃の成功をほぼゼロに減らし、文脈的リコールは防御されていないベースラインの75%以上に回復するが、ロバスト性はモデル選択に敏感である。 これらの結果から,RAGシステムにおけるセキュリティ・ユーティリティのトレードオフを大幅に低減できる可能性が示唆された。

関連論文リスト

• Detecting RAG Extraction Attack via Dual-Path Runtime Integrity Game [23.794446184684755]
  Retrieval-Augmented Generation (RAG)システムは、外部知識で大規模な言語モデルを拡張するが、重要なセキュリティ脆弱性であるRAG Knowledge Base Leakageを導入する。 ソフトウェアセキュリティにおけるスタックカナリアにインスパイアされた,ランタイム防御機構であるCanaryRAGを提案する。 CanaryRAGは、慎重に設計されたカナリアトークンを検索したチャンクに埋め込んで、RAG抽出防御をデュアルパスランタイム整合性ゲームとして再構成する。
  論文  参考訳（メタデータ） (2026-04-12T16:28:09Z)
• Connect the Dots: Knowledge Graph-Guided Crawler Attack on Retrieval-Augmented Generation Systems [14.028345839891855]
  Retrieval-augmented Generation (RAG) システムは、文書検索と大きな言語モデルを統合する。 RAGは新たなプライバシーリスクを導入している: 敵は慎重に構築されたクエリを発行し、センシティブなコンテンツを徐々に流出させる。 RAGCRAWLERは,情報公開のための知識グラフを構築し,未検索領域を対象としたセマンティック空間でのクエリを計画する。
  論文  参考訳（メタデータ） (2026-01-22T05:59:42Z)
• ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
  本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
  論文  参考訳（メタデータ） (2026-01-15T08:23:38Z)
• RAGFort: Dual-Path Defense Against Proprietary Knowledge Base Extraction in Retrieval-Augmented Generation [49.12766233674338]
  Retrieval-Augmented Generationシステムでは、モデル応答を集約して知識ベースを複製するリコンストラクション攻撃の脅威が増大する。 本稿では,クラス間分離のための"コントラストリデクシング"とクラス内保護のための"制約付きカスケード生成"を組み合わせた構造対応デュアルモジュールディフェンスであるRAGFortを提案する。
  論文  参考訳（メタデータ） (2025-11-13T09:34:46Z)
• Rescuing the Unpoisoned: Efficient Defense against Knowledge Corruption Attacks on RAG Systems [11.812488957698038]
  大規模言語モデル(LLM)は私たちの日常生活の多くの側面を変え、Webベースのサービスとして広く採用されています。 検索・拡張生成(RAG)は,外部知識ソースに根ざした応答を生成することによって,将来性のある方向として登場した。 近年の研究では、誤情報注入による知識腐敗攻撃など、RAGの脆弱性が実証されている。 本稿では,知識汚職に対する資源効率のよい防御機構であるRAGDefenderを紹介する。
  論文  参考訳（メタデータ） (2025-11-03T06:39:58Z)
• Disabling Self-Correction in Retrieval-Augmented Generation via Stealthy Retriever Poisoning [14.419943772894754]
  Retrieval-Augmented Generation (RAG)は,大規模言語モデル(LLM)の信頼性向上のための標準アプローチとなっている。 本稿では,現代のLSMの強力なテクスト自己補正能力(SCA)によって,このような攻撃を軽減できることを明らかにする。 我々は,新しい中毒パラダイムであるtextscDisarmRAG を導入し,レトリバー自体を妥協してSCAを抑止し,アタッカー・チョーゼン出力を強制する。
  論文  参考訳（メタデータ） (2025-08-27T17:49:28Z)
• Benchmarking Misuse Mitigation Against Covert Adversaries [80.74502950627736]
  既存の言語モデルの安全性評価は、オーバースト攻撃と低レベルのタスクに重点を置いている。 我々は、隠蔽攻撃と対応する防御の評価を自動化するデータ生成パイプラインである、ステートフルディフェンスのためのベンチマーク(BSD)を開発した。 評価の結果,分解攻撃は有効な誤用防止剤であり,その対策としてステートフルディフェンスを強調した。
  論文  参考訳（メタデータ） (2025-06-06T17:33:33Z)
• The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems [101.68501850486179]
  本稿では,RAGシステムに対する敵攻撃について検討し,その脆弱性を同定する。 このタスクは、ターゲット文書を検索する非知覚的な摂動を見つけることを目的としており、もともとはトップ$k$の候補セットから除外されていた。 本稿では、攻撃者とターゲットRAG間の相互作用を追跡する強化学習ベースのフレームワークであるReGENTを提案する。
  論文  参考訳（メタデータ） (2025-05-24T08:19:25Z)
• Benchmarking Poisoning Attacks against Retrieval-Augmented Generation [12.573766276297441]
  Retrieval-Augmented Generation (RAG) は、推論中に外部知識を取り入れることで、大規模言語モデルにおける幻覚の緩和に有効であることが証明されている。 我々は、RAGに対する中毒攻撃を評価するための、最初の包括的なベンチマークフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-05-24T06:17:59Z)
• On Trace of PGD-Like Adversarial Attacks [77.75152218980605]
  敵対的攻撃は、ディープラーニングアプリケーションに対する安全性とセキュリティ上の懸念を引き起こす。 モデルの勾配一貫性を反映した適応応答特性(ARC)特性を構築する。 私たちの方法は直感的で、軽量で、非侵襲的で、データ不要です。
  論文  参考訳（メタデータ） (2022-05-19T14:26:50Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。