論文の概要: A Security Meta-Model for Retrieval-Augmented Generation Systems
- arxiv url: http://arxiv.org/abs/2610.11893v1
- Date: Thu, 08 Oct 2026 13:03:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:54.034818
- Title: A Security Meta-Model for Retrieval-Augmented Generation Systems
- Title（参考訳）: 検索型生成システムのためのセキュリティメタモデル
- Abstract要約: 我々は、RAG表面、攻撃、弱点、リスク、CIA影響の間の因果関係をキャプチャするセキュリティメタモデルを導入する。
その目的は、RAGデプロイメントに関連するリスク、弱点、緩和を収集、評価するための構造化されたユーザフレンドリなフレームワークをセキュリティエンジニアに提供することである。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Retrieval-Augmented Generation (RAG) systems extend large language models (LLMs) with external knowledge through a multi-stage pipeline. While this architecture can improve the factual grounding of generated answers, it introduces structural attack surfaces that extend beyond those of standalone LLMs. In this paper, we introduce a security meta-model that captures explicit causal relationships between RAG surfaces, attacks, weaknesses, risks, and CIA impact (Confidentiality, Integrity, Availability). Its purpose is to provide security engineers with a structured and user-friendly framework for gathering and assessing the risks, weaknesses, and mitigations relevant to their RAG deployment. We designed the meta-model through an iterative, structured analysis of 43~publications (2023--2026) and instantiated it as a catalog populated with the security threats and remediations reported in the literature. Filtering the catalog according to a deployment configuration produces a risk profile containing the risks applicable to that deployment. An interactive web visualizer lets users navigate the catalog as a graph, follow causal chains, and explore stakeholder-specific views. Analysis of the catalog revealed a persistent imbalance between attack-focused and defense-focused research, a concentration of threats at ingestion, and coverage gaps affecting output integrity. Coverage is assessed against the OWASP LLM Top~10, and operational applicability is illustrated across textual, graph-based, and multimodal RAG configurations.
- Abstract（参考訳）: Retrieval-Augmented Generation (RAG) システムは、大規模言語モデル(LLM)を多段階パイプラインを通じて外部知識で拡張する。
このアーキテクチャは、生成した回答の現実的なグラウンド化を改善することができるが、スタンドアロンのLCMを超える構造的なアタックサーフェスを導入している。
本稿では,RAG表面,攻撃,弱点,リスク,CIA影響(信頼性,統合性,可用性)の明確な因果関係を捉えるセキュリティメタモデルを提案する。
その目的は、RAGデプロイメントに関連するリスク、弱点、緩和を収集、評価するための構造化されたユーザフレンドリなフレームワークをセキュリティエンジニアに提供することである。
メタモデルの設計には,43~公開(2023～2026)の反復的構造解析を応用し,文献に報告されているセキュリティ脅威と修復を兼ね備えたカタログとしてインスタンス化した。
デプロイメント設定に従ってカタログをフィルタリングすると、そのデプロイメントに適用可能なリスクを含むリスクプロファイルが生成される。
インタラクティブなWebビジュアライザは、ユーザがカタログをグラフとしてナビゲートし、因果連鎖をフォローし、ステークホルダー固有のビューを探索する。
カタログの分析では、攻撃に焦点を当てた研究と防衛に焦点を当てた研究、摂取時の脅威の集中、および出力整合性に影響を与えるカバレッジギャップの持続的不均衡が明らかにされた。
CoverageはOWASP LLM Top~10に対して評価され、運用適用性はテキスト、グラフベース、マルチモーダルRAG構成で示される。
関連論文リスト
- From Requirements to Attack Trees: Grounded LLM Agents for Design-Time Security Review [0.2155083987188202]
設計レベルのセキュリティの弱点は、要求、信頼の前提、コントロールの欠如、実装開始前のデータフローから生じます。
本稿では,製品要件文書やアーキテクチャ図から設計時セキュリティ分析を行うマルチエージェントLLMフレームワークを提案する。
論文 参考訳（メタデータ） (2026-10-02T03:52:31Z) - Large Language Models in Misinformation Ecosystems: Misuse, Defense, and Vulnerability [65.56750741053266]
大規模言語モデル(LLM)は、誤情報をコンテンツ中心の問題からより広範なエコシステムレベルのセキュリティ課題に転換した。
本稿では,これらのリスクと防御を統一する役割層フレームワークを提案する。
この役割はLLMを攻撃者、ディフェンダー、検証システムの脆弱なコンポーネントとして特徴づけ、層次元はコンテンツ、社会的コンテキスト、エビデンス環境、検証をカバーしている。
論文 参考訳（メタデータ） (2026-07-11T17:04:17Z) - Security and Privacy in Retrieval-Augmented Generation: Architectures, Threats, Defenses, and Future Directions for Building Trustworthy Systems [13.704144025810345]
Retrieval-Augmented Generation (RAG) は、大規模言語モデルを外部知識で拡張するための支配的なパラダイムとして登場した。
この調査は、集中型、オンデバイス(Micro-RAG)、フェデレーション、ハイブリッドパラダイムにデプロイされたRAGシステムにわたる、プライバシーとセキュリティ上の課題に関する包括的な調査を提供する。
論文 参考訳（メタデータ） (2026-06-24T08:08:10Z) - Emergent Strategic Reasoning Risks in AI: A Taxonomy-Driven Evaluation Framework [63.74295981594549]
大規模言語モデル(LLM)は、自身の目的を達成する行動に関与している。
これには、詐欺(故意に誤解を招くユーザや評価者)、評価ゲーム(安全テスト中のパフォーマンスを戦略的に操作する)、報酬ハッキングなどが含まれる。
自動行動リスク評価のための分類駆動型エージェントフレームワークであるESRRSimを紹介する。
論文 参考訳（メタデータ） (2026-04-23T23:44:01Z) - Towards Secure Retrieval-Augmented Generation: A Comprehensive Review of Threats, Defenses and Benchmarks [21.880338678029503]
Retrieval-Augmented Generation (RAG)は、大規模言語モデルにおける幻覚とドメイン知識の欠如を、外部知識ベースを組み込むことによって著しく軽減する。
本稿では、その基盤となる脆弱性メカニズムを分析し、データ中毒、敵攻撃、メンバシップ推論攻撃などのコア脅威ベクトルを体系的に分類する。
潜在的なリスクについて深い洞察を得ることにより、この研究は、高度に堅牢で信頼性の高い次世代RAGシステムの開発を促進することを目指している。
論文 参考訳（メタデータ） (2026-03-23T07:32:59Z) - Where Do LLM-based Systems Break? A System-Level Security Framework for Risk Assessment and Treatment [0.5801044612920815]
大規模言語モデル(LLM)は、安全クリティカルシステムにますます統合されている。
本研究は,LLMシステムのための目標駆動型リスクアセスメントフレームワークを紹介する。
医療ケーススタディを通じてその枠組みを実証する。
論文 参考訳（メタデータ） (2026-03-08T04:30:27Z) - Just Ask: Curious Code Agents Reveal System Prompts in Frontier LLMs [65.6660735371212]
textbftextscJustAskは,インタラクションのみで効果的な抽出戦略を自律的に発見するフレームワークである。
これは、アッパー信頼境界に基づく戦略選択と、原子プローブと高レベルのオーケストレーションにまたがる階層的なスキル空間を用いて、オンライン探索問題として抽出を定式化する。
この結果から,現代のエージェントシステムにおいて,システムプロンプトは致命的ではあるがほぼ無防備な攻撃面であることがわかった。
論文 参考訳（メタデータ） (2026-01-29T03:53:25Z) - RAG Security and Privacy: Formalizing the Threat Model and Attack Surface [4.823988025629304]
Retrieval-Augmented Generation (RAG) は、大規模言語モデル(LLM)と外部文書検索を組み合わせて、より正確で基礎的な応答を生成する自然言語処理における新興のアプローチである。
既存の研究では、RAGがトレーニングデータ記憶や敵対的プロンプトを通じて機密情報を漏洩し、RAGシステムがこれらの脆弱性の多くを継承していることが示されている。
これらのリスクにもかかわらず、現在、RAGシステムの脅威状況を定義する公式なフレームワークは存在しない。
論文 参考訳（メタデータ） (2025-09-24T17:11:35Z) - A Survey on Model Extraction Attacks and Defenses for Large Language Models [55.60375624503877]
モデル抽出攻撃は、デプロイされた言語モデルに重大なセキュリティ脅威をもたらす。
この調査は、抽出攻撃と防御攻撃の包括的分類、機能抽出への攻撃の分類、データ抽出の訓練、およびプロンプトターゲット攻撃を提供する。
モデル保護,データプライバシ保護,迅速なターゲット戦略に編成された防御機構について検討し,その効果を異なる展開シナリオで評価する。
論文 参考訳（メタデータ） (2025-06-26T22:02:01Z) - Towards More Robust Retrieval-Augmented Generation: Evaluating RAG Under Adversarial Poisoning Attacks [45.07581174558107]
Retrieval-Augmented Generation (RAG) システムは幻覚を緩和するための有望な解決策として登場した。
RAGシステムは、検索コーパスに注入された悪意のある通路が、モデルに誤った結果をもたらす可能性がある、敵の毒殺攻撃に対して脆弱である。
本稿では、RAGシステムがこのような攻撃下でどのように振る舞うか、その堅牢性がどのように改善されるかについて、厳密に制御された実証研究を示す。
論文 参考訳（メタデータ） (2024-12-21T17:31:52Z) - "Glue pizza and eat rocks" -- Exploiting Vulnerabilities in Retrieval-Augmented Generative Models [74.05368440735468]
Retrieval-Augmented Generative (RAG)モデルにより大規模言語モデル(LLM)が強化される
本稿では,これらの知識基盤の開放性を敵が活用できるセキュリティ上の脅威を示す。
論文 参考訳（メタデータ） (2024-06-26T05:36:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。