Fugu-MT 論文翻訳(概要): GraphRAG under Fire

論文の概要: GraphRAG under Fire

arxiv url: http://arxiv.org/abs/2501.14050v2
Date: Thu, 24 Apr 2025 02:38:09 GMT
ステータス: 翻訳完了
システム内更新日: 2025-04-26 01:33:38.475684
Title: GraphRAG under Fire
Title（参考訳）: GraphRAGの火災
Authors: Jiacheng Liang, Yuhui Wang, Changjiang Li, Rongyi Zhu, Tanqiu Jiang, Neil Gong, Ting Wang,
Abstract要約: この研究は、GraphRAGの攻撃に対する脆弱性を調べ、興味深いセキュリティパラドックスを明らかにする。従来のRAGと比較して、GraphRAGのグラフベースのインデックスと検索は、単純な中毒攻撃に対するレジリエンスを高める。 GRAGPoisonは、基礎となる知識グラフの共有関係を利用して有毒テキストを作成する新しい攻撃である。
参考スコア（独自算出の注目度）: 13.69098945498758
License: http://creativecommons.org/licenses/by/4.0/
Abstract: GraphRAG advances retrieval-augmented generation (RAG) by structuring external knowledge as multi-scale knowledge graphs, enabling language models to integrate both broad context and granular details in their generation. While GraphRAG has demonstrated success across domains, its security implications remain largely unexplored. To bridge this gap, this work examines GraphRAG's vulnerability to poisoning attacks, uncovering an intriguing security paradox: compared to conventional RAG, GraphRAG's graph-based indexing and retrieval enhance resilience against simple poisoning attacks; yet, the same features also create new attack surfaces. We present GRAGPoison, a novel attack that exploits shared relations in the underlying knowledge graph to craft poisoning text capable of compromising multiple queries simultaneously. GRAGPoison employs three key strategies: i) relation injection to introduce false knowledge, ii) relation enhancement to amplify poisoning influence, and iii) narrative generation to embed malicious content within coherent text. Empirical evaluation across diverse datasets and models shows that GRAGPoison substantially outperforms existing attacks in terms of effectiveness (up to 98\% success rate) and scalability (using less than 68\% poisoning text) on various GraphRAG-based systems. We also explore potential defensive measures and their limitations, identifying promising directions for future research.
Abstract（参考訳）: GraphRAGは、外部知識をマルチスケールの知識グラフとして構造化することにより、検索強化世代(RAG)を進化させ、言語モデルがその生成に広範囲のコンテキストと詳細を統合できるようにする。 GraphRAGはドメイン間で成功したことを証明しているが、そのセキュリティへの影響はほとんど調査されていない。このギャップを埋めるために、この研究はGraphRAGの脆弱性を調べ、興味深いセキュリティパラドックスを明らかにする:従来のRAGと比較して、GraphRAGのグラフベースのインデックスと検索は単純な中毒攻撃に対するレジリエンスを高める。 GRAGPoisonは,複数のクエリを同時に処理可能な有毒テキストを作成するために,基礎となる知識グラフの共有関係を利用する新たな攻撃である。 GRAGPoisonは3つの重要な戦略を採用している。一虚偽の知識を導入するための関係注入二毒の効力を高めるための関係強化、及び三悪意のあるコンテンツをコヒーレントテキストに埋め込む物語生成さまざまなデータセットやモデルに対する実証的な評価によると、GRAGPoisonは、さまざまなGraphRAGベースのシステムにおいて、有効性(最大98.%の成功率)とスケーラビリティ(68.%の有毒テキストを使用する)において、既存の攻撃を著しく上回っている。また、今後の研究に期待できる方向性を定めながら、潜在的な防衛措置とその制限についても検討する。

関連論文リスト

Cluster-Aware Attacks on Graph Watermarks [50.19105800063768]
本稿では,コミュニティ誘導型修正を回避できるクラスタ・アウェア・脅威モデルを提案する。その結果,クラスタ・アウェア・アタックは,ランダムなベースラインよりも最大80%の精度でアトリビューション精度を低下させることができることがわかった。グラフコミュニティにまたがる透かしノードを分散する軽量な埋め込み拡張を提案する。
論文参考訳（メタデータ） (2025-04-24T22:49:28Z)
Graph Defense Diffusion Model [26.41730982598055]
グラフニューラルネットワーク(GNN)は、敵攻撃に対して非常に脆弱であり、パフォーマンスを著しく低下させる可能性がある。既存のグラフ浄化法は、攻撃されたグラフをフィルタリングすることでこの問題に対処しようとする。グラフに対する敵攻撃を防御するための,より汎用的なアプローチを提案する。
論文参考訳（メタデータ） (2025-01-20T16:18:40Z)
Retrieval-Augmented Generation with Graphs (GraphRAG) [84.29507404866257]
Retrieval-augmented Generation (RAG) は、追加情報を取得することによって下流タスクの実行を向上させる強力な技術である。グラフは、その固有の「エッジで接続されたノード」の性質により、巨大な異種情報と関係情報を符号化する。従来のRAGとは異なり、多種多様な形式とドメイン固有の関係知識のようなグラフ構造化データのユニークさは、異なるドメインでGraphRAGを設計する際、ユニークで重要な課題を生じさせる。
論文参考訳（メタデータ） (2024-12-31T06:59:35Z)
Attacks on Node Attributes in Graph Neural Networks [32.40598187698689]
本研究では,特徴に基づく敵対攻撃の適用を通じて,グラフモデルの脆弱性について検討する。以上の結果から,GAD(Projected Gradient Descent)を用いた決定時間攻撃は,平均ノード埋め込みとグラフコントラスト学習戦略を用いた中毒攻撃に比べ,より強力であることが示唆された。
論文参考訳（メタデータ） (2024-02-19T17:52:29Z)
Self-Guided Robust Graph Structure Refinement [37.235898707554284]
本稿では,GNNを敵攻撃から守るための自己誘導グラフ構造改善(GSR)フレームワークを提案する。本稿では,非標的攻撃,標的攻撃,機能攻撃,eコマース詐欺,ノイズの多いノードラベルなど,様々なシナリオにおけるSG-GSRの有効性を実証する。
論文参考訳（メタデータ） (2024-02-19T05:00:07Z)
HGAttack: Transferable Heterogeneous Graph Adversarial Attack [63.35560741500611]
ヘテロジニアスグラフニューラルネットワーク(HGNN)は、Webやeコマースなどの分野でのパフォーマンスでますます認識されている。本稿ではヘテロジニアスグラフに対する最初の専用グレーボックス回避手法であるHGAttackを紹介する。
論文参考訳（メタデータ） (2024-01-18T12:47:13Z)
On the Adversarial Robustness of Graph Contrastive Learning Methods [9.675856264585278]
本稿では,グラフコントラスト学習(GCL)モデルのロバスト性を評価するために,包括的評価ロバストネスプロトコルを提案する。我々はこれらのモデルを,グラフ構造をターゲットとした適応的敵攻撃,特に回避シナリオに適用する。本研究は,GCL手法の堅牢性に関する知見を提供することを目標とし,今後の研究方向の道を開くことを期待する。
論文参考訳（メタデータ） (2023-11-29T17:59:18Z)
GraphCloak: Safeguarding Task-specific Knowledge within Graph-structured Data from Unauthorized Exploitation [61.80017550099027]
グラフニューラルネットワーク(GNN)は、さまざまな分野でますます普及している。個人データの不正利用に関する懸念が高まっている。近年の研究では、このような誤用から画像データを保護する効果的な方法として、知覚不能な毒殺攻撃が報告されている。本稿では,グラフデータの不正使用に対する保護のためにGraphCloakを導入する。
論文参考訳（メタデータ） (2023-10-11T00:50:55Z)
Everything Perturbed All at Once: Enabling Differentiable Graph Attacks [61.61327182050706]
グラフニューラルネットワーク(GNN)は敵の攻撃に弱いことが示されている。本稿では,DGA(Dariable Graph Attack)と呼ばれる新しい攻撃手法を提案し,効果的な攻撃を効率的に生成する。最先端と比較して、DGAは6倍のトレーニング時間と11倍のGPUメモリフットプリントでほぼ同等の攻撃性能を達成する。
論文参考訳（メタデータ） (2023-08-29T20:14:42Z)
Resisting Graph Adversarial Attack via Cooperative Homophilous Augmentation [60.50994154879244]
最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
論文参考訳（メタデータ） (2022-11-15T11:44:31Z)
GraphAttacker: A General Multi-Task GraphAttack Framework [4.218118583619758]
グラフニューラルネットワーク(GNN)は多くの実世界のアプリケーションでグラフ解析タスクにうまく活用されている。攻撃者が生成した敵のサンプルはほとんど知覚不能な摂動で優れた攻撃性能を達成しました本稿では,グラフ解析タスクに応じて構造と攻撃戦略を柔軟に調整可能な,新しい汎用グラフ攻撃フレームワークであるgraphattackerを提案する。
論文参考訳（メタデータ） (2021-01-18T03:06:41Z)
Reinforcement Learning-based Black-Box Evasion Attacks to Link Prediction in Dynamic Graphs [87.5882042724041]
動的グラフ(LPDG)におけるリンク予測は、多様な応用を持つ重要な研究課題である。我々は,LPDG法の脆弱性を調査し,最初の実用的なブラックボックス回避攻撃を提案する。
論文参考訳（メタデータ） (2020-09-01T01:04:49Z)
Graph Backdoor [53.70971502299977]
GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
論文参考訳（メタデータ） (2020-06-21T19:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。