Fugu-MT 論文翻訳(概要): GraphRAG under Fire

論文の概要: GraphRAG under Fire

arxiv url: http://arxiv.org/abs/2501.14050v1
Date: Thu, 23 Jan 2025 19:33:16 GMT
ステータス: 翻訳完了
システム内更新日: 2025-01-27 14:58:35.879886
Title: GraphRAG under Fire
Title（参考訳）: GraphRAGの火災
Authors: Jiacheng Liang, Yuhui Wang, Changjiang Li, Rongyi Zhu, Tanqiu Jiang, Neil Gong, Ting Wang,
Abstract要約: この研究は、GraphRAGの攻撃に対する脆弱性を調べ、興味深いセキュリティパラドックスを明らかにする。従来のRAGと比較して、GraphRAGのグラフベースのインデックスと検索は、単純な中毒攻撃に対するレジリエンスを高める。 GRAGPoisonは、知識グラフの共有関係を利用して有害テキストを作成する新しい攻撃である。
参考スコア（独自算出の注目度）: 13.69098945498758
License:
Abstract: GraphRAG advances retrieval-augmented generation (RAG) by structuring external knowledge as multi-scale knowledge graphs, enabling language models to integrate both broad context and granular details in their reasoning. While GraphRAG has demonstrated success across domains, its security implications remain largely unexplored. To bridge this gap, this work examines GraphRAG's vulnerability to poisoning attacks, uncovering an intriguing security paradox: compared to conventional RAG, GraphRAG's graph-based indexing and retrieval enhance resilience against simple poisoning attacks; meanwhile, the same features also create new attack surfaces. We present GRAGPoison, a novel attack that exploits shared relations in the knowledge graph to craft poisoning text capable of compromising multiple queries simultaneously. GRAGPoison employs three key strategies: i) relation injection to introduce false knowledge, ii) relation enhancement to amplify poisoning influence, and iii) narrative generation to embed malicious content within coherent text. Empirical evaluation across diverse datasets and models shows that GRAGPoison substantially outperforms existing attacks in terms of effectiveness (up to 98% success rate) and scalability (using less than 68% poisoning text). We also explore potential defensive measures and their limitations, identifying promising directions for future research.
Abstract（参考訳）: GraphRAGは、外部知識をマルチスケールの知識グラフとして構造化することにより、検索強化世代(RAG)を進化させ、言語モデルがその推論に広義のコンテキストと詳細の両方を統合することを可能にする。 GraphRAGはドメイン間で成功したことを証明しているが、そのセキュリティへの影響はほとんど調査されていない。このギャップを埋めるために、この研究はGraphRAGの脆弱性を調べ、興味深いセキュリティパラドックスを明らかにする:従来のRAGと比較して、GraphRAGのグラフベースのインデックスと検索は単純な中毒攻撃に対するレジリエンスを高める。 GRAGPoisonは知識グラフの共有関係を利用して複数のクエリを同時に生成できる有毒テキストを作成する新しい攻撃である。 GRAGPoisonは3つの重要な戦略を採用している。一虚偽の知識を導入するための関係注入二毒の効力を高めるための関係強化、及び三悪意のあるコンテンツをコヒーレントテキストに埋め込む物語生成さまざまなデータセットやモデルに対する実証的な評価によると、GRAGPoisonは、有効性(最大98%の成功率)とスケーラビリティ(68%未満の有毒テキスト)において、既存の攻撃を著しく上回っている。また、今後の研究に期待できる方向性を定めながら、潜在的な防衛措置とその制限についても検討する。

関連論文リスト

Intruding with Words: Towards Understanding Graph Injection Attacks at the Text Level [21.003091265006102]
グラフニューラルネットワーク(GNN)は、様々なアプリケーションにまたがるが、敵の攻撃に弱いままである。本稿では,テキストレベルでのグラフインジェクションアタック(GIA)の探索の先駆者となる。埋め込みレベルで見過ごされた要素であるテキストの解釈可能性(英語版)が、攻撃強度において重要な役割を担っていることを示す。
論文参考訳（メタデータ） (2024-05-26T02:12:02Z)
Attacks on Node Attributes in Graph Neural Networks [32.40598187698689]
本研究では,特徴に基づく敵対攻撃の適用を通じて,グラフモデルの脆弱性について検討する。以上の結果から,GAD(Projected Gradient Descent)を用いた決定時間攻撃は,平均ノード埋め込みとグラフコントラスト学習戦略を用いた中毒攻撃に比べ,より強力であることが示唆された。
論文参考訳（メタデータ） (2024-02-19T17:52:29Z)
HGAttack: Transferable Heterogeneous Graph Adversarial Attack [63.35560741500611]
ヘテロジニアスグラフニューラルネットワーク(HGNN)は、Webやeコマースなどの分野でのパフォーマンスでますます認識されている。本稿ではヘテロジニアスグラフに対する最初の専用グレーボックス回避手法であるHGAttackを紹介する。
論文参考訳（メタデータ） (2024-01-18T12:47:13Z)
On the Adversarial Robustness of Graph Contrastive Learning Methods [9.675856264585278]
本稿では,グラフコントラスト学習(GCL)モデルのロバスト性を評価するために,包括的評価ロバストネスプロトコルを提案する。我々はこれらのモデルを,グラフ構造をターゲットとした適応的敵攻撃,特に回避シナリオに適用する。本研究は,GCL手法の堅牢性に関する知見を提供することを目標とし,今後の研究方向の道を開くことを期待する。
論文参考訳（メタデータ） (2023-11-29T17:59:18Z)
GraphCloak: Safeguarding Task-specific Knowledge within Graph-structured Data from Unauthorized Exploitation [61.80017550099027]
グラフニューラルネットワーク(GNN)は、さまざまな分野でますます普及している。個人データの不正利用に関する懸念が高まっている。近年の研究では、このような誤用から画像データを保護する効果的な方法として、知覚不能な毒殺攻撃が報告されている。本稿では,グラフデータの不正使用に対する保護のためにGraphCloakを導入する。
論文参考訳（メタデータ） (2023-10-11T00:50:55Z)
Everything Perturbed All at Once: Enabling Differentiable Graph Attacks [61.61327182050706]
グラフニューラルネットワーク(GNN)は敵の攻撃に弱いことが示されている。本稿では,DGA(Dariable Graph Attack)と呼ばれる新しい攻撃手法を提案し,効果的な攻撃を効率的に生成する。最先端と比較して、DGAは6倍のトレーニング時間と11倍のGPUメモリフットプリントでほぼ同等の攻撃性能を達成する。
論文参考訳（メタデータ） (2023-08-29T20:14:42Z)
Resisting Graph Adversarial Attack via Cooperative Homophilous Augmentation [60.50994154879244]
最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
論文参考訳（メタデータ） (2022-11-15T11:44:31Z)
GraphAttacker: A General Multi-Task GraphAttack Framework [4.218118583619758]
グラフニューラルネットワーク(GNN)は多くの実世界のアプリケーションでグラフ解析タスクにうまく活用されている。攻撃者が生成した敵のサンプルはほとんど知覚不能な摂動で優れた攻撃性能を達成しました本稿では,グラフ解析タスクに応じて構造と攻撃戦略を柔軟に調整可能な,新しい汎用グラフ攻撃フレームワークであるgraphattackerを提案する。
論文参考訳（メタデータ） (2021-01-18T03:06:41Z)
Reinforcement Learning-based Black-Box Evasion Attacks to Link Prediction in Dynamic Graphs [87.5882042724041]
動的グラフ(LPDG)におけるリンク予測は、多様な応用を持つ重要な研究課題である。我々は,LPDG法の脆弱性を調査し,最初の実用的なブラックボックス回避攻撃を提案する。
論文参考訳（メタデータ） (2020-09-01T01:04:49Z)
Graph Backdoor [53.70971502299977]
GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
論文参考訳（メタデータ） (2020-06-21T19:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。