論文の概要: All Your Knowledge Belongs to Us: Stealing Knowledge Graphs via Reasoning APIs
- arxiv url: http://arxiv.org/abs/2503.09727v1
- Date: Wed, 12 Mar 2025 18:18:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-14 15:50:32.540087
- Title: All Your Knowledge Belongs to Us: Stealing Knowledge Graphs via Reasoning APIs
- Title（参考訳）: すべての知識 - 推論APIによる知識グラフのステアリング
- Authors: Zhaohan Xi,
- Abstract要約: 我々は,限られたクエリ予算の下で,機密性の高いサブKGを高い忠実度で抽出する攻撃であるKGXを提案する。
実験および実世界のKGR APIに対するKGXの有効性を検証する。
以上の結果から,KGRシステムの開発・展開において,より原則的なアプローチの必要性が示唆された。
- 参考スコア（独自算出の注目度）: 7.685940197285116
- License:
- Abstract: Knowledge graph reasoning (KGR), which answers complex, logical queries over large knowledge graphs (KGs), represents an important artificial intelligence task with a range of applications. Many KGs require extensive domain expertise and engineering effort to build and are hence considered proprietary within organizations and enterprises. Yet, spurred by their commercial and research potential, there is a growing trend to make KGR systems, (partially) built upon private KGs, publicly available through reasoning APIs. The inherent tension between maintaining the confidentiality of KGs while ensuring the accessibility to KGR systems motivates our study of KG extraction attacks: the adversary aims to "steal" the private segments of the backend KG, leveraging solely black-box access to the KGR API. Specifically, we present KGX, an attack that extracts confidential sub-KGs with high fidelity under limited query budgets. At a high level, KGX progressively and adaptively queries the KGR API and integrates the query responses to reconstruct the private sub-KG. This extraction remains viable even if any query responses related to the private sub-KG are filtered. We validate the efficacy of KGX against both experimental and real-world KGR APIs. Interestingly, we find that typical countermeasures (e.g., injecting noise into query responses) are often ineffective against KGX. Our findings suggest the need for a more principled approach to developing and deploying KGR systems, as well as devising new defenses against KG extraction attacks.
- Abstract（参考訳）: 知識グラフ推論(KGR)は、大規模知識グラフ(KG)上の複雑で論理的なクエリに答えるものであり、様々な応用において重要な人工知能タスクである。
多くのKGはドメインの専門知識とエンジニアリングの努力を必要とするため、組織や企業内ではプロプライエタリと見なされる。
しかし、商業的および研究的な可能性によって、KGRシステムを(部分的には)プライベートなKG上に構築し、推論APIを通じて公開する傾向が強まっている。
KGRシステムへのアクセシビリティを確保しながら、KGの機密性を維持することと、KGRシステムへのアクセシビリティを確保することの間の本質的にの緊張は、KGRの攻撃の研究を動機付けている。
具体的には、限られたクエリ予算の下で、機密性の高いサブKGを高い忠実度で抽出する攻撃であるKGXを提案する。
高いレベルでは、KGXは段階的にかつ適応的にKGR APIをクエリし、クエリ応答を統合してプライベートサブKGを再構築する。
この抽出は、プライベートサブKGに関連するクエリ応答がフィルタリングされた場合でも、引き続き有効である。
実験および実世界のKGR APIに対するKGXの有効性を検証する。
興味深いことに、一般的な対策(例えば、クエリ応答にノイズを注入するなど)はKGXに対して効果がないことが多い。
本研究は,KGRシステムの開発と展開に対するより原則的なアプローチの必要性と,KG抽出攻撃に対する新たな防御策の必要性を示唆するものである。
関連論文リスト
- Decoding on Graphs: Faithful and Sound Reasoning on Knowledge Graphs through Generation of Well-Formed Chains [66.55612528039894]
知識グラフ(KG)は質問応答(QA)のための信頼できる知識ソースとして機能する。
我々は、LLMとKGの深い相乗効果を促進する新しいフレームワークであるDoG(Decoding on Graphs)を提案する。
様々なKGQAタスクに対して異なるバックグラウンドKGを用いた実験により、DoGが優れた、堅牢なパフォーマンスを達成することを示す。
論文 参考訳（メタデータ） (2024-10-24T04:01:40Z) - Graph-constrained Reasoning: Faithful Reasoning on Knowledge Graphs with Large Language Models [83.28737898989694]
大規模言語モデル(LLM)は知識ギャップと幻覚のために忠実な推論に苦しむ。
グラフ制約推論(GCR)は、KGにおける構造的知識とLLMにおける非構造的推論を橋渡しする新しいフレームワークである。
GCRは最先端のパフォーマンスを達成し、追加のトレーニングをすることなく、見えないKGに対して強力なゼロショット一般化性を示す。
論文 参考訳（メタデータ） (2024-10-16T22:55:17Z) - SAC-KG: Exploiting Large Language Models as Skilled Automatic Constructors for Domain Knowledge Graphs [32.93944146681218]
本稿では,大規模言語モデル(LLM)をドメイン知識グラフのためのスキル自動コンストラクタとして活用するための汎用的なKG構築フレームワークであるSAC-KGを提案する。
SAC-KGは、専門的で正確なマルチレベルKGを生成するために、LLMをドメインエキスパートとして効果的に扱う。
実験により、SAC-KGは100万以上のノードで自動的にドメインKGを構築し、89.32%の精度を達成することが示された。
論文 参考訳（メタデータ） (2024-09-22T13:55:23Z) - Generate-on-Graph: Treat LLM as both Agent and KG in Incomplete Knowledge Graph Question Answering [87.67177556994525]
我々は、知識グラフ(KG)を探索しながら、新しい実写トリプルを生成する、Generate-on-Graph(GoG)と呼ばれる学習自由な手法を提案する。
GoGはIKGQAでLLMをエージェントとKGの両方として扱うThinking-Searching-Generatingフレームワークを通じて推論を行う。
論文 参考訳（メタデータ） (2024-04-23T04:47:22Z) - Retrieve-Rewrite-Answer: A KG-to-Text Enhanced LLMs Framework for
Knowledge Graph Question Answering [16.434098552925427]
本稿では,知識グラフ質問応答(KGQA)課題を解決するために,KG拡張言語モデルアプローチについて検討する。
そこで本研究では,KGの知識をテキスト化された文に変換する,応答に敏感なKG-to-Textアプローチを提案する。
論文 参考訳（メタデータ） (2023-09-20T10:42:08Z) - Construction and Applications of Billion-Scale Pre-Trained Multimodal
Business Knowledge Graph [64.42060648398743]
我々は、よく知られた企業であるAlibaba Groupから派生したオープンビジネス知識グラフ(OpenBG)を構築するプロセスを紹介する。
OpenBGは前例のない規模のオープンビジネスのKGで、260億の3倍体で、100万以上のコアクラス/コンセプトと2,681種類の関係をカバーしている。
論文 参考訳（メタデータ） (2022-09-30T04:03:26Z) - Reasoning over Multi-view Knowledge Graphs [59.99051368907095]
ROMAは、マルチビューKG上で論理クエリに応答する新しいフレームワークである。
大規模(数百万の事実など)のKGや粒度の細かいビューまでスケールする。
トレーニング中に観測されていない構造やKGビューのクエリを一般化する。
論文 参考訳（メタデータ） (2022-09-27T21:32:20Z) - Knowledge Graph Curation: A Practical Framework [0.0]
そこで本研究では,KGの品質向上のための知識グラフキュレーションフレームワークを提案する。
まず、KGsの状態を評価するための品質指標のセットを定義する。
次に, クリーニング作業としてKGの検証と検証を行う。
第3に,KGの濃縮のための重複検出と知識融合戦略を提案する。
論文 参考訳（メタデータ） (2022-08-17T07:55:28Z) - Collaborative Knowledge Graph Fusion by Exploiting the Open Corpus [59.20235923987045]
知識表現の質を維持しながら、新たに収穫した3倍の知識グラフを豊かにすることは困難である。
本稿では,付加コーパスから得られる情報を用いてKGを精製するシステムを提案する。
論文 参考訳（メタデータ） (2022-06-15T12:16:10Z) - Survey and Open Problems in Privacy Preserving Knowledge Graph: Merging,
Query, Representation, Completion and Applications [17.68925521011772]
知識グラフ(KG)は、さまざまなタイプのデータを意味のある方法で接続する能力に対して、ますます多くの企業が注目している。
しかし、データ分離問題はKGの性能を制限し、さらなる開発を妨げている。
プライバシー保護KGの実施方法が重要な研究課題となっている。
論文 参考訳（メタデータ） (2020-11-20T02:35:47Z) - IterefinE: Iterative KG Refinement Embeddings using Symbolic Knowledge [10.689559910656474]
テキストソースから抽出された知識グラフ(KG)は、しばしばノイズが多く、KGベースの質問応答のような下流アプリケーションタスクではパフォーマンスが低下する。
最も成功したKG精製技術は、推論規則と推論監督の過剰な利用である。
本稿では,2つの手法を反復的に組み合わせたIterefinEというKG精製フレームワークを提案する。
論文 参考訳（メタデータ） (2020-06-03T14:05:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。