論文の概要: QuerySnout: Automating the Discovery of Attribute Inference Attacks against Query-Based Systems

• arxiv url: http://arxiv.org/abs/2211.05249v1
• Date: Wed, 9 Nov 2022 22:59:20 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-11 15:51:13.533726
• Title: QuerySnout: Automating the Discovery of Attribute Inference Attacks against Query-Based Systems
• Title（参考訳）: QuerySnout: クエリベースのシステムに対する属性推論攻撃の発見を自動化する
• Authors: Ana-Maria Cretu, Florimond Houssiau, Antoine Cully, Yves-Alexandre de Montjoye
• Abstract要約: 我々はQBSeの脆弱性を自動的に検出する最初の方法であるQuerySnout (QS) を開発した。 QSは、新しい突然変異演算子に基づく進化的検索技術を使用して、攻撃につながる可能性のあるクエリの多セットを見つける。 QSが発見した攻撃は、常に等しく、あるいは性能が良く、時には大きなマージンで、文学からの最良の攻撃を示す。
• 参考スコア（独自算出の注目度）: 4.12484724941528
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although query-based systems (QBS) have become one of the main solutions to share data anonymously, building QBSes that robustly protect the privacy of individuals contributing to the dataset is a hard problem. Theoretical solutions relying on differential privacy guarantees are difficult to implement correctly with reasonable accuracy, while ad-hoc solutions might contain unknown vulnerabilities. Evaluating the privacy provided by QBSes must thus be done by evaluating the accuracy of a wide range of privacy attacks. However, existing attacks require time and expertise to develop, need to be manually tailored to the specific systems attacked, and are limited in scope. In this paper, we develop QuerySnout (QS), the first method to automatically discover vulnerabilities in QBSes. QS takes as input a target record and the QBS as a black box, analyzes its behavior on one or more datasets, and outputs a multiset of queries together with a rule to combine answers to them in order to reveal the sensitive attribute of the target record. QS uses evolutionary search techniques based on a novel mutation operator to find a multiset of queries susceptible to lead to an attack, and a machine learning classifier to infer the sensitive attribute from answers to the queries selected. We showcase the versatility of QS by applying it to two attack scenarios, three real-world datasets, and a variety of protection mechanisms. We show the attacks found by QS to consistently equate or outperform, sometimes by a large margin, the best attacks from the literature. We finally show how QS can be extended to QBSes that require a budget, and apply QS to a simple QBS based on the Laplace mechanism. Taken together, our results show how powerful and accurate attacks against QBSes can already be found by an automated system, allowing for highly complex QBSes to be automatically tested "at the pressing of a button".
• Abstract（参考訳）: クエリベースのシステム(QBS)は、データを匿名で共有する主要なソリューションの1つになっていますが、データセットに寄与する個人のプライバシを堅牢に保護するQBSeの構築は難しい問題です。 差分プライバシー保証に依存する理論的ソリューションは、適切な精度で正しく実装することは困難である。 したがって、QBSesが提供するプライバシを評価するには、幅広いプライバシ攻撃の精度を評価する必要がある。 しかし、既存の攻撃では開発に時間と専門知識が必要であり、特定のシステムに対して手動で調整する必要がある。 本稿では,QBSeの脆弱性を自動的に検出する最初の方法であるQuerySnout(QS)を提案する。 qsはターゲットレコードとqbsをブラックボックスとして入力し、その動作を1つまたは複数のデータセットで分析し、ターゲットレコードの繊細な属性を明らかにするために、応答を結合するルールと共に複数のクエリを出力する。 qsは、新しい突然変異演算子に基づく進化的探索技術を使用して、攻撃につながる可能性のある複数のクエリ集合を見つけ、機械学習分類器により、選択されたクエリに対する回答から機密属性を推測する。 2つの攻撃シナリオ,3つの実世界のデータセット,さまざまな保護メカニズムに適用することで,QSの汎用性を示す。 QSが発見した攻撃は、常に等しく、あるいは性能が良く、時には大きなマージンで、文学からの最良の攻撃を示す。 最後に、予算を必要とするQBSeにQSをどのように拡張できるかを示し、Laplaceメカニズムに基づいた単純なQBSにQSを適用する。 分析結果から,qbsesに対する強力かつ正確な攻撃が自動化システムによってすでに検出されていることを示し,高度に複雑なqbsを「ボタンを押せば」自動的にテストできることを示した。

関連論文リスト

• Improving Data Curation of Software Vulnerability Patches through Uncertainty Quantification [6.916509590637601]
  本稿では、不確実性定量化(UQ)を用いて、公開可能なソフトウェア脆弱性パッチのデータセットをキュレートする手法を提案する。 Model EnsembleとHerescedasticモデルは、脆弱性パッチデータセットのベストチョイスです。
  論文  参考訳（メタデータ） (2024-11-18T15:37:28Z)
• QueryCheetah: Fast Automated Discovery of Attribute Inference Attacks Against Query-Based Systems [9.061271587514215]
  本稿では,QBSに対するプライバシー攻撃の自動発見手法であるQueryCheetahを提案する。 従来の手法よりも強力な攻撃を発見できると同時に,最先端の自動化手法よりも18倍高速であることを示す。
  論文  参考訳（メタデータ） (2024-09-03T15:37:05Z)
• AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
  CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。 我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。 また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-08-04T09:53:50Z)
• Unifying (Quantum) Statistical and Parametrized (Quantum) Algorithms [65.268245109828]
  我々はカーンズのSQオラクルとヴァリアントの弱い評価オラクルからインスピレーションを得ます。 評価クエリから学習するための非条件の下限を出力する,広範かつ直感的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-26T18:23:21Z)
• ARRQP: Anomaly Resilient Real-time QoS Prediction Framework with Graph Convolution [0.16317061277456998]
  我々は、データ内の異常に対するレジリエンスを改善することに焦点を当てたリアルタイム予測フレームワーク(ARRQP)を導入する。 ARRQPはコンテキスト情報と協調的な洞察を統合し、ユーザとサービスのインタラクションの包括的な理解を可能にする。 ベンチマークWS-DREAMデータセットの結果は、正確でタイムリーな予測を達成する上で、フレームワークの有効性を示している。
  論文  参考訳（メタデータ） (2023-09-22T04:37:51Z)
• QASnowball: An Iterative Bootstrapping Framework for High-Quality Question-Answering Data Generation [67.27999343730224]
  QAデータ拡張のための反復型ブートストラップフレームワーク(QASnowball)を導入する。 QASnowballは、教師付きサンプルのシードセットに基づいて、大規模で高品質なQAデータを反復的に生成することができる。 本研究では, 高資源の英語シナリオと中資源の中国語シナリオで実験を行い, 実験結果から, QASnowball が生成したデータによりQAモデルを容易に作成できることが示唆された。
  論文  参考訳（メタデータ） (2023-09-19T05:20:36Z)
• IfQA: A Dataset for Open-domain Question Answering under Counterfactual Presuppositions [54.23087908182134]
  本稿では,QA(FifQA)と呼ばれる,最初の大規模対実的オープンドメイン質問応答(QA)ベンチマークを紹介する。 IfQAデータセットには3,800以上の質問が含まれている。 IfQAベンチマークによって引き起こされるユニークな課題は、検索と対実的推論の両方に関して、オープンドメインのQA研究を促進することである。
  論文  参考訳（メタデータ） (2023-05-23T12:43:19Z)
• RoMQA: A Benchmark for Robust, Multi-evidence, Multi-answer Question Answering [87.18962441714976]
  堅牢でマルチエビデンスな質問応答(QA)のための最初のベンチマークであるRoMQAを紹介します。 我々は、最先端の大規模言語モデルをゼロショット、少数ショット、微調整設定で評価し、RoMQAが難しいことを発見した。 以上の結果から,RoMQAは大規模言語モデルにとって難しいベンチマークであり,より堅牢なQA手法を構築するための定量的なテストを提供する。
  論文  参考訳（メタデータ） (2022-10-25T21:39:36Z)
• Improving Question Answering with Generation of NQ-like Questions [12.276281998447079]
  QA ( Question Answering) システムは大量の注釈付きデータを必要とする。 本研究では,Quizbowl(QB)データセットの長いトリビア質問からNatural Questions(NQ)データセットにおいて,日々のコミュニケーションに似た短い質問を自動的に生成するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-10-12T21:36:20Z)
• Counterfactual Variable Control for Robust and Interpretable Question Answering [57.25261576239862]
  ディープニューラルネットワークに基づく質問応答(QA)モデルは、多くの場合、堅牢でも説明もできない。 本稿では、因果推論を用いてQAモデルのこのような突発的な「能力」を検証する。 本稿では,任意のショートカット相関を明示的に緩和する,CVC(Counterfactual Variable Control)という新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-12T10:09:05Z)
• QActor: On-line Active Learning for Noisy Labeled Stream Data [10.814099534254922]
  そこで本研究では,品質モデルによるクリーンなサンプルの選択と,最も情報に富む真のラベルに対する託宣を積極的にクエリするQActorを提案する。 QActorは、データフィルタリングのための品質モデルの利点と、最も情報性の高いデータのクリーニングのためのオラクルクエリを素早く組み合わせます。 QActorの中心的な機能は、各データバッチの学習損失に応じてクエリ制限を動的に調整することである。
  論文  参考訳（メタデータ） (2020-01-28T15:13:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。