論文の概要: Poisoning Bayesian Inference via Data Deletion and Replication

• arxiv url: http://arxiv.org/abs/2503.04480v1
• Date: Thu, 06 Mar 2025 14:30:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-07 16:01:27.664169
• Title: Poisoning Bayesian Inference via Data Deletion and Replication
• Title（参考訳）: データ削除と複製によるベイズ推論
• Authors: Matthieu Carreau, Roi Naveiro, William N. Caballero,
• Abstract要約: 我々は、一般的なベイズ推論を攻撃するために、ホワイトボックスモデル中毒パラダイムの拡張に注力する。 攻撃者がベイズの後部を目標分布に向けて操ることのできる一連の攻撃が開発されている。 比較的わずかな努力で、攻撃者はベイジアンの信念を瞬時に変えることができ、より多くのリスクを受け入れることで、彼らはこれらの信念を彼らの意志に形作ることができる。
• 参考スコア（独自算出の注目度）: 0.4915744683251149
• License:
• Abstract: Research in adversarial machine learning (AML) has shown that statistical models are vulnerable to maliciously altered data. However, despite advances in Bayesian machine learning models, most AML research remains concentrated on classical techniques. Therefore, we focus on extending the white-box model poisoning paradigm to attack generic Bayesian inference, highlighting its vulnerability in adversarial contexts. A suite of attacks are developed that allow an attacker to steer the Bayesian posterior toward a target distribution through the strategic deletion and replication of true observations, even when only sampling access to the posterior is available. Analytic properties of these algorithms are proven and their performance is empirically examined in both synthetic and real-world scenarios. With relatively little effort, the attacker is able to substantively alter the Bayesian's beliefs and, by accepting more risk, they can mold these beliefs to their will. By carefully constructing the adversarial posterior, surgical poisoning is achieved such that only targeted inferences are corrupted and others are minimally disturbed.
• Abstract（参考訳）: 敵機械学習(AML)の研究は、統計モデルが悪意ある変更データに対して脆弱であることを示した。 しかし、ベイジアン機械学習モデルの進歩にもかかわらず、ほとんどのAML研究は古典的な技術に集中している。 そこで本研究では,ホワイトボックスモデル中毒パラダイムを拡張して一般ベイズ推論を攻撃し,その脆弱性を敵の文脈で強調する。 攻撃者は、後方へのアクセスをサンプリングできるだけであっても、戦略的な削除と真の観測の複製を通じて、ベイズ後方を目標の分布に向けて操ることのできる一連の攻撃が開発されている。 これらのアルゴリズムの解析的性質が証明され、それらの性能は、合成シナリオと実世界のシナリオの両方で実証的に検証される。 比較的わずかな努力で、攻撃者はベイジアンの信念を瞬時に変えることができ、より多くのリスクを受け入れることで、彼らはこれらの信念を彼らの意志に形作ることができる。 逆行性後部を慎重に構築することにより、標的推論のみを破損させ、その他を最小限に乱すように、外科的中毒が達成される。

関連論文リスト

• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• MirrorCheck: Efficient Adversarial Defense for Vision-Language Models [55.73581212134293]
  本稿では,視覚言語モデルにおける対角的サンプル検出のための,新しい,しかしエレガントなアプローチを提案する。 本手法は,テキスト・トゥ・イメージ(T2I)モデルを用いて,ターゲットVLMが生成したキャプションに基づいて画像を生成する。 異なるデータセットで実施した経験的評価により,本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-06-13T15:55:04Z)
• Detecting Adversarial Data using Perturbation Forgery [28.237738842260615]
  逆検出は、自然データと逆データの間の分布とノイズパターンの相違に基づいて、データフローから逆データを特定し、フィルタリングすることを目的としている。 不均衡および異方性雑音パターンを回避した生成モデルに基づく新しい攻撃 本研究では,ノイズ分布,スパースマスク生成,擬似逆数データ生成を含む摂動フォージェリを提案し,不明瞭な勾配ベース,生成型および物理的逆数攻撃を検出可能な逆数検出器を訓練する。
  論文  参考訳（メタデータ） (2024-05-25T13:34:16Z)
• SA-Attack: Improving Adversarial Transferability of Vision-Language Pre-training Models via Self-Augmentation [56.622250514119294]
  ホワイトボックスの敵攻撃とは対照的に、転送攻撃は現実世界のシナリオをより反映している。 本稿では,SA-Attackと呼ばれる自己拡張型転送攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-12-08T09:08:50Z)
• The Adversarial Implications of Variable-Time Inference [47.44631666803983]
  本稿では,攻撃対象のMLモデルの予測を後処理するアルゴリズムの実行時間を簡単に計測する,新たなサイドチャネルを利用するアプローチを提案する。 我々は,物体検出装置の動作において重要な役割を果たす非最大抑圧(NMS)アルゴリズムからの漏れを調査する。 我々は、YOLOv3検出器に対する攻撃を実演し、タイミングリークを利用して、逆例を用いてオブジェクト検出を回避し、データセット推論を行う。
  論文  参考訳（メタデータ） (2023-09-05T11:53:17Z)
• Exploring Model Dynamics for Accumulative Poisoning Discovery [62.08553134316483]
  そこで我々は,モデルレベルの情報を通して,防衛を探索するための新しい情報尺度,すなわち,記憶の離散性(Memorization Discrepancy)を提案する。 暗黙的にデータ操作の変更をモデル出力に転送することで、メモリ識別は許容できない毒のサンプルを発見することができる。 我々は、その性質を徹底的に探求し、累積中毒に対する防御のために、離散型サンプル補正(DSC)を提案する。
  論文  参考訳（メタデータ） (2023-06-06T14:45:24Z)
• Understanding the Vulnerability of Skeleton-based Human Activity Recognition via Black-box Attack [53.032801921915436]
  HAR(Human Activity Recognition)は、自動運転車など、幅広い用途に採用されている。 近年,敵対的攻撃に対する脆弱性から,骨格型HAR法の堅牢性に疑問が呈されている。 攻撃者がモデルの入出力しかアクセスできない場合でも、そのような脅威が存在することを示す。 BASARと呼ばれる骨格をベースとしたHARにおいて,最初のブラックボックス攻撃手法を提案する。
  論文  参考訳（メタデータ） (2022-11-21T09:51:28Z)
• A Unified Evaluation of Textual Backdoor Learning: Frameworks and Benchmarks [72.7373468905418]
  我々は,テキストバックドア学習の実装と評価を促進するオープンソースツールキットOpenBackdoorを開発した。 また,単純なクラスタリングに基づく防御ベースラインであるCUBEを提案する。
  論文  参考訳（メタデータ） (2022-06-17T02:29:23Z)
• Poisoning Attacks on Algorithmic Fairness [14.213638219685656]
  本稿では,アルゴリズムの公正性に対する攻撃を害する最適化フレームワークを提案する。 我々は,データ中の異なるグループ間の分類格差の導入を目的とした,勾配に基づく中毒攻撃を開発した。 我々の発見は、異なるシナリオにおけるアルゴリズムフェアネスをターゲットとした、全く新しい敵攻撃セットの定義への道を開いたと信じている。
  論文  参考訳（メタデータ） (2020-04-15T08:07:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。