論文の概要: Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians

• arxiv url: http://arxiv.org/abs/2411.14351v1
• Date: Thu, 21 Nov 2024 17:46:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-22 15:19:58.858677
• Title: Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians
• Title（参考訳）: 多変量ガウスにおける条件推論の無差別破壊
• Authors: William N. Caballero, Matthew LaRosa, Alexander Fisher, Vahid Tarokh,
• Abstract要約: 敵対的機械学習の進歩にもかかわらず、敵対者の存在下でのガウスモデルに対する推論は特に過小評価されている。 我々は,意思決定者の条件推論とその後の行動の妨害を希望する自己関心のある攻撃者について,一組の明らかな変数を乱すことで検討する。 検出を避けるため、攻撃者は、破損した証拠の密度によって可否が決定される場合に、攻撃が可否を示すことを望んでいる。
• 参考スコア（独自算出の注目度）: 60.22542847840578
• License:
• Abstract: The multivariate Gaussian distribution underpins myriad operations-research, decision-analytic, and machine-learning models (e.g., Bayesian optimization, Gaussian influence diagrams, and variational autoencoders). However, despite recent advances in adversarial machine learning (AML), inference for Gaussian models in the presence of an adversary is notably understudied. Therefore, we consider a self-interested attacker who wishes to disrupt a decisionmaker's conditional inference and subsequent actions by corrupting a set of evidentiary variables. To avoid detection, the attacker also desires the attack to appear plausible wherein plausibility is determined by the density of the corrupted evidence. We consider white- and grey-box settings such that the attacker has complete and incomplete knowledge about the decisionmaker's underlying multivariate Gaussian distribution, respectively. Select instances are shown to reduce to quadratic and stochastic quadratic programs, and structural properties are derived to inform solution methods. We assess the impact and efficacy of these attacks in three examples, including, real estate evaluation, interest rate estimation and signals processing. Each example leverages an alternative underlying model, thereby highlighting the attacks' broad applicability. Through these applications, we also juxtapose the behavior of the white- and grey-box attacks to understand how uncertainty and structure affect attacker behavior.
• Abstract（参考訳）: 多変量ガウス分布は、無数の演算-検索、決定-分析、機械学習モデル(例えば、ベイズ最適化、ガウスの影響図、変分オートエンコーダ)を支える。 しかし、近年の対人機械学習(AML)の進歩にもかかわらず、相手の存在下でのガウスモデルに対する推論は特に過小評価されている。 そこで我々は,一組の明示変数を乱すことで,意思決定者の条件推論とその後の行動の妨害を希望する自己関心のある攻撃者を考察する。 検出を避けるため、攻撃者は、破損した証拠の密度によって可否が決定される場合に、攻撃が可否を示すことを望んでいる。 我々は,攻撃者が決定者の根底にある多変量ガウス分布について,完全かつ不完全な知識を持つように,白とグレーボックスの設定を考察する。 選択インスタンスは二次的および確率的二次プログラムに還元され、構造的特性は情報的解法に導かれる。 我々は、不動産評価、金利推定、信号処理の3つの事例において、これらの攻撃の影響と効果を評価した。 それぞれの例では、代替モデルを活用して、攻撃の広範な適用性を強調している。 これらの応用を通して、攻撃行動に不確実性や構造がどう影響するかを理解するために、白とグレーのボックス攻撃の挙動を調整します。

関連論文リスト

• Adversarial Attacks Against Uncertainty Quantification [10.655660123083607]
  この研究は、攻撃者が依然として不確実性推定を操作することに興味を持つ異なる敵シナリオに焦点を当てる。 特に、アウトプットが下流モジュールや人間のオペレータによって消費される場合、機械学習モデルの使用を損なうことが目標である。
  論文  参考訳（メタデータ） (2023-09-19T12:54:09Z)
• Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
  対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。 距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。 予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
  論文  参考訳（メタデータ） (2022-11-04T13:54:02Z)
• CC-Cert: A Probabilistic Approach to Certify General Robustness of Neural Networks [58.29502185344086]
  安全クリティカルな機械学習アプリケーションでは、モデルを敵の攻撃から守ることが不可欠である。 意味的に意味のある入力変換に対して、ディープラーニングモデルの証明可能な保証を提供することが重要である。 我々はChernoff-Cramer境界に基づく新しい普遍確率的証明手法を提案する。
  論文  参考訳（メタデータ） (2021-09-22T12:46:04Z)
• Formalizing and Estimating Distribution Inference Risks [11.650381752104298]
  プロパティ推論攻撃の形式的および一般的な定義を提案する。 以上の結果から,安価なメタクラス化攻撃は高価なメタクラス化攻撃と同じくらい効果的であることが示唆された。 我々は、最先端のプロパティ推論攻撃を畳み込みニューラルネットワークに拡張する。
  論文  参考訳（メタデータ） (2021-09-13T14:54:39Z)
• Localized Uncertainty Attacks [9.36341602283533]
  深層学習モデルに対する局所的不確実性攻撃を示す。 我々は、分類器が不確実な入力の領域のみを摂動することで、逆例を作成する。 $ell_p$ ballやパーターブ入力を無差別に検出する機能攻撃とは異なり、ターゲットとする変更は認識できない。
  論文  参考訳（メタデータ） (2021-06-17T03:07:22Z)
• Local Black-box Adversarial Attacks: A Query Efficient Approach [64.98246858117476]
  アドリアックは、セキュリティに敏感なシナリオにおけるディープニューラルネットワークの適用を脅かしている。 ブラックボックス攻撃における限られたクエリ内でのみクリーンな例の識別領域を摂動させる新しいフレームワークを提案する。 攻撃成功率の高いブラックボックス摂動時のクエリ効率を大幅に改善できることを示すため,広範な実験を行った。
  論文  参考訳（メタデータ） (2021-01-04T15:32:16Z)
• ATRO: Adversarial Training with a Rejection Option [10.36668157679368]
  本稿では, 逆例による性能劣化を軽減するために, 拒否オプション付き分類フレームワークを提案する。 分類器と拒否関数を同時に適用することにより、テストデータポイントの分類に自信が不十分な場合に分類を控えることができる。
  論文  参考訳（メタデータ） (2020-10-24T14:05:03Z)
• Estimating Generalization under Distribution Shifts via Domain-Invariant Representations [75.74928159249225]
  未知の真のターゲットラベルのプロキシとして、ドメイン不変の予測器のセットを使用します。 結果として生じるリスク見積の誤差は、プロキシモデルのターゲットリスクに依存する。
  論文  参考訳（メタデータ） (2020-07-06T17:21:24Z)
• Protecting Classifiers From Attacks. A Bayesian Approach [0.9449650062296823]
  我々は,攻撃者の行動に関する正確な知識の欠如を,敵対的リスク分析を用いて考慮した代替的ベイズ的枠組みを提供する。 本研究では, 近似ベイズ計算に基づくサンプリング手法を提案する。 大規模問題に対して、微分可能な分類器を扱う際に使用できる代替のスケーラブルなアプローチを提案する。
  論文  参考訳（メタデータ） (2020-04-18T21:21:56Z)
• Fundamental Tradeoffs between Invariance and Sensitivity to Adversarial Perturbations [65.05561023880351]
  敵の例は誤分類を引き起こすために作られた悪意のある入力である。 本稿では, 相補的障害モード, 不変性に基づく逆数例について検討する。 感度に基づく攻撃に対する防御は、不変性に基づく攻撃に対するモデルの精度を積極的に損なうことを示す。
  論文  参考訳（メタデータ） (2020-02-11T18:50:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。