論文の概要: Robustness Bounds on the Successful Adversarial Examples: Theory and Practice

• arxiv url: http://arxiv.org/abs/2403.01896v1
• Date: Mon, 4 Mar 2024 09:55:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-06 19:16:12.380811
• Title: Robustness Bounds on the Successful Adversarial Examples: Theory and Practice
• Title（参考訳）: 成功事例のロバスト性境界:理論と実践
• Authors: Hiroaki Maeshima, Akira Otsuka
• Abstract要約: Adversarial Example (AE) は機械学習の攻撃手法であり、誤分類を引き起こすデータに知覚不能な摂動を加えることで構築される。 我々は、AEの摂動規範、GPで使用されるカーネル関数、トレーニングデータセットで異なるラベルを持つ最も近いペアの距離に依存する新しい上限を証明した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial example (AE) is an attack method for machine learning, which is crafted by adding imperceptible perturbation to the data inducing misclassification. In the current paper, we investigated the upper bound of the probability of successful AEs based on the Gaussian Process (GP) classification. We proved a new upper bound that depends on AE's perturbation norm, the kernel function used in GP, and the distance of the closest pair with different labels in the training dataset. Surprisingly, the upper bound is determined regardless of the distribution of the sample dataset. We showed that our theoretical result was confirmed through the experiment using ImageNet. In addition, we showed that changing the parameters of the kernel function induces a change of the upper bound of the probability of successful AEs.
• Abstract（参考訳）: Adversarial Example (AE) は機械学習の攻撃手法であり、誤分類を引き起こすデータに知覚不能な摂動を加えることで構築される。 本稿では,ガウス過程(GP)の分類に基づいて,AEsが成功する確率の上限について検討した。 AEの摂動規範,GPで使用されるカーネル関数,トレーニングデータセットに異なるラベルを持つ最も近いペアの距離に依存する新しい上限を証明した。 驚いたことに、上限はサンプルデータセットの分布に関係なく決定される。 実験の結果,ImageNetを用いて理論的結果を確認した。 さらに,カーネル関数のパラメータの変更は,AEsが成功する確率の上限値の変化を誘導することを示した。

関連論文リスト

• Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians [60.22542847840578]
  敵対的機械学習の進歩にもかかわらず、敵対者の存在下でのガウスモデルに対する推論は特に過小評価されている。 我々は,意思決定者の条件推論とその後の行動の妨害を希望する自己関心のある攻撃者について,一組の明らかな変数を乱すことで検討する。 検出を避けるため、攻撃者は、破損した証拠の密度によって可否が決定される場合に、攻撃が可否を示すことを望んでいる。
  論文  参考訳（メタデータ） (2024-11-21T17:46:55Z)
• Conditionally-Conjugate Gaussian Process Factor Analysis for Spike Count Data via Data Augmentation [8.114880112033644]
  近年、GPFAはスパイクカウントデータをモデル化するために拡張されている。 本稿では,解析的および計算的抽出可能な推論が可能な条件共役型ガウス過程因子解析(ccGPFA)を提案する。
  論文  参考訳（メタデータ） (2024-05-19T21:53:36Z)
• Accelerating Convergence in Bayesian Few-Shot Classification [3.819329978428786]
  本稿では,ミラー降下に基づく変分推論をガウス過程に基づく少数ショット分類にシームレスに統合する。 非ユークリッド幾何学を活用することにより、ミラー降下は対応する多様体に沿って最も急勾配の方向を与えることにより加速収束を達成する。
  論文  参考訳（メタデータ） (2024-05-02T17:37:39Z)
• Be Your Own Neighborhood: Detecting Adversarial Example by the Neighborhood Relations Built on Self-Supervised Learning [64.78972193105443]
  本稿では,予測に有効な新しいAE検出フレームワークを提案する。 AEの異常な関係と拡張バージョンを区別して検出を行う。 表現を抽出し、ラベルを予測するために、既製の自己監視学習(SSL)モデルが使用される。
  論文  参考訳（メタデータ） (2022-08-31T08:18:44Z)
• The Manifold Hypothesis for Gradient-Based Explanations [55.01671263121624]
  勾配に基づく説明アルゴリズムは知覚的に整合した説明を提供する。 特徴属性がデータの接する空間と一致しているほど、知覚的に一致している傾向にあることを示す。 説明アルゴリズムは、その説明をデータ多様体と整合させるよう積極的に努力すべきである。
  論文  参考訳（メタデータ） (2022-06-15T08:49:24Z)
• Unreasonable Effectiveness of Last Hidden Layer Activations [0.5156484100374058]
  本研究では, 高い温度値を持つモデルの出力層で広く知られているアクティベーション関数を用いることで, 標的および標的外攻撃事例の勾配をゼロにする効果が示された。 CIFAR10データセットであるMNIST(Digit)に対するアプローチの有効性を実験的に検証した。
  論文  参考訳（メタデータ） (2022-02-15T12:02:59Z)
• Probabilistic Robust Autoencoders for Anomaly Detection [7.362415721170984]
  確率ロバストオートエンコーダ(PRAE)と呼ばれる新しいタイプのオートエンコーダを提案する。 PRAEは、同時に外れ値を取り除き、下降値サンプルの低次元表現を識別するように設計されている。 PRAEの解法がRAEの解と等価であることを証明し、PRAEが異常検出の最先端手法と同等であることを示す。
  論文  参考訳（メタデータ） (2021-10-01T15:46:38Z)
• A Unified Joint Maximum Mean Discrepancy for Domain Adaptation [73.44809425486767]
  本論文は,最適化が容易なjmmdの統一形式を理論的に導出する。 統合JMMDから、JMMDは分類に有利な特徴ラベル依存を低下させることを示す。 本稿では,その依存を促進する新たなmmd行列を提案し,ラベル分布シフトにロバストな新しいラベルカーネルを考案する。
  論文  参考訳（メタデータ） (2021-01-25T09:46:14Z)
• Efficient Semi-Implicit Variational Inference [65.07058307271329]
  効率的でスケーラブルな半単純外挿 (SIVI) を提案する。 本手法はSIVIの証拠を低勾配値の厳密な推測にマッピングする。
  論文  参考訳（メタデータ） (2021-01-15T11:39:09Z)
• Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
  補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。 テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。 以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-22T21:12:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。