論文の概要: Black-box Certification and Learning under Adversarial Perturbations

• arxiv url: http://arxiv.org/abs/2006.16520v2
• Date: Tue, 22 Feb 2022 15:38:06 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-15 04:45:55.051103
• Title: Black-box Certification and Learning under Adversarial Perturbations
• Title（参考訳）: 対向摂動下におけるブラックボックス認定と学習
• Authors: Hassan Ashtiani, Vinayak Pathak, Ruth Urner
• Abstract要約: 我々は,学習者の立場から,ブラックボックスの堅牢性を証明することを目的とした第三者と同様に,敵対的摂動に基づく分類の問題を研究する。 本研究では、半教師付き学習のPAC型フレームワークを解析し、VCクラスを適切に学習するための可能性と不可能性を同定する。
• 参考スコア（独自算出の注目度）: 8.658596218544774
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We formally study the problem of classification under adversarial perturbations from a learner's perspective as well as a third-party who aims at certifying the robustness of a given black-box classifier. We analyze a PAC-type framework of semi-supervised learning and identify possibility and impossibility results for proper learning of VC-classes in this setting. We further introduce a new setting of black-box certification under limited query budget, and analyze this for various classes of predictors and perturbation. We also consider the viewpoint of a black-box adversary that aims at finding adversarial examples, showing that the existence of an adversary with polynomial query complexity can imply the existence of a sample efficient robust learner.
• Abstract（参考訳）: 我々は,学習者の立場から,ブラックボックス分類器の堅牢性を証明することを目的とした第三者と同様に,敵対的摂動の下での分類問題を公式に研究する。 本研究では、半教師付き学習のPAC型フレームワークを解析し、VCクラスを適切に学習するための可能性と不可能性を同定する。 さらに,限定的なクエリ予算下でのブラックボックス認証の新たな設定を導入し,様々な予測と摂動のクラスについて分析する。 また,ブラックボックスの敵の立場から,多項式クエリが複雑である相手の存在が,効率的な頑健な学習者の存在を示唆していることを示す。

関連論文リスト

• Adversarial Robustness on Image Classification with $k$-means [3.5385056709199536]
  我々は、攻撃に対する$k$-meansクラスタリングアルゴリズムの脆弱性を評価し、関連するセキュリティリスクを強調した。 敵シナリオにおけるテスト性能を向上させるための敵訓練手法を導入・評価する。
  論文  参考訳（メタデータ） (2023-12-15T04:51:43Z)
• Rethinking Weak Supervision in Helping Contrastive Learning [19.5649824524209]
  コントラスト学習における半教師付き情報と雑音ラベル付き情報との機械的差異について検討する。 具体的には、教師付きと教師なしのコントラスト的損失の協調訓練の最も直感的なパラダイムについて検討する。 半教師付きラベルが下流誤差境界を改善するのに対し、ノイズラベルはそのようなパラダイムの下では限定的な効果を持つことを示す。
  論文  参考訳（メタデータ） (2023-06-07T05:18:27Z)
• Adversarial Contrastive Learning via Asymmetric InfoNCE [64.42740292752069]
  非対称なInfoNCEの目的と対比した場合,非対称なサンプルを不等に扱うことを提案する。 非対称的な方法では、CLと対向学習の相反する目的の悪影響を効果的に軽減することができる。 実験の結果,提案手法は既存CL法より一貫して優れていることがわかった。
  論文  参考訳（メタデータ） (2022-07-18T04:14:36Z)
• Resolving label uncertainty with implicit posterior models [71.62113762278963]
  本稿では,データサンプルのコレクション間でラベルを共同で推論する手法を提案する。 異なる予測子を後部とする生成モデルの存在を暗黙的に仮定することにより、弱い信念の下での学習を可能にする訓練目標を導出する。
  論文  参考訳（メタデータ） (2022-02-28T18:09:44Z)
• Attention-based Contrastive Learning for Winograd Schemas [27.11678023496321]
  本稿では, コントラスト学習をトランスフォーマーに拡張して, ウィノグラードチャレンジに挑戦できるかを検討する。 本稿では, 自己意識のレベルにおいて, コントラスト的損失を直接活用する, 新たな自己監督フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-10T21:10:22Z)
• Learning and Certification under Instance-targeted Poisoning [49.55596073963654]
  インスタンスターゲット中毒攻撃におけるPAC学習性と認証について検討する。 敵の予算がサンプルの複雑さに比例してスケールすると、PACの学習性と認定が達成可能であることを示す。 実データセット上でのK近傍, ロジスティック回帰, 多層パーセプトロン, 畳み込みニューラルネットワークの堅牢性を実証的に検討する。
  論文  参考訳（メタデータ） (2021-05-18T17:48:15Z)
• Deep Clustering by Semantic Contrastive Learning [67.28140787010447]
  Semantic Contrastive Learning (SCL) と呼ばれる新しい変種を紹介します。 従来のコントラスト学習とディープクラスタリングの両方の特徴を探求する。 コントラスト学習と深層クラスタリングの強みを統一的なアプローチで増幅することができる。
  論文  参考訳（メタデータ） (2021-03-03T20:20:48Z)
• Learning to Separate Clusters of Adversarial Representations for Robust Adversarial Detection [50.03939695025513]
  本稿では,最近導入された非破壊的特徴を動機とした新しい確率的対向検出器を提案する。 本稿では,非ロバスト特徴を逆例の共通性と考え,その性質に対応する表現空間におけるクラスターの探索が可能であることを推定する。 このアイデアは、別のクラスタ内の逆表現の確率推定分布を導出し、その分布を確率に基づく逆検出器として活用する。
  論文  参考訳（メタデータ） (2020-12-07T07:21:18Z)
• Towards Robust Fine-grained Recognition by Maximal Separation of Discriminative Features [72.72840552588134]
  本研究は, 粒度認識ネットワークにおけるクラス間の潜伏表現の近接性を, 敵攻撃の成功の鍵となる要因として同定する。 注意に基づく正規化機構を導入し、異なるクラスの識別潜在特徴を最大限に分離する。
  論文  参考訳（メタデータ） (2020-06-10T18:34:45Z)
• Challenging the adversarial robustness of DNNs based on error-correcting output codes [33.46319608673487]
  ECOCベースのネットワークは、小さな逆方向の摂動を導入することで、非常に容易に攻撃できる。 敵の例は、予測対象クラスの高い確率を達成するために、このような方法で生成することができる。
  論文  参考訳（メタデータ） (2020-03-26T12:14:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。