論文の概要: Trust, But Verify: A Survey of Randomized Smoothing Techniques

• arxiv url: http://arxiv.org/abs/2312.12608v1
• Date: Tue, 19 Dec 2023 21:27:02 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-21 17:51:33.878795
• Title: Trust, But Verify: A Survey of Randomized Smoothing Techniques
• Title（参考訳）: 信頼と検証:ランダムな平滑化技術の調査
• Authors: Anupriya Kumari, Devansh Bhardwaj, Sukrit Jindal, Sarthak Gupta
• Abstract要約: ランダム化平滑化の基礎となる概念を詳細に探求する。 我々は、敵の摂動に対する堅牢性を証明する理論的保証を強調した。 本稿では,ランダムな平滑化の文脈において,既存の知識を体系化する試みについて述べる。
• 参考スコア（独自算出の注目度）: 4.030910640265943
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning models have demonstrated remarkable success across diverse domains but remain vulnerable to adversarial attacks. Empirical defence mechanisms often fall short, as new attacks constantly emerge, rendering existing defences obsolete. A paradigm shift from empirical defences to certification-based defences has been observed in response. Randomized smoothing has emerged as a promising technique among notable advancements. This study reviews the theoretical foundations, empirical effectiveness, and applications of randomized smoothing in verifying machine learning classifiers. We provide an in-depth exploration of the fundamental concepts underlying randomized smoothing, highlighting its theoretical guarantees in certifying robustness against adversarial perturbations. Additionally, we discuss the challenges of existing methodologies and offer insightful perspectives on potential solutions. This paper is novel in its attempt to systemise the existing knowledge in the context of randomized smoothing.
• Abstract（参考訳）: 機械学習モデルは様々な領域で顕著な成功を収めてきたが、敵の攻撃に弱いままである。 経験的防御機構はしばしば不足し、新しい攻撃が絶えず出現し、既存の防御機構が時代遅れになる。 実証的な防御から認定ベースの防御へのパラダイムシフトは、対応として観察されている。 ランダムな平滑化は、顕著な進歩の中で有望なテクニックとして現れている。 本研究は,機械学習分類器の検証におけるランダム化平滑化の理論的基礎,実証的有効性,および応用についてレビューする。 ランダム化スムーディングの基礎となる概念を深く探求し、敵の摂動に対する堅牢性を証明する理論的保証を強調した。 さらに、既存の方法論の課題を議論し、潜在的なソリューションについての洞察に富んだ視点を提供する。 本稿では,ランダムな平滑化の文脈において,既存の知識を体系化する試みについて述べる。

関連論文リスト

• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Robust Adversarial Defense by Tensor Factorization [1.2954493726326113]
  本研究では、入力データのテンソル化と低ランク分解とNNパラメータのテンソル化を統合し、敵防御を強化する。 提案手法は、最強の自爆攻撃を受けた場合でも、高い防御能力を示し、堅牢な精度を維持する。
  論文  参考訳（メタデータ） (2023-09-03T04:51:44Z)
• Doubly Robust Instance-Reweighted Adversarial Training [107.40683655362285]
  本稿では,2重のインスタンス再重み付き対向フレームワークを提案する。 KL偏差正規化損失関数の最適化により重みを求める。 提案手法は, 平均ロバスト性能において, 最先端のベースライン法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-08-01T06:16:18Z)
• Boosting Adversarial Robustness using Feature Level Stochastic Smoothing [46.86097477465267]
  敵の防御は、ディープニューラルネットワークの堅牢性を大幅に向上させた。 本研究では,ネットワーク予測における導入性に関する一般的な手法を提案する。 また、信頼性の低い予測を拒否する意思決定の円滑化にも活用する。
  論文  参考訳（メタデータ） (2023-06-10T15:11:24Z)
• Adversarial Attacks and Defenses in Machine Learning-Powered Networks: A Contemporary Survey [114.17568992164303]
  機械学習とディープニューラルネットワークにおけるアドリアックと防御が注目されている。 本調査は、敵攻撃・防衛技術分野における最近の進歩を包括的に概観する。 検索ベース、意思決定ベース、ドロップベース、物理世界攻撃など、新たな攻撃方法も検討されている。
  論文  参考訳（メタデータ） (2023-03-11T04:19:31Z)
• Resisting Adversarial Attacks in Deep Neural Networks using Diverse Decision Boundaries [12.312877365123267]
  深層学習システムは、人間の目には認識できないが、モデルが誤分類される可能性がある、人工的な敵の例に弱い。 我々は,オリジナルモデルに対する多様な決定境界を持つディフェンダーモデルを構築するための,アンサンブルに基づく新しいソリューションを開発した。 我々は、MNIST、CIFAR-10、CIFAR-100といった標準画像分類データセットを用いて、最先端の敵攻撃に対する広範な実験を行った。
  論文  参考訳（メタデータ） (2022-08-18T08:19:26Z)
• The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
  不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。 我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
  論文  参考訳（メタデータ） (2022-05-20T10:10:32Z)
• CC-Cert: A Probabilistic Approach to Certify General Robustness of Neural Networks [58.29502185344086]
  安全クリティカルな機械学習アプリケーションでは、モデルを敵の攻撃から守ることが不可欠である。 意味的に意味のある入力変換に対して、ディープラーニングモデルの証明可能な保証を提供することが重要である。 我々はChernoff-Cramer境界に基づく新しい普遍確率的証明手法を提案する。
  論文  参考訳（メタデータ） (2021-09-22T12:46:04Z)
• SoK: Certified Robustness for Deep Neural Networks [13.10665264010575]
  近年の研究では、ディープニューラルネットワーク(DNN)が敵の攻撃に弱いことが示されている。 本稿では,実証可能な堅牢なアプローチと関連する実践的および理論的意味を体系化する。 また、既存の堅牢性検証と異なるデータセットでのトレーニングアプローチに関する、最初の包括的なベンチマークも提供しています。
  論文  参考訳（メタデータ） (2020-09-09T07:00:55Z)
• Hidden Cost of Randomized Smoothing [72.93630656906599]
  本稿では、現在のランダム化平滑化による副作用を指摘する。 具体的には,1)スムーズな分類器の決定境界が小さくなり,クラスレベルでの精度の相違が生じること,2)学習過程における雑音増強の適用は,一貫性のない学習目的による縮小問題を必ずしも解決しない,という2つの主要なポイントを具体化し,証明する。
  論文  参考訳（メタデータ） (2020-03-02T23:37:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。