論文の概要: Hierarchical Randomized Smoothing

• arxiv url: http://arxiv.org/abs/2310.16221v5
• Date: Sun, 10 Nov 2024 10:37:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-12 14:06:41.425926
• Title: Hierarchical Randomized Smoothing
• Title（参考訳）: 階層的ランダム化平滑化
• Authors: Yan Scholten, Jan Schuchardt, Aleksandar Bojchevski, Stephan Günnemann,
• Abstract要約: ランダムな平滑化は、モデルが入力の小さな変更に対して確実に堅牢にするための強力なフレームワークです。 階層的ランダム化平滑化(hierarchical randomized smoothing): ランダムに選択されたエンティティのサブセットにのみランダムノイズを加えることで、部分的に滑らかなオブジェクトを生成する。 画像およびノード分類における階層的スムージングの重要性を実験的に示す。
• 参考スコア（独自算出の注目度）: 94.59984692215426
• License:
• Abstract: Real-world data is complex and often consists of objects that can be decomposed into multiple entities (e.g. images into pixels, graphs into interconnected nodes). Randomized smoothing is a powerful framework for making models provably robust against small changes to their inputs - by guaranteeing robustness of the majority vote when randomly adding noise before classification. Yet, certifying robustness on such complex data via randomized smoothing is challenging when adversaries do not arbitrarily perturb entire objects (e.g. images) but only a subset of their entities (e.g. pixels). As a solution, we introduce hierarchical randomized smoothing: We partially smooth objects by adding random noise only on a randomly selected subset of their entities. By adding noise in a more targeted manner than existing methods we obtain stronger robustness guarantees while maintaining high accuracy. We initialize hierarchical smoothing using different noising distributions, yielding novel robustness certificates for discrete and continuous domains. We experimentally demonstrate the importance of hierarchical smoothing in image and node classification, where it yields superior robustness-accuracy trade-offs. Overall, hierarchical smoothing is an important contribution towards models that are both - certifiably robust to perturbations and accurate.
• Abstract（参考訳）: 実世界のデータは複雑で、しばしば複数のエンティティ(例えば画像はピクセル、グラフは相互接続ノード)に分解できるオブジェクトで構成される。 ランダム化スムーシング(Randomized smoothing)は、分類前にランダムにノイズを追加する場合、多数決の堅牢性を保証することによって、モデルが入力の小さな変更に対して確実に堅牢になるための強力なフレームワークである。 しかし、オブジェクト全体(例えば画像)を任意に摂動するのではなく、そのエンティティのサブセット(例えばピクセル)を任意に摂動しない場合、ランダムな平滑化による複雑なデータに対するロバスト性の証明は困難である。 解法として、階層的ランダム化平滑化(hierarchical randomized smoothing): ランダムに選択されたエンティティのサブセットにのみランダムノイズを加えることによって、部分的に滑らかなオブジェクトを生成する。 従来の手法よりも標的に雑音を加えることで、高い精度を維持しながら強靭性を保証することができる。 異なる雑音分布を用いて階層的平滑化を初期化し、離散的かつ連続的な領域に対して新しい堅牢性証明を与える。 画像およびノード分類における階層的スムージングの重要性を実験的に示す。 全体として、階層的平滑化は、摂動に対して確実に堅牢で正確であるモデルにとって重要な貢献である。

関連論文リスト

• Robust Network Learning via Inverse Scale Variational Sparsification [55.64935887249435]
  時間連続な逆スケール空間の定式化において、逆スケールの変動スペーサー化フレームワークを導入する。 周波数ベースの手法とは異なり、我々の手法は小さな特徴を滑らかにすることでノイズを除去するだけでなく、ノイズを除去する。 各種騒音に対する頑健性の向上によるアプローチの有効性を示す。
  論文  参考訳（メタデータ） (2024-09-27T03:17:35Z)
• Multi-scale Diffusion Denoised Smoothing [79.95360025953931]
  ランダムな平滑化は、大規模モデルに敵対的ロバスト性を提供する、いくつかの具体的なアプローチの1つになっている。 本報告では, 分割平滑化におけるロバスト性と精度との現在のトレードオフに対処するスケーラブルな手法を提案する。 提案手法と拡散微細調整を併用したマルチスケール平滑化手法により,高騒音レベルで高い信頼性のロバスト性が得られることを示す。
  論文  参考訳（メタデータ） (2023-10-25T17:11:21Z)
• General Lipschitz: Certified Robustness Against Resolvable Semantic Transformations via Transformation-Dependent Randomized Smoothing [5.5855074442298696]
  構成可能な可解なセマンティック摂動に対してニューラルネットワークを認証する新しいフレームワークであるEmph General Lipschitz (GL)を提案する。 提案手法は,ImageNetデータセットにおける最先端のアプローチと同等に機能する。
  論文  参考訳（メタデータ） (2023-08-17T14:39:24Z)
• Certified Adversarial Robustness via Anisotropic Randomized Smoothing [10.0631242687419]
  画素単位の雑音分布に基づいて、証明可能なロバスト性を保証する最初の異方性ランダム化平滑化法を提案する。 また,CNNに基づく新しいノイズ発生器を設計し,各入力中の全画素の画素単位のノイズ分布を効率よく微調整する。
  論文  参考訳（メタデータ） (2022-07-12T05:50:07Z)
• SmoothMix: Training Confidence-calibrated Smoothed Classifiers for Certified Robustness [61.212486108346695]
  自己混合によるスムーズな分類器のロバスト性を制御するためのトレーニングスキームSmoothMixを提案する。 提案手法は, 厳密性に制限された原因として, 信頼性の低い, オフクラスに近いサンプルを効果的に同定する。 提案手法はスムーズな分類器の検証値である$ell$-robustnessを大幅に改善できることを示す。
  論文  参考訳（メタデータ） (2021-11-17T18:20:59Z)
• Improved, Deterministic Smoothing for L1 Certified Robustness [119.86676998327864]
  分割雑音を伴う非加法的決定論的平滑化法(dssn)を提案する。 一様加法平滑化とは対照的に、ssn認証は無作為なノイズコンポーネントを独立に必要としない。 これは、規範ベースの敵対的脅威モデルに対して決定論的「ランダム化平滑化」を提供する最初の仕事である。
  論文  参考訳（メタデータ） (2021-03-17T21:49:53Z)
• Hidden Cost of Randomized Smoothing [72.93630656906599]
  本稿では、現在のランダム化平滑化による副作用を指摘する。 具体的には,1)スムーズな分類器の決定境界が小さくなり,クラスレベルでの精度の相違が生じること,2)学習過程における雑音増強の適用は,一貫性のない学習目的による縮小問題を必ずしも解決しない,という2つの主要なポイントを具体化し,証明する。
  論文  参考訳（メタデータ） (2020-03-02T23:37:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。