論文の概要: Disentangling Safe and Unsafe Corruptions via Anisotropy and Locality

• arxiv url: http://arxiv.org/abs/2501.18098v1
• Date: Thu, 30 Jan 2025 02:21:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-31 15:12:32.530481
• Title: Disentangling Safe and Unsafe Corruptions via Anisotropy and Locality
• Title（参考訳）: 異方性と局所性による安全・不安全破壊の遠ざかる
• Authors: Ramchandran Muthukumar, Ambar Pal, Jeremias Sulam, Rene Vidal,
• Abstract要約: 最先端の機械学習システムは、脅威モデルに従って「小さい」が定義される場合、入力に対する小さな摂動に対して脆弱である。 本稿では,既存の等方的およびグローバルな脅威モデルを超えるロバスト性を研究するために,textttProjected Displacement (PD) と呼ばれる新しい脅威モデルを提案する。
• 参考スコア（独自算出の注目度）: 10.818620320072673
• License:
• Abstract: State-of-the-art machine learning systems are vulnerable to small perturbations to their input, where ``small'' is defined according to a threat model that assigns a positive threat to each perturbation. Most prior works define a task-agnostic, isotropic, and global threat, like the $\ell_p$ norm, where the magnitude of the perturbation fully determines the degree of the threat and neither the direction of the attack nor its position in space matter. However, common corruptions in computer vision, such as blur, compression, or occlusions, are not well captured by such threat models. This paper proposes a novel threat model called \texttt{Projected Displacement} (PD) to study robustness beyond existing isotropic and global threat models. The proposed threat model measures the threat of a perturbation via its alignment with \textit{unsafe directions}, defined as directions in the input space along which a perturbation of sufficient magnitude changes the ground truth class label. Unsafe directions are identified locally for each input based on observed training data. In this way, the PD threat model exhibits anisotropy and locality. Experiments on Imagenet-1k data indicate that, for any input, the set of perturbations with small PD threat includes \textit{safe} perturbations of large $\ell_p$ norm that preserve the true label, such as noise, blur and compression, while simultaneously excluding \textit{unsafe} perturbations that alter the true label. Unlike perceptual threat models based on embeddings of large-vision models, the PD threat model can be readily computed for arbitrary classification tasks without pre-training or finetuning. Further additional task annotation such as sensitivity to image regions or concept hierarchies can be easily integrated into the assessment of threat and thus the PD threat model presents practitioners with a flexible, task-driven threat specification.
• Abstract（参考訳）: 最先端の機械学習システムは、入力に対する小さな摂動に対して脆弱であり、そこでは、各摂動に対して肯定的な脅威を割り当てる脅威モデルに基づいて ``small'' が定義される。 ほとんどの先行研究は、$\ell_p$ノルムのようなタスクに依存しない、等方的で、大域的な脅威を定義しており、摂動の大きさが脅威の度合いを決定し、攻撃の方向も宇宙における位置も決定しない。 しかし、ぼやけ、圧縮、閉塞などのコンピュータビジョンにおける一般的な腐敗は、そのような脅威モデルによってうまく捉えられていない。 本稿では,既存の等方的・大域的脅威モデルを超えてロバスト性を研究するために,‘texttt{Projected Displacement}(PD)’と呼ばれる新しい脅威モデルを提案する。 提案した脅威モデルは,入力空間の方向として定義され,十分な大きさの摂動が基底真理クラスラベルを変えるような,摂動の脅威を測定する。 観測されたトレーニングデータに基づいて、各入力に対して安全でない方向を局所的に識別する。 このようにして、PD脅威モデルは異方性と局所性を示す。 Imagenet-1kデータの実験では、任意の入力に対して、小さなPD脅威を伴う摂動のセットには、ノイズ、ぼかし、圧縮などの真のラベルを保持する大きな$\ell_p$ノルムの摂動と、真のラベルを変更する \textit{unsafe}摂動を同時に除外することが含まれる。 大規模ビジョンモデルの埋め込みに基づく知覚的脅威モデルとは異なり、PD脅威モデルは事前学習や微調整なしに任意の分類タスクのために容易に計算できる。 画像領域への感受性や概念階層といった追加のタスクアノテーションは、脅威の評価に容易に統合することができ、PD脅威モデルは、柔軟でタスク駆動の脅威仕様を実践者に提示する。

関連論文リスト

• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• Perturb, Attend, Detect and Localize (PADL): Robust Proactive Image Defense [5.150608040339816]
  本稿では,クロスアテンションに基づく符号化と復号の対称スキームを用いて,画像固有の摂動を生成する新しいソリューションであるPADLを紹介する。 提案手法は,StarGANv2,BlendGAN,DiffAE,StableDiffusion,StableDiffusionXLなど,さまざまなアーキテクチャ設計の未確認モデルに一般化する。
  論文  参考訳（メタデータ） (2024-09-26T15:16:32Z)
• Enabling Privacy-Preserving Cyber Threat Detection with Federated Learning [4.475514208635884]
  本研究は, プライバシー保護型サイバー脅威検出のための学習の可能性について, 有効性, ビザンチンレジリエンス, 効率の観点から, 体系的に検証した。 FLトレーニングされた検出モデルは、中央訓練された検出モデルに匹敵する性能が得られることを示す。 現実的な脅威モデルの下では、FLはデータ中毒とモデル中毒の両方の攻撃に対して抵抗性があることが判明した。
  論文  参考訳（メタデータ） (2024-04-08T01:16:56Z)
• AdvART: Adversarial Art for Camouflaged Object Detection Attacks [7.7889972735711925]
  本稿では,自然主義的かつ不明瞭な敵パッチを生成するための新しいアプローチを提案する。 本手法は,パッチ内の画素値を直接操作することで,高い柔軟性と広い空間を実現する。 我々の攻撃は、デジタルワールドとエッジのスマートカメラでそれぞれ91.19%と72%の優れた成功率を達成する。
  論文  参考訳（メタデータ） (2023-03-03T06:28:05Z)
• To Make Yourself Invisible with Adversarial Semantic Contours [47.755808439588094]
  逆セマンティック・コンター(英: Adversarial Semantic Contour、ASC)は、物体の輪郭の前に騙されたスパース・アタックのベイズ的定式化の見積もりである。 ASCは、異なるアーキテクチャを持つ9つの近代検出器の予測を損なう可能性があることを示す。 我々は、様々なアーキテクチャを持つ物体検出器の共通弱点である輪郭について注意を払って結論付けた。
  論文  参考訳（メタデータ） (2023-03-01T07:22:39Z)
• Ada3Diff: Defending against 3D Adversarial Point Clouds via Adaptive Diffusion [70.60038549155485]
  ディープ3Dポイントクラウドモデルは敵攻撃に敏感であり、自律運転のような安全クリティカルなアプリケーションに脅威をもたらす。 本稿では,適応強度推定器と拡散モデルを用いて,プリスタンデータ分布を再構築できる新しい歪み認識型防衛フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-11-29T14:32:43Z)
• Threat Model-Agnostic Adversarial Defense using Diffusion Models [14.603209216642034]
  ディープニューラルネットワーク(DNN)は、敵攻撃として知られる、知覚できない悪意のある摂動に対して非常に敏感である。 ディープニューラルネットワーク(DNN)は、敵攻撃として知られる、知覚できない悪意のある摂動に対して非常に敏感である。
  論文  参考訳（メタデータ） (2022-07-17T06:50:48Z)
• Interpolated Joint Space Adversarial Training for Robust and Generalizable Defenses [82.3052187788609]
  敵の訓練(AT)は、敵の攻撃に対する最も信頼できる防御の1つと考えられている。 近年の研究では、新たな脅威モデルの下での対向サンプルによる一般化の改善が示されている。 我々は、JSTM(Joint Space Threat Model)と呼ばれる新しい脅威モデルを提案する。 JSTMでは,新たな敵攻撃・防衛手法が開発されている。
  論文  参考訳（メタデータ） (2021-12-12T21:08:14Z)
• Hidden Backdoor Attack against Semantic Segmentation Models [60.0327238844584]
  Emphbackdoor攻撃は、深層ニューラルネットワーク(DNN)に隠れたバックドアを埋め込み、トレーニングデータに毒を盛ることを目的としている。 我々は,対象ラベルを画像レベルではなくオブジェクトレベルから扱う,新たな攻撃パラダイムであるemphfine-fine-grained attackを提案する。 実験により、提案手法はわずかなトレーニングデータだけを毒殺することでセマンティックセグメンテーションモデルを攻撃することに成功した。
  論文  参考訳（メタデータ） (2021-03-06T05:50:29Z)
• Uncertainty-Aware Consistency Regularization for Cross-Domain Semantic Segmentation [63.75774438196315]
  Unsupervised Domain adapt (UDA) は、未ラベルのデータのみを持つ新しいターゲットドメインにソースドメインの既存のモデルを適用することを目的としている。 既存のほとんどの手法は、エラーを起こしやすい識別器ネットワークまたは不合理な教師モデルから生じる顕著な負の伝達に悩まされている。 ドメイン間セマンティックセグメンテーションのための不確実性を考慮した整合性正規化手法を提案する。
  論文  参考訳（メタデータ） (2020-04-19T15:30:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。