論文の概要: Quantifying the robustness of deep multispectral segmentation models
against natural perturbations and data poisoning
- arxiv url: http://arxiv.org/abs/2305.11347v1
- Date: Thu, 18 May 2023 23:43:33 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-22 17:00:36.279799
- Title: Quantifying the robustness of deep multispectral segmentation models
against natural perturbations and data poisoning
- Title（参考訳）: 自然摂動とデータ中毒に対する深層多スペクトルセグメンテーションモデルの堅牢性の定量化
- Authors: Elise Bishoff, Charles Godfrey, Myles McKay, Eleanor Byler
- Abstract要約: 対向攻撃と自然摂動を受けるマルチスペクトル(RGBおよび近赤外線)画像分割モデルの性能とロバスト性を特徴付ける。
RGBモデルとマルチスペクトルモデルの両方が、入力アーキテクチャや融合アーキテクチャに関わらず、データ中毒攻撃に対して脆弱であることがわかった。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In overhead image segmentation tasks, including additional spectral bands
beyond the traditional RGB channels can improve model performance. However, it
is still unclear how incorporating this additional data impacts model
robustness to adversarial attacks and natural perturbations. For adversarial
robustness, the additional information could improve the model's ability to
distinguish malicious inputs, or simply provide new attack avenues and
vulnerabilities. For natural perturbations, the additional information could
better inform model decisions and weaken perturbation effects or have no
significant influence at all. In this work, we seek to characterize the
performance and robustness of a multispectral (RGB and near infrared) image
segmentation model subjected to adversarial attacks and natural perturbations.
While existing adversarial and natural robustness research has focused
primarily on digital perturbations, we prioritize on creating realistic
perturbations designed with physical world conditions in mind. For adversarial
robustness, we focus on data poisoning attacks whereas for natural robustness,
we focus on extending ImageNet-C common corruptions for fog and snow that
coherently and self-consistently perturbs the input data. Overall, we find both
RGB and multispectral models are vulnerable to data poisoning attacks
regardless of input or fusion architectures and that while physically
realizable natural perturbations still degrade model performance, the impact
differs based on fusion architecture and input data.
- Abstract（参考訳）: オーバヘッドイメージセグメンテーションタスクでは、従来のRGBチャネル以外のスペクトル帯域を追加すれば、モデルのパフォーマンスが向上する。
しかし、この追加データの導入が、敵攻撃や自然摂動に対するモデル堅牢性にどのように影響するかは、まだ不明である。
敵対的な堅牢性のために、追加情報はモデルの悪意のある入力を識別する能力を改善するか、単に新しい攻撃経路と脆弱性を提供する。
自然摂動の場合、追加の情報はモデル決定により良い情報を与え、摂動効果を弱めるか、全く大きな影響を与えない。
本研究では,敵対的攻撃や自然摂動を受けるマルチスペクトル(RGBおよび近赤外線)画像分割モデルの性能とロバスト性を特徴付ける。
既存の敵対的・自然的堅牢性の研究は、主にデジタル摂動に焦点を当てているが、我々は物理的な世界条件を念頭に設計された現実的な摂動の創造に重点を置いている。
対向的ロバスト性については,データ中毒攻撃に注目する一方で,自然のロバスト性については,imagenet-cによる霧と雪の一般的な腐敗の拡大に注目する。
全体としては、RGBモデルとマルチスペクトルモデルの両方が、入力や融合アーキテクチャに関わらずデータ中毒攻撃に対して脆弱であり、物理的に実現可能な自然摂動はモデル性能を低下させるが、その影響は融合アーキテクチャと入力データによって異なる。
関連論文リスト
- Adversarial Fine-tuning of Compressed Neural Networks for Joint Improvement of Robustness and Efficiency [3.3490724063380215]
アドリラルトレーニングは、より堅牢なモデルをもたらすことができる緩和戦略として提示されている。
本稿では,2つの異なるモデル圧縮手法(構造的重み打ち法と量子化法)が対向ロバスト性に及ぼす影響について検討する。
本研究では, 圧縮モデルの逆方向微調整により, 対向訓練モデルに匹敵する強靭性性能が得られることを示す。
論文 参考訳（メタデータ） (2024-03-14T14:34:25Z) - The Risk of Federated Learning to Skew Fine-Tuning Features and
Underperform Out-of-Distribution Robustness [50.52507648690234]
フェデレートされた学習は、微調整された特徴をスキイングし、モデルの堅牢性を損なうリスクがある。
3つのロバスト性指標を導入し、多様なロバストデータセットで実験を行う。
提案手法は,パラメータ効率のよい微調整手法を含む多種多様なシナリオにまたがるロバスト性を著しく向上させる。
論文 参考訳（メタデータ） (2024-01-25T09:18:51Z) - Adv-Diffusion: Imperceptible Adversarial Face Identity Attack via Latent
Diffusion Model [61.53213964333474]
本稿では,生の画素空間ではなく,潜在空間における非知覚的対角的アイデンティティ摂動を生成できる統一的なフレームワークAdv-Diffusionを提案する。
具体的には,周囲のセマンティックな摂動を生成するために,個人性に敏感な条件付き拡散生成モデルを提案する。
設計された適応強度に基づく対向摂動アルゴリズムは、攻撃の伝達性とステルス性の両方を確保することができる。
論文 参考訳（メタデータ） (2023-12-18T15:25:23Z) - Understanding Robust Overfitting from the Feature Generalization Perspective [61.770805867606796]
逆行訓練(AT)は、逆行摂動を自然データに組み込むことで、堅牢なニューラルネットワークを構築する。
これはロバストオーバーフィッティング(RO)の問題に悩まされ、モデルのロバスト性を著しく損なう。
本稿では,新しい特徴一般化の観点からROを考察する。
論文 参考訳（メタデータ） (2023-10-01T07:57:03Z) - Measuring the Effect of Causal Disentanglement on the Adversarial
Robustness of Neural Network Models [1.3927943269211591]
因果ニューラルネットワークモデルは、敵の攻撃に対して高いレベルの堅牢性を示している。
このタイプの因果モデルによって達成される絡み合いのレベルは、まだ定量的に研究されていない。
論文 参考訳（メタデータ） (2023-08-21T13:22:12Z) - Interpretable Computer Vision Models through Adversarial Training:
Unveiling the Robustness-Interpretability Connection [0.0]
解釈可能性は、モデルを現実世界にデプロイする際には、堅牢性と同じくらい不可欠です。
標準モデルは、ロバストと比較して敵の攻撃に対してより感受性が高く、その学習された表現は人間にはあまり意味がない。
論文 参考訳（メタデータ） (2023-07-04T13:51:55Z) - Robustness of deep learning algorithms in astronomy -- galaxy morphology
studies [0.0]
LSSTモックデータの異なる形態の銀河を識別するために訓練されたResNet18の性能に及ぼす露光時間からの観測ノイズの影響について検討した。
また、このような自然な攻撃が発生した場合に、ドメイン適応技術がモデルロバスト性を改善する方法についても検討する。
論文 参考訳（メタデータ） (2021-11-01T14:12:15Z) - Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。
我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文 参考訳（メタデータ） (2021-02-23T20:59:30Z) - Contextual Fusion For Adversarial Robustness [0.0]
ディープニューラルネットワークは、通常、1つの特定の情報ストリームを処理し、様々な種類の敵の摂動に影響を受けやすいように設計されている。
そこで我々はPlaces-CNNとImagenet-CNNから並列に抽出した背景特徴と前景特徴を組み合わせた融合モデルを開発した。
グラデーションをベースとした攻撃では,フュージョンは乱れのないデータの性能を低下させることなく,分類の大幅な改善を可能にする。
論文 参考訳（メタデータ） (2020-11-18T20:13:23Z) - Learning perturbation sets for robust machine learning [97.6757418136662]
我々は、潜在空間の制約領域上に設定された摂動を定義する条件生成器を用いる。
学習した摂動集合の質を定量的かつ質的に測定する。
我々は、学習した摂動集合を利用して、敵画像の破損や逆光の変動に対して経験的かつ確実に堅牢なモデルを訓練する。
論文 参考訳（メタデータ） (2020-07-16T16:39:54Z) - Bridging Mode Connectivity in Loss Landscapes and Adversarial Robustness [97.67477497115163]
我々は、モード接続を用いて、ディープニューラルネットワークの対角的堅牢性を研究する。
実験では、異なるネットワークアーキテクチャやデータセットに適用される様々な種類の敵攻撃について取り上げる。
以上の結果から,モード接続は,敵の強靭性を評価・改善するための総合的なツールであり,実用的な手段であることが示唆された。
論文 参考訳（メタデータ） (2020-04-30T19:12:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。