論文の概要: The Pitfalls and Promise of Conformal Inference Under Adversarial Attacks

• arxiv url: http://arxiv.org/abs/2405.08886v1
• Date: Tue, 14 May 2024 18:05:19 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-16 15:15:00.892776
• Title: The Pitfalls and Promise of Conformal Inference Under Adversarial Attacks
• Title（参考訳）: 敵対的攻撃による共形推論の落とし穴と約束
• Authors: Ziquan Liu, Yufei Cui, Yan Yan, Yi Xu, Xiangyang Ji, Xue Liu, Antoni B. Chan,
• Abstract要約: 医療画像や自律運転などの安全クリティカルな応用においては、高い敵の堅牢性を維持し、潜在的敵の攻撃から保護することが不可欠である。 敵対的に訓練されたモデルに固有の不確実性に関して、注目すべき知識ギャップが残っている。 本研究では,共形予測(CP)の性能を標準対向攻撃の文脈で検証することにより,ディープラーニングモデルの不確実性について検討する。
• 参考スコア（独自算出の注目度）: 90.52808174102157
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In safety-critical applications such as medical imaging and autonomous driving, where decisions have profound implications for patient health and road safety, it is imperative to maintain both high adversarial robustness to protect against potential adversarial attacks and reliable uncertainty quantification in decision-making. With extensive research focused on enhancing adversarial robustness through various forms of adversarial training (AT), a notable knowledge gap remains concerning the uncertainty inherent in adversarially trained models. To address this gap, this study investigates the uncertainty of deep learning models by examining the performance of conformal prediction (CP) in the context of standard adversarial attacks within the adversarial defense community. It is first unveiled that existing CP methods do not produce informative prediction sets under the commonly used $l_{\infty}$-norm bounded attack if the model is not adversarially trained, which underpins the importance of adversarial training for CP. Our paper next demonstrates that the prediction set size (PSS) of CP using adversarially trained models with AT variants is often worse than using standard AT, inspiring us to research into CP-efficient AT for improved PSS. We propose to optimize a Beta-weighting loss with an entropy minimization regularizer during AT to improve CP-efficiency, where the Beta-weighting loss is shown to be an upper bound of PSS at the population level by our theoretical analysis. Moreover, our empirical study on four image classification datasets across three popular AT baselines validates the effectiveness of the proposed Uncertainty-Reducing AT (AT-UR).
• Abstract（参考訳）: 患者の健康と道路安全に決定が深く影響する医療画像や自律運転などの安全クリティカルなアプリケーションでは、高い敵の堅牢性を維持し、潜在的な敵の攻撃から保護し、意思決定における確実な定量化を確保することが不可欠である。 様々な形態の対戦訓練(AT)を通して、敵の堅牢性を高めることに焦点を当てた広範な研究により、敵の訓練されたモデルに固有の不確実性に関する顕著な知識ギャップが残っている。 本研究は, 対人防衛コミュニティにおける標準対人攻撃の文脈において, 共形予測(CP)の性能を検証し, ディープラーニングモデルの不確実性について検討する。 既存のCP法は、モデルが逆向きに訓練されていない場合、一般に使用される$l_{\infty}$-norm境界攻撃の下で情報的予測セットを生成せず、CPの敵対的訓練の重要性を裏付けるものであることが最初に明らかにされた。 次に本論文は, CP の予測セットサイズ (PSS) が, 標準的な AT よりも悪い場合が多いことを示し, 改良された PSS のための CP 効率 AT の研究を促した。 我々は, CP効率を向上させるため, ATにおけるエントロピー最小化正規化器によるベータ重み付け損失を最適化することを提案する。 さらに,3つの一般的なATベースラインにまたがる4つの画像分類データセットに関する実証的研究により,提案した不確実性低減AT(AT-UR)の有効性が検証された。

関連論文リスト

• Game-Theoretic Defenses for Robust Conformal Prediction Against Adversarial Attacks in Medical Imaging [12.644923600594176]
  敵対的攻撃は、ディープラーニングモデルの信頼性と安全性に重大な脅威をもたらす。 本稿では,共形予測とゲーム理論の防衛戦略を統合する新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2024-11-07T02:20:04Z)
• Perturbation-Invariant Adversarial Training for Neural Ranking Models: Improving the Effectiveness-Robustness Trade-Off [107.35833747750446]
  正統な文書に不可避な摂動を加えることで 敵の例を作れます この脆弱性は信頼性に関する重大な懸念を生じさせ、NRMの展開を妨げている。 本研究では,NRMにおける有効・損耗トレードオフに関する理論的保証を確立する。
  論文  参考訳（メタデータ） (2023-12-16T05:38:39Z)
• Doubly Robust Instance-Reweighted Adversarial Training [107.40683655362285]
  本稿では,2重のインスタンス再重み付き対向フレームワークを提案する。 KL偏差正規化損失関数の最適化により重みを求める。 提案手法は, 平均ロバスト性能において, 最先端のベースライン法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-08-01T06:16:18Z)
• Consistent Valid Physically-Realizable Adversarial Attack against Crowd-flow Prediction Models [4.286570387250455]
  ディープラーニング(DL)モデルは、都市全体のクラウドフローパターンを効果的に学習することができる。 DLモデルは、目立たない逆境の摂動に対して不利に作用することが知られている。
  論文  参考訳（メタデータ） (2023-03-05T13:30:25Z)
• Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
  入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。 我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
  論文  参考訳（メタデータ） (2021-06-21T21:42:08Z)
• Improving White-box Robustness of Pre-processing Defenses via Joint Adversarial Training [106.34722726264522]
  対向騒音の干渉を軽減するため,様々な対向防御技術が提案されている。 プレプロセス法は、ロバストネス劣化効果に悩まされることがある。 この負の効果の潜在的な原因は、敵の訓練例が静的であり、前処理モデルとは独立していることである。 本稿では,JATP(Joint Adversarial Training Based Pre-processing)防衛法を提案する。
  論文  参考訳（メタデータ） (2021-06-10T01:45:32Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)
• On the Generalization Properties of Adversarial Training [21.79888306754263]
  本稿では,汎用的対数学習アルゴリズムの一般化性能について検討する。 滑らかさとL1のペナル化がモデルの対向的堅牢性をどのように改善するかを示すために、一連の数値的研究が行われた。
  論文  参考訳（メタデータ） (2020-08-15T02:32:09Z)
• Adversary Agnostic Robust Deep Reinforcement Learning [23.9114110755044]
  深層強化学習政策は、訓練中の摂動によって着想される。 以前のアプローチでは、訓練プロセスに敵の知識を追加することができると仮定していた。 本稿では,敵からの学習を必要としない頑健なDRLパラダイムを提案する。
  論文  参考訳（メタデータ） (2020-08-14T06:04:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。