論文の概要: Combining Machine Learning Defenses without Conflicts

• arxiv url: http://arxiv.org/abs/2411.09776v1
• Date: Thu, 14 Nov 2024 19:41:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-18 15:38:37.118525
• Title: Combining Machine Learning Defenses without Conflicts
• Title（参考訳）: 衝突のない機械学習の防御を組み合わせる
• Authors: Vasisht Duddu, Rui Zhang, N. Asokan,
• Abstract要約: 機械学習(ML)の防御は、セキュリティ、プライバシ、公正性に対するさまざまなリスクから保護される。 しかし、MLモデルにおける防御と相反する相互作用を組み合わせることは効果がない。 本稿では,有効防衛の組み合わせを特定するために,DefConという原理的な組み合わせ手法を提案する。
• 参考スコア（独自算出の注目度）: 16.53607829788999
• License:
• Abstract: Machine learning (ML) defenses protect against various risks to security, privacy, and fairness. Real-life models need simultaneous protection against multiple different risks which necessitates combining multiple defenses. But combining defenses with conflicting interactions in an ML model can be ineffective, incurring a significant drop in the effectiveness of one or more defenses being combined. Practitioners need a way to determine if a given combination can be effective. Experimentally identifying effective combinations can be time-consuming and expensive, particularly when multiple defenses need to be combined. We need an inexpensive, easy-to-use combination technique to identify effective combinations. Ideally, a combination technique should be (a) accurate (correctly identifies whether a combination is effective or not), (b) scalable (allows combining multiple defenses), (c) non-invasive (requires no change to the defenses being combined), and (d) general (is applicable to different types of defenses). Prior works have identified several ad-hoc techniques but none satisfy all the requirements above. We propose a principled combination technique, Def\Con, to identify effective defense combinations. Def\Con meets all requirements, achieving 90% accuracy on eight combinations explored in prior work and 81% in 30 previously unexplored combinations that we empirically evaluate in this paper.
• Abstract（参考訳）: 機械学習(ML)の防御は、セキュリティ、プライバシ、公正性に対するさまざまなリスクから保護される。 現実のモデルは、複数の防御を組み合わせる必要がある複数の異なるリスクに対して同時に保護する必要がある。 しかし、MLモデルにおける防御と相反する相互作用を組み合わせることは非効率であり、1つ以上の防衛の有効性が著しく低下する。 実践者は、与えられた組み合わせが効果的かどうかを決定する方法が必要です。 効果的な組み合わせを実験的に特定することは、特に複数の防御を組み合わせなければならない場合、時間と費用がかかる可能性がある。 有効な組み合わせを特定するために、安価で使いやすい組み合わせ技術が必要です。 理想的には、組み合わせのテクニックは (a)正確(組み合わせが有効かどうかを正しく識別する) (b)スケーラブル(複数防御を兼ねる) (c)非侵襲的(防御の変更は不要)、及び (d) 一般(異なる種類の防衛に適用される) 先行研究ではいくつかのアドホックなテクニックが特定されているが、上記のすべての要件を満たすものは存在しない。 本稿では,有効防衛の組み合わせを特定するために,Def\Conという原理的組み合わせ手法を提案する。 Def\Conはすべての要件を満たし、事前の作業で探索された8つの組み合わせに対して90%の精度を達成し、この論文で実証的に評価した30の未探索組み合わせにおいて81%を達成します。

関連論文リスト

• Improving Adversarial Robustness via Decoupled Visual Representation Masking [65.73203518658224]
  本稿では,特徴分布の観点から,ロバストな特徴の2つの新しい特性を強調した。 現状の防衛手法は、上記の2つの問題にうまく対処することを目的としている。 具体的には、分離された視覚的表現マスキングに基づく、シンプルだが効果的な防御法を提案する。
  論文  参考訳（メタデータ） (2024-06-16T13:29:41Z)
• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Understanding and Improving Ensemble Adversarial Defense [4.504026914523449]
  我々は、アンサンブルの防御を理解するための新しい誤り理論を開発した。 我々は,対話的グローバル対人訓練(iGAT)という,アンサンブル対人防御を改善する効果的なアプローチを提案する。 iGATは、ホワイトボックスとブラックボックスの両方の攻撃下で、CIFAR10とCIFAR100データセットを使用して評価された最大17%のパフォーマンスを向上させることができる。
  論文  参考訳（メタデータ） (2023-10-27T20:43:29Z)
• Hindering Adversarial Attacks with Multiple Encrypted Patch Embeddings [13.604830818397629]
  効率性とロバスト性の両方に着目したキーベースの新たな防衛手法を提案する。 我々は,(1)効率的なトレーニングと(2)任意ランダム化という2つの大きな改善をともなう,以前の防衛基盤を構築した。 実験はImageNetデータセット上で行われ、提案された防御は最先端の攻撃兵器に対して評価された。
  論文  参考訳（メタデータ） (2023-09-04T14:08:34Z)
• Baseline Defenses for Adversarial Attacks Against Aligned Language Models [109.75753454188705]
  最近の研究は、テキストのモデレーションが防御をバイパスするジェイルブレイクのプロンプトを生み出すことを示している。 検出(複雑度に基づく)、入力前処理(言い換えと再帰化)、対人訓練の3種類の防衛について検討する。 テキストに対する既存の離散化の弱点と比較的高いコストの最適化が組み合わさって、標準適応攻撃をより困難にしていることがわかった。
  論文  参考訳（メタデータ） (2023-09-01T17:59:44Z)
• Among Us: Adversarially Robust Collaborative Perception by Consensus [50.73128191202585]
  複数のロボットは、シーン(例えば物体)を個人よりも協調的に知覚することができる。 本稿では,未知の攻撃者に対して一般化可能な新しいサンプリングベース防衛戦略であるROBOSACを提案する。 自律運転シナリオにおける協調3次元物体検出の課題に対して,本手法の有効性を検証した。
  論文  参考訳（メタデータ） (2023-03-16T17:15:25Z)
• Game Theoretic Mixed Experts for Combinational Adversarial Machine Learning [10.368343314144553]
  我々は、敵の攻撃と防御をアンサンブルするためのゲーム理論の枠組みを提供する。 本稿では, ランダム化変換, マルチモデル投票方式, 対向検出器アーキテクチャによる防御を目標とする3つの新しい攻撃アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-11-26T21:35:01Z)
• Mixed Strategies for Security Games with General Defending Requirements [37.02840909260615]
  Stackelbergのセキュリティゲームはディフェンダーとアタッカーの間で行われ、ディフェンダーは複数のターゲットに限られたリソースを割り当てる必要がある。 そこで本研究では,ごく少数の戦略のみを用いる混合戦略を計算し,効率的な近似パチングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-04-26T08:56:39Z)
• Theoretical Study of Random Noise Defense against Query-Based Black-Box Attacks [72.8152874114382]
  本研究では、クエリベースのブラックボックス攻撃に対するランダムノイズ防御(RND)と呼ばれる単純だが有望な防御手法を検討する。 軽量で、既製のモデルやその他の防衛戦略と直接組み合わせることができます。 本研究では,クエリベースのブラックボックス攻撃に対する rnd の防御効果と対応する適応攻撃がマグニチュード比に大きく依存することを示すための理論的解析を行った。
  論文  参考訳（メタデータ） (2021-04-23T08:39:41Z)
• Adversarial Robustness by Design through Analog Computing and Synthetic Gradients [80.60080084042666]
  光コプロセッサにインスパイアされた敵攻撃に対する新しい防御機構を提案する。 ホワイトボックス設定では、我々の防御はランダム投影のパラメータを難読化することで機能する。 光学系におけるランダムプロジェクションとバイナライゼーションの組み合わせにより、様々な種類のブラックボックス攻撃に対するロバスト性も向上する。
  論文  参考訳（メタデータ） (2021-01-06T16:15:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。