Fugu-MT 論文翻訳(概要): Disrupting Model Training with Adversarial Shortcuts

論文の概要: Disrupting Model Training with Adversarial Shortcuts

arxiv url: http://arxiv.org/abs/2106.06654v1
Date: Sat, 12 Jun 2021 01:04:41 GMT
ステータス: 処理完了
システム内更新日: 2021-06-15 16:17:02.773211
Title: Disrupting Model Training with Adversarial Shortcuts
Title（参考訳）: 逆ショートカットによる破壊モデルトレーニング
Authors: Ivan Evtimov and Ian Covert and Aditya Kusupati and Tadayoshi Kohno
Abstract要約: 画像分類設定のための概念実証手法を提案する。本稿では,モデルが意味的特徴よりも非破壊的な信号に頼ることを奨励する,敵対的ショートカットの概念に基づく手法を提案する。
参考スコア（独自算出の注目度）: 12.31803688544684
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: When data is publicly released for human consumption, it is unclear how to prevent its unauthorized usage for machine learning purposes. Successful model training may be preventable with carefully designed dataset modifications, and we present a proof-of-concept approach for the image classification setting. We propose methods based on the notion of adversarial shortcuts, which encourage models to rely on non-robust signals rather than semantic features, and our experiments demonstrate that these measures successfully prevent deep learning models from achieving high accuracy on real, unmodified data examples.
Abstract（参考訳）: データの公開が人間の消費のために行われる場合、機械学習の目的での不正使用を防止する方法が不明である。モデルトレーニングの成功は、慎重に設計されたデータセット修正によって防止可能であり、画像分類設定のための概念実証アプローチを提案する。本研究では, モデルが意味的特徴よりも非破壊的な信号に頼ることを奨励する対向的ショートカットの概念に基づく手法を提案する。

関連論文リスト

Adversarial Robustification via Text-to-Image Diffusion Models [56.37291240867549]
アドリラルロバスト性は、ニューラルネットワークをエンコードする難しい性質として伝統的に信じられてきた。データを使わずに敵の堅牢性を実現するために,スケーラブルでモデルに依存しないソリューションを開発した。
論文参考訳（メタデータ） (2024-07-26T10:49:14Z)
Nonlinear Transformations Against Unlearnable Datasets [4.876873339297269]
自動スクラップは、データ所有者の許可なしにディープラーニングモデルのデータを収集する一般的な方法として際立っている。近年,このデータ収集手法に関するプライバシー問題に取り組み始めている。学習不可能(unlearnable)な例と呼ばれるこれらのアプローチによって生成されたデータは、ディープラーニングモデルによって"学習"される。
論文参考訳（メタデータ） (2024-06-05T03:00:47Z)
Segue: Side-information Guided Generative Unlearnable Examples for Facial Privacy Protection in Real World [64.4289385463226]
生成不可能な例としては、Segue: Side-information guided Generative unlearnable Exampleを提案する。転送性を向上させるために,真のラベルや擬似ラベルなどの側面情報を導入する。 JPEG圧縮、敵対的トレーニング、およびいくつかの標準的なデータ拡張に抵抗することができる。
論文参考訳（メタデータ） (2023-10-24T06:22:37Z)
Flew Over Learning Trap: Learn Unlearnable Samples by Progressive Staged Training [28.17601195439716]
非学習技術は、公開のためのデータに知覚不可能な摂動を加えることで、学習不可能なサンプルを生成する。そこで本研究では,未学習サンプルのイメージ特徴と摂動特徴の両方を早期に学習できることを示す。本研究では,学習摂動機能において,モデルが過度に適合することを効果的に防止する段階訓練を提案する。
論文参考訳（メタデータ） (2023-06-03T09:36:16Z)
Re-thinking Data Availablity Attacks Against Deep Neural Networks [53.64624167867274]
本稿では、未学習例の概念を再検討し、既存のロバストな誤り最小化ノイズが不正確な最適化目標であることを示す。本稿では,計算時間要件の低減による保護性能の向上を図った新しい最適化パラダイムを提案する。
論文参考訳（メタデータ） (2023-05-18T04:03:51Z)
Enhancing Multiple Reliability Measures via Nuisance-extended Information Bottleneck [77.37409441129995]
トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
論文参考訳（メタデータ） (2023-03-24T16:03:21Z)
Learning to Unlearn: Instance-wise Unlearning for Pre-trained Classifiers [71.70205894168039]
そこでは、事前訓練されたモデルからインスタンスのセットに関する情報を削除することを目標としています。本稿では,1)表現レベルでの忘れを克服するために,敵の例を活用すること,2)不必要な情報を伝播するネットワークパラメータをピンポイントする重み付け指標を活用すること,の2つの方法を提案する。
論文参考訳（メタデータ） (2023-01-27T07:53:50Z)
Monitoring Model Deterioration with Explainable Uncertainty Estimation via Non-parametric Bootstrap [0.0]
一度デプロイされた機械学習モデルを監視することは難しい。ラベル付きデータが到達範囲を超えている場合、実際のシナリオでモデルをいつ再トレーニングするかを判断するのはさらに難しい。本研究では,非パラメトリックブートストラップ型不確実性推定とSHAP値を用いて説明可能な不確実性推定を行う。
論文参考訳（メタデータ） (2022-01-27T17:23:04Z)
Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
論文参考訳（メタデータ） (2021-12-17T18:29:56Z)
Data-Free Adversarial Perturbations for Practical Black-Box Attack [25.44755251319056]
本研究では, 学習データ分布の知識を必要とせずに, 対象モデルを騙し, 対向的摂動を創り出すためのデータフリー手法を提案する。提案手法は,攻撃者が訓練データにアクセスできない場合でも,現在のディープラーニングモデルが依然として危険であることを実証的に示す。
論文参考訳（メタデータ） (2020-03-03T02:22:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。