論文の概要: Generating Adversarial Examples with an Optimized Quality
- arxiv url: http://arxiv.org/abs/2007.00146v1
- Date: Tue, 30 Jun 2020 23:05:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-15 05:01:56.674525
- Title: Generating Adversarial Examples with an Optimized Quality
- Title(参考訳): 最適品質を持つ逆例の生成
- Authors: Aminollah Khormali, DaeHun Nyang, David Mohaisen
- Abstract要約: ディープラーニングモデルは、Adversarial Examples(AE)に対して脆弱であり、これらのモデルを欺くために慎重に作られたサンプルである。
近年の研究では、新たな敵攻撃法が導入されたが、工芸品の品質は保証されていない。
本稿では,画像品質評価(IQA)メトリクスをAEの設計・生成プロセスに組み込む。
- 参考スコア(独自算出の注目度): 12.747258403133035
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning models are widely used in a range of application areas, such as
computer vision, computer security, etc. However, deep learning models are
vulnerable to Adversarial Examples (AEs),carefully crafted samples to deceive
those models. Recent studies have introduced new adversarial attack methods,
but, to the best of our knowledge, none provided guaranteed quality for the
crafted examples as part of their creation, beyond simple quality measures such
as Misclassification Rate (MR). In this paper, we incorporateImage Quality
Assessment (IQA) metrics into the design and generation process of AEs. We
propose an evolutionary-based single- and multi-objective optimization
approaches that generate AEs with high misclassification rate and explicitly
improve the quality, thus indistinguishability, of the samples, while
perturbing only a limited number of pixels. In particular, several IQA metrics,
including edge analysis, Fourier analysis, and feature descriptors, are
leveraged into the process of generating AEs. Unique characteristics of the
evolutionary-based algorithm enable us to simultaneously optimize the
misclassification rate and the IQA metrics of the AEs. In order to evaluate the
performance of the proposed method, we conduct intensive experiments on
different well-known benchmark datasets(MNIST, CIFAR, GTSRB, and Open Image
Dataset V5), while considering various objective optimization configurations.
The results obtained from our experiments, when compared with the exist-ing
attack methods, validate our initial hypothesis that the use ofIQA metrics
within generation process of AEs can substantially improve their quality, while
maintaining high misclassification rate.Finally, transferability and human
perception studies are provided, demonstrating acceptable performance.
- Abstract(参考訳): ディープラーニングモデルは、コンピュータビジョンやコンピュータセキュリティなど、さまざまなアプリケーション領域で広く使用されている。
しかし、ディープラーニングモデルは、Adversarial Examples (AEs) に対して脆弱であり、これらのモデルを騙すために慎重に作られたサンプルである。
近年の研究では、新たな敵攻撃法が導入されたが、我々の知る限り、ミスクラス化率(MR)のような単純な品質基準を超えて、工芸品に保証された品質は提供されなかった。
本稿では,画像品質評価(IQA)メトリクスをAEの設計・生成プロセスに組み込む。
提案手法は,AEを高い誤分類率で生成し,サンプルの品質,すなわち識別不能性を明示的に向上すると同時に,限られた画素数しか摂動しない進化型単目的・多目的最適化手法を提案する。
特に、エッジ分析、フーリエ分析、特徴記述子など、いくつかのIQAメトリクスがAEの生成プロセスに活用されている。
進化的アルゴリズムの特異な特徴は、AEsの誤分類率とIQAメトリクスを同時に最適化することを可能にする。
提案手法の性能を評価するため,多種多様なベンチマークデータセット(MNIST, CIFAR, GTSRB, Open Image Dataset V5)について,客観的な最適化構成を考慮した集中的な実験を行った。
実験の結果,既存の攻撃法と比較して,AEの生成過程におけるIQA測定値の使用は,高い誤分類率を維持しつつも,品質を著しく向上させることができるという仮説が得られた。
関連論文リスト
- Uncertainty-aware No-Reference Point Cloud Quality Assessment [25.543217625958462]
本研究は,非参照点クラウド品質評価(PCQA)のための最初の確率的アーキテクチャを提案する。
提案手法は条件付き変分オートエンコーダ(AE)を用いて被験者の品質判定をモデル化できる。
実験により,本手法は従来の最先端手法を大きなマージンで模倣し,データセット間実験を行うことを示す。
論文 参考訳(メタデータ) (2024-01-17T02:25:42Z) - QualEval: Qualitative Evaluation for Model Improvement [86.29905469151566]
モデル改善のための手段として,自動定性評価による定量的スカラー指標を付加するQualEvalを提案する。
QualEvalは強力なLCM推論器と新しいフレキシブルリニアプログラミングソルバを使用して、人間の読みやすい洞察を生成する。
例えば、その洞察を活用することで、Llama 2モデルの絶対性能が最大15%向上することを示す。
論文 参考訳(メタデータ) (2023-11-06T00:21:44Z) - Diffusion-based Visual Counterfactual Explanations -- Towards Systematic
Quantitative Evaluation [64.0476282000118]
視覚的対物的説明法(VCE)の最新手法は、深い生成モデルの力を利用して、印象的な画質の高次元画像の新しい例を合成する。
評価手順が大きく異なり,個々の実例の視覚検査や小規模なユーザスタディなど,これらのVCE手法の性能を比較することは,現時点では困難である。
本稿では,VCE手法の体系的,定量的評価のためのフレームワークと,使用する指標の最小セットを提案する。
論文 参考訳(メタデータ) (2023-08-11T12:22:37Z) - Uncertainty-Driven Action Quality Assessment [67.20617610820857]
本稿では,複数の判定スコアの多様性を捉えるために,不確実性駆動型AQA (UD-AQA) という新しい確率モデルを提案する。
我々は,AQA回帰損失の再重み付けに使用される各予測の不確かさを推定する。
提案手法は,オリンピックイベントMTL-AQAとFineDivingの3つのベンチマークと,手術スキルJIGSAWSデータセットの3つのベンチマークで比較結果を得た。
論文 参考訳(メタデータ) (2022-07-29T07:21:15Z) - FUNQUE: Fusion of Unified Quality Evaluators [42.41484412777326]
核融合による品質評価は、高性能な品質モデルを開発するための強力な方法として登場した。
統一品質評価器を融合した品質モデルであるFUNQUEを提案する。
論文 参考訳(メタデータ) (2022-02-23T00:21:43Z) - Few-shot Quality-Diversity Optimization [50.337225556491774]
品質多様性(QD)の最適化は、強化学習における知覚的最小値とスパース報酬を扱う上で効果的なツールであることが示されている。
本稿では,タスク分布の例から,パラメータ空間の最適化によって得られる経路の情報を利用して,未知の環境でQD手法を初期化する場合,数発の適応が可能であることを示す。
ロボット操作とナビゲーションベンチマークを用いて、疎密な報酬設定と密集した報酬設定の両方で実施された実験は、これらの環境でのQD最適化に必要な世代数を著しく削減することを示している。
論文 参考訳(メタデータ) (2021-09-14T17:12:20Z) - How Faithful is your Synthetic Data? Sample-level Metrics for Evaluating
and Auditing Generative Models [95.8037674226622]
ドメインに依存しない方法で生成モデルの忠実度,多様性,一般化性能を特徴付ける3次元評価指標を提案する。
当社のメトリクスは、精度リコール分析により統計的発散測定を統合し、モデル忠実度と多様性のサンプルおよび分布レベルの診断を可能にします。
論文 参考訳(メタデータ) (2021-02-17T18:25:30Z) - Uncertainty-Aware Blind Image Quality Assessment in the Laboratory and
Wild [98.48284827503409]
我々は,テキスト化BIQAモデルを開発し,それを合成的および現実的歪みの両方で訓練するアプローチを提案する。
我々は、多数の画像ペアに対してBIQAのためのディープニューラルネットワークを最適化するために、忠実度損失を用いる。
6つのIQAデータベースの実験は、実験室と野生動物における画像品質を盲目的に評価する学習手法の可能性を示唆している。
論文 参考訳(メタデータ) (2020-05-28T13:35:23Z) - Comparison of Image Quality Models for Optimization of Image Processing
Systems [41.57409136781606]
我々は、11のフル参照IQAモデルを使用して、4つの低レベル視覚タスクのためにディープニューラルネットワークをトレーニングします。
最適化された画像に対する主観的テストにより、それらの知覚的性能の観点から、競合するモデルのランク付けが可能となる。
論文 参考訳(メタデータ) (2020-05-04T09:26:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。