論文の概要: Adversarial Turing Patterns from Cellular Automata
- arxiv url: http://arxiv.org/abs/2011.09393v3
- Date: Tue, 6 Apr 2021 08:59:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-24 03:19:45.387612
- Title: Adversarial Turing Patterns from Cellular Automata
- Title（参考訳）: セルオートマタの対向的チューリングパターン
- Authors: Nurislam Tursynbek, Ilya Vilkoviskiy, Maria Sindeeva, Ivan Oseledets
- Abstract要約: 画像領域では、これらの摂動を表すパターンと古典的なチューリングパターンの間にある種の視覚的類似性がある。
本稿では,セルラーオートマトンによって生成されたチューリングパターンを普遍的な摂動として利用し,ディープラーニングモデルの性能を著しく低下させることを示す。
- 参考スコア（独自算出の注目度）: 4.678833099211129
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: State-of-the-art deep classifiers are intriguingly vulnerable to universal
adversarial perturbations: single disturbances of small magnitude that lead to
misclassification of most in-puts. This phenomena may potentially result in a
serious security problem. Despite the extensive research in this area,there is
a lack of theoretical understanding of the structure of these perturbations. In
image domain, there is a certain visual similarity between patterns, that
represent these perturbations, and classical Turing patterns, which appear as a
solution of non-linear partial differential equations and are underlying
concept of many processes in nature. In this paper,we provide a theoretical
bridge between these two different theories, by mapping a simplified algorithm
for crafting universal perturbations to (inhomogeneous) cellular automata,the
latter is known to generate Turing patterns. Furthermore,we propose to use
Turing patterns, generated by cellular automata, as universal perturbations,
and experimentally show that they significantly degrade the performance of deep
learning models. We found this method to be a fast and efficient way to create
a data-agnostic quasi-imperceptible perturbation in the black-box scenario. The
source code is available at https://github.com/NurislamT/advTuring.
- Abstract（参考訳）: 最先端の深層分類器は、普遍的敵対的摂動(英語版)に対して興味深いほど脆弱である。
この現象は深刻なセキュリティ問題を引き起こす可能性がある。
この領域での広範な研究にもかかわらず、これらの摂動の構造に関する理論的理解が欠けている。
画像領域では、これらの摂動を表すパターンと、非線形偏微分方程式の解として現れる古典的チューリングパターンの間にはある種の視覚的類似性があり、自然界における多くの過程の根底にある概念である。
本稿では,この2つの理論の間に理論的な橋渡しを行い,普遍摂動を(不均一な)セルオートマトンにマッピングする単純化されたアルゴリズムを用いてチューリングパターンを生成する。
さらに,セルオートマトンが生成するチューリングパターンを普遍的な摂動として使用し,ディープラーニングモデルの性能を著しく低下させることを示す。
この手法は,ブラックボックスシナリオにおいて,データ非依存な準知覚可能な摂動を生成するための高速かつ効率的な方法であることがわかった。
ソースコードはhttps://github.com/NurislamT/advTuring.comで入手できる。
関連論文リスト
- Unsupervised Learning of Invariance Transformations [105.54048699217668]
近似グラフ自己同型を見つけるためのアルゴリズムフレームワークを開発する。
重み付きグラフにおける近似自己同型を見つけるために、このフレームワークをどのように利用できるかについて議論する。
論文 参考訳（メタデータ） (2023-07-24T17:03:28Z) - Transformers Learn Shortcuts to Automata [52.015990420075944]
低深度変換器は任意の有限状態オートマトンを計算できる。
我々は,$O(log T)$レイヤを持つ変換器が,長さ$T$の入力シーケンス上で,オートマトンを正確に再現可能であることを示す。
さらに、これらの解の脆性について検討し、潜在的な緩和を提案する。
論文 参考訳（メタデータ） (2022-10-19T17:45:48Z) - The Transitive Information Theory and its Application to Deep Generative
Models [0.0]
変分オートエンコーダ(VAE)は2つの反対方向に押される。
既存の方法では、圧縮と再構成の間のレート歪みのトレードオフに問題を絞り込む。
一般化のために学習した表現を再結合する機構とともに,非交叉表現の階層構造を学習するシステムを開発する。
論文 参考訳（メタデータ） (2022-03-09T22:35:02Z) - Meta Adversarial Perturbations [66.43754467275967]
メタ逆境摂動(MAP)の存在を示す。
MAPは1段階の上昇勾配更新によって更新された後、自然画像を高い確率で誤分類する。
これらの摂動は画像に依存しないだけでなく、モデルに依存しないものであり、単一の摂動は見えないデータポイントと異なるニューラルネットワークアーキテクチャにまたがってうまく一般化される。
論文 参考訳（メタデータ） (2021-11-19T16:01:45Z) - Generalization of Neural Combinatorial Solvers Through the Lens of
Adversarial Robustness [68.97830259849086]
ほとんどのデータセットは単純なサブプロブレムのみをキャプチャし、おそらくは突発的な特徴に悩まされる。
本研究では, 局所的な一般化特性である対向ロバスト性について検討し, 厳密でモデル固有な例と突発的な特徴を明らかにする。
他のアプリケーションとは異なり、摂動モデルは知覚できないという主観的な概念に基づいて設計されているため、摂動モデルは効率的かつ健全である。
驚くべきことに、そのような摂動によって、十分に表現力のあるニューラルソルバは、教師あり学習で共通する正確さと悪質さのトレードオフの限界に悩まされない。
論文 参考訳（メタデータ） (2021-10-21T07:28:11Z) - Pattern Inversion as a Pattern Recognition Method for Machine Learning [0.0]
本稿では,パターン認識におけるインデクシングに基づく手法について論じる。
パターン認識アプリケーションでは、このようなインデックス化手法が、完全に反転したファイルの逆パターンに取って代わることが示されている。
本稿では、新しいパターン変換を利用するパターン反転形式とその教師なしインスタント学習への応用について論じる。
論文 参考訳（メタデータ） (2021-08-15T10:25:51Z) - High-dimensional separability for one- and few-shot learning [58.8599521537]
この作業は、実用的な質問、人工知能(AI)エラーの修正によって進められている。
特殊な外部デバイスである修正器が開発されている。従来のAIシステムを変更することなく、迅速かつ非イテレーティブなシステム修正を提供する必要がある。
AIシステムの新しいマルチコレクタが提示され、深層畳み込みニューラルネットワークによってエラーを予測し、新しいクラスのオブジェクトを学習する例が紹介される。
論文 参考訳（メタデータ） (2021-06-28T14:58:14Z) - Topological Obstructions to Autoencoding [4.2056926734482065]
データセットの内在的および外在的トポロジがオートエンコーダの挙動にどのように影響するかを示す。
この分析は、オートエンコーダが異常な「信号」を識別するのに失敗したモック「バンプハント」の議論で基礎となる。
論文 参考訳（メタデータ） (2021-02-16T19:00:00Z) - Why Adversarial Interaction Creates Non-Homogeneous Patterns: A
Pseudo-Reaction-Diffusion Model for Turing Instability [10.933825676518195]
交叉相互作用を持つニューロン系のチューリング様パターンを観察する。
本稿では,これらの現象を過小評価するメカニズムを説明するための擬似反応拡散モデルを提案する。
論文 参考訳（メタデータ） (2020-10-01T16:09:22Z) - Deep Variational Network Toward Blind Image Restoration [60.45350399661175]
ブラインド画像復元はコンピュータビジョンでは一般的だが難しい問題である。
両利点を両立させることを目的として,新しいブラインド画像復元手法を提案する。
画像デノイングと超解像という2つの典型的なブラインド赤外線タスクの実験により,提案手法が現状よりも優れた性能を達成できることが実証された。
論文 参考訳（メタデータ） (2020-08-25T03:30:53Z) - Universal Adversarial Perturbations: A Survey [0.0]
深いニューラルネットワークは敵の摂動に影響を受けやすい。
これらの摂動は、入力画像に知覚的な変更を加えることなく、ネットワークの予測を変更させる可能性がある。
我々は、普遍的な摂動を生成するための様々なデータ駆動型およびデータ非依存の手法について、詳細な議論を行う。
論文 参考訳（メタデータ） (2020-05-16T20:18:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。