Fugu-MT 論文翻訳(概要): Visual Attack and Defense on Text

論文の概要: Visual Attack and Defense on Text

arxiv url: http://arxiv.org/abs/2008.10356v1
Date: Fri, 7 Aug 2020 15:44:58 GMT
ステータス: 処理完了
システム内更新日: 2022-11-02 00:36:33.922315
Title: Visual Attack and Defense on Text
Title（参考訳）: テキストによる視覚攻撃と防御
Authors: Shengjun Liu, Ningkang Jiang, Yuanbin Wu
Abstract要約: テキストの文字を視覚的に類似した文字に修正すると、検査システムやその他の条件を騙すためにスパムに悩まされることが多い。我々は、通常のテキストを理解する能力を失うことなく、攻撃を防御するためのビジョンベースモデルと敵の訓練を謝罪する。
参考スコア（独自算出の注目度）: 18.513619521807286
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Modifying characters of a piece of text to their visual similar ones often ap-pear in spam in order to fool inspection systems and other conditions, which we regard as a kind of adversarial attack to neural models. We pro-pose a way of generating such visual text attack and show that the attacked text are readable by humans but mislead a neural classifier greatly. We ap-ply a vision-based model and adversarial training to defense the attack without losing the ability to understand normal text. Our results also show that visual attack is extremely sophisticated and diverse, more work needs to be done to solve this.
Abstract（参考訳）: テキストの文字を視覚的に類似したものに変更することは、検査システムや他の条件を騙すために、しばしばスパムでap-pear(ap-pear)します。我々は、このような視覚的テキスト攻撃を生成する方法を提案し、攻撃されたテキストが人間によって読み取られるが、神経分類器を著しく誤解させることを示す。我々は、通常のテキストを理解する能力を失うことなく、攻撃を防御するための視覚モデルと敵の訓練を謝罪する。また,視覚攻撃は高度かつ多様であり,それを解決するためにはより多くの作業が必要であることを示した。

関連論文リスト

Vision-fused Attack: Advancing Aggressive and Stealthy Adversarial Text against Neural Machine Translation [24.237246648082085]
本稿では,視覚融合攻撃(VFA)フレームワークを提案する。そこで本研究では,ヒトのテキスト読解機構を整列させるために,認識が保持するテキスト選択戦略を提案する。
論文参考訳（メタデータ） (2024-09-08T08:22:17Z)
Vision-LLMs Can Fool Themselves with Self-Generated Typographic Attacks [62.34019142949628]
誤読テキストを画像に貼り付けるタイポグラフィーアタックは、CLIPのようなビジョンランゲージモデルの性能を損なうことが知られている。我々は、LVLMが自身に対する攻撃を発生させる2つの新しい、より効果的なTextitSelf-Generated攻撃を導入する。ベンチマークにより,自己生成攻撃が重大な脅威となり,LVLM(s)分類性能が最大33%低下することが判明した。
論文参考訳（メタデータ） (2024-02-01T14:41:20Z)
Large Language Models Are Better Adversaries: Exploring Generative Clean-Label Backdoor Attacks Against Text Classifiers [25.94356063000699]
バックドア攻撃は、トレーニングとテストデータに無害なトリガーを挿入することで、モデル予測を操作する。我々は、敵のトレーニング例を正しくラベル付けした、より現実的でより困難なクリーンラベル攻撃に焦点を当てる。私たちの攻撃であるLLMBkdは言語モデルを利用して、さまざまなスタイルベースのトリガをテキストに自動的に挿入します。
論文参考訳（メタデータ） (2023-10-28T06:11:07Z)
When Vision Fails: Text Attacks Against ViT and OCR [25.132777620934768]
テキストベース機械学習モデルは、テキストとして符号化された視覚的敵の例に対して、まだ脆弱であることを示す。ブラックボックス設定において、遺伝的アルゴリズムを用いて視覚的敵の例を生成する方法を示す。我々は、Facebook、Microsoft、IBM、Googleが発行したプロダクションモデルに対する敵対的な例を作成することで、これらの攻撃の有効性を実世界で実証する。
論文参考訳（メタデータ） (2023-06-12T11:26:08Z)
Adversarial Text Normalization [2.9434930072968584]
逆テキスト正規化器は、少ない計算オーバーヘッドで攻撃されたコンテンツのベースライン性能を回復する。テキスト正規化は文字レベルの攻撃に対してタスクに依存しない防御を提供する。
論文参考訳（メタデータ） (2022-06-08T19:44:03Z)
Putting words into the system's mouth: A targeted attack on neural machine translation using monolingual data poisoning [50.67997309717586]
本稿では、悪意のある敵が、バックトランスレーションを用いて訓練されたシステムのトレーニングセットに、モノリンガルテキストの少量の有毒サンプルを挿入する中毒攻撃を提案する。このサンプルは、パドリング誤報のような特定の標的となる翻訳行動を引き起こすように設計されている。有毒な例を作るための2つの方法を示し、トレーニングセットの0.02%にしか満たない少数の事例しか、攻撃を成功させるには不十分であることを示した。
論文参考訳（メタデータ） (2021-07-12T08:07:09Z)
Attack to Fool and Explain Deep Networks [59.97135687719244]
対人摂動における人為的意味のパターンの証拠を提供することによって、私たちは逆転する。我々の主な貢献は、その後視覚モデルを理解するためのツールに変換される、新しい実用的対人攻撃である。
論文参考訳（メタデータ） (2021-06-20T03:07:36Z)
Learning to Attack: Towards Textual Adversarial Attacking in Real-world Situations [81.82518920087175]
敵攻撃は、敵の例でディープニューラルネットワークを騙すことを目的としている。本稿では、攻撃履歴から学習し、より効率的に攻撃を開始することができる強化学習に基づく攻撃モデルを提案する。
論文参考訳（メタデータ） (2020-09-19T09:12:24Z)
Online Alternate Generator against Adversarial Attacks [144.45529828523408]
ディープラーニングモデルは、実際の画像に準知覚可能なノイズを加えることによって合成される敵の例に非常に敏感である。対象ネットワークのパラメータをアクセスしたり変更したりする必要のない,ポータブルな防御手法であるオンライン代替ジェネレータを提案する。提案手法は,入力画像のスクラッチから別の画像をオンライン合成することで,対向雑音を除去・破壊する代わりに機能する。
論文参考訳（メタデータ） (2020-09-17T07:11:16Z)
Defense of Word-level Adversarial Attacks via Random Substitution Encoding [0.5964792400314836]
コンピュータビジョンタスクにおけるディープニューラルネットワークに対する敵対的な攻撃は、モデルを保護するための多くの新しい技術を生み出しました。近年、自然言語処理(NLP)タスクの深層モデルに対する単語レベルの敵対攻撃は、例えば、感情分類ニューラルネットワークを騙して誤った判断を下すなど、強力な力を示している。本稿ではランダム置換(Random Substitution RSE)という,ニューラルネットワークのトレーニングプロセスにランダム置換を導入する新しいフレームワークを提案する。
論文参考訳（メタデータ） (2020-05-01T15:28:43Z)
Adversarial Attacks and Defenses: An Interpretation Perspective [80.23908920686625]
敵の攻撃と防御に関する最近の研究、特に機械学習の解釈の観点から概観する。モデル解釈(モデル解釈、英: model interpretation)または解釈可能な機械学習(英: interpretable machine learning)の目標は、モデルの動作メカニズムに対する人間の理解可能な用語を抽出することである。それぞれの解釈に対して、敵の攻撃や防御にどのように使用できるかについて詳述する。
論文参考訳（メタデータ） (2020-04-23T23:19:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。