論文の概要: IAE: Irony-based Adversarial Examples for Sentiment Analysis Systems

• arxiv url: http://arxiv.org/abs/2411.07850v1
• Date: Tue, 12 Nov 2024 15:01:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-13 13:18:54.186962
• Title: IAE: Irony-based Adversarial Examples for Sentiment Analysis Systems
• Title（参考訳）: IAE:Irony-based Adversarial Examples for Sentiment Analysis Systems
• Authors: Xiaoyin Yi, Jiacheng Huang,
• Abstract要約: 我々は,単純な文を皮肉文に変換する手法であるIrony-based Adversarial Examples (IAE)を提案する。 IAEはIronyの修辞的な装置を利用しており、意図された意味は文字通りの解釈とは反対である。 IAE攻撃を受けると、感情分析タスクにおける最先端のディープラーニングモデルの性能が著しく低下することが実証された。
• 参考スコア（独自算出の注目度）: 4.118390893942461
• License:
• Abstract: Adversarial examples, which are inputs deliberately perturbed with imperceptible changes to induce model errors, have raised serious concerns for the reliability and security of deep neural networks (DNNs). While adversarial attacks have been extensively studied in continuous data domains such as images, the discrete nature of text presents unique challenges. In this paper, we propose Irony-based Adversarial Examples (IAE), a method that transforms straightforward sentences into ironic ones to create adversarial text. This approach exploits the rhetorical device of irony, where the intended meaning is opposite to the literal interpretation, requiring a deeper understanding of context to detect. The IAE method is particularly challenging due to the need to accurately locate evaluation words, substitute them with appropriate collocations, and expand the text with suitable ironic elements while maintaining semantic coherence. Our research makes the following key contributions: (1) We introduce IAE, a strategy for generating textual adversarial examples using irony. This method does not rely on pre-existing irony corpora, making it a versatile tool for creating adversarial text in various NLP tasks. (2) We demonstrate that the performance of several state-of-the-art deep learning models on sentiment analysis tasks significantly deteriorates when subjected to IAE attacks. This finding underscores the susceptibility of current NLP systems to adversarial manipulation through irony. (3) We compare the impact of IAE on human judgment versus NLP systems, revealing that humans are less susceptible to the effects of irony in text.
• Abstract（参考訳）: モデルエラーを誘発するために、意図しない変更で意図的に摂動される入力である敵の例は、ディープニューラルネットワーク(DNN)の信頼性とセキュリティに深刻な懸念を提起している。 画像などの連続データ領域では、敵対的攻撃が広く研究されているが、テキストの離散的な性質は、固有の課題を示している。 本稿では,単純な文を皮肉文に変換する手法であるIrony-based Adversarial Examples (IAE)を提案する。 このアプローチは、意図された意味が文字通りの解釈とは逆であり、検出する文脈をより深く理解する必要がある、皮肉の修辞的な装置を利用する。 IAE法は、評価語を正確に特定し、適切なコロケーションで置換し、セマンティックコヒーレンスを維持しながら適切な皮肉要素でテキストを拡張する必要があるため、特に困難である。 本研究は,(1) 皮肉を用いてテキストの敵対的な例を生成するための戦略であるIAEを導入する。 この方法は、既存のアイアンコーパスに頼らず、様々なNLPタスクで逆テキストを作成するための汎用的なツールである。 2) IAE攻撃を受けると,感情分析タスクにおけるいくつかの最先端ディープラーニングモデルの性能が著しく低下することが実証された。 この発見は、現在のNLPシステムの皮肉による敵の操作に対する感受性を裏付けるものである。 (3)IAEが人間の判断とNLPシステムに与える影響を比較した結果,テキスト中の皮肉の影響を受けにくいことが明らかとなった。

関連論文リスト

• Intruding with Words: Towards Understanding Graph Injection Attacks at the Text Level [21.003091265006102]
  グラフニューラルネットワーク(GNN)は、様々なアプリケーションにまたがるが、敵の攻撃に弱いままである。 本稿では,テキストレベルでのグラフインジェクションアタック(GIA)の探索の先駆者となる。 埋め込みレベルで見過ごされた要素であるテキストの解釈可能性(英語版)が、攻撃強度において重要な役割を担っていることを示す。
  論文  参考訳（メタデータ） (2024-05-26T02:12:02Z)
• Semantic Stealth: Adversarial Text Attacks on NLP Using Several Methods [0.0]
  テキスト敵攻撃は、入力テキストを意図的に操作することで、モデルの予測を誤解させる。 本稿では,BERT,BERT-on-BERT,Fraud Bargain's Attack (FBA)について述べる。 PWWSは最も強力な敵として登場し、複数の評価シナリオで他のメソッドよりも一貫して優れています。
  論文  参考訳（メタデータ） (2024-04-08T02:55:01Z)
• Forging the Forger: An Attempt to Improve Authorship Verification via Data Augmentation [52.72682366640554]
  著者検証(英語: Authorship Verification, AV)とは、ある特定の著者によって書かれたか、別の人物によって書かれたのかを推測するテキスト分類タスクである。 多くのAVシステムは敵の攻撃に弱いことが示されており、悪意のある著者は、その書体スタイルを隠蔽するか、あるいは他の著者の書体を模倣することによって、積極的に分類者を騙そうとしている。
  論文  参考訳（メタデータ） (2024-03-17T16:36:26Z)
• Hidding the Ghostwriters: An Adversarial Evaluation of AI-Generated Student Essay Detection [29.433764586753956]
  大規模言語モデル(LLM)は、テキスト生成タスクにおいて顕著な機能を示した。 これらのモデルの利用には、盗作行為、偽ニュースの普及、教育演習における問題など、固有のリスクが伴う。 本稿では,AI生成した学生エッセイデータセットであるAIG-ASAPを構築し,このギャップを埋めることを目的とする。
  論文  参考訳（メタデータ） (2024-02-01T08:11:56Z)
• Lost In Translation: Generating Adversarial Examples Robust to Round-Trip Translation [66.33340583035374]
  本研究は, ラウンドトリップ翻訳における現在のテキスト対逆攻撃の堅牢性に関する包括的研究である。 筆者らは,現在最先端のテキストベースの6つの敵攻撃が,ラウンドトリップ翻訳後の有効性を維持していないことを実証した。 本稿では,機械翻訳を逆例生成のプロセスに組み込むことにより,この問題に対する介入に基づく解決策を提案する。
  論文  参考訳（メタデータ） (2023-07-24T04:29:43Z)
• In and Out-of-Domain Text Adversarial Robustness via Label Smoothing [64.66809713499576]
  多様なNLPタスクの基本モデルにおいて,ラベルの平滑化戦略によって提供される対角的ロバスト性について検討する。 実験の結果,ラベルのスムース化は,BERTなどの事前学習モデルにおいて,様々な攻撃に対して,逆方向の堅牢性を大幅に向上させることがわかった。 また,予測信頼度とロバスト性の関係を解析し,ラベルの平滑化が敵の例に対する過度な信頼誤差を減少させることを示した。
  論文  参考訳（メタデータ） (2022-12-20T14:06:50Z)
• Estimating the Adversarial Robustness of Attributions in Text with Transformers [44.745873282080346]
  リプシッツ連続性に基づくテキスト分類における帰属ロバスト性(AR)の新たな定義を確立する。 そこで我々は,テキスト分類における属性の厳密な推定を行う強力な敵であるTransformerExplanationAttack (TEA)を提案する。
  論文  参考訳（メタデータ） (2022-12-18T20:18:59Z)
• Learning-based Hybrid Local Search for the Hard-label Textual Attack [53.92227690452377]
  我々は,攻撃者が予測ラベルにのみアクセス可能な,滅多に調査されていないが厳格な設定,すなわちハードラベル攻撃を考える。 そこで本研究では,Learning-based Hybrid Local Search (LHLS)アルゴリズムという,新たなハードラベル攻撃を提案する。 我々のLHLSは、攻撃性能と敵の品質に関する既存のハードラベル攻撃を著しく上回っている。
  論文  参考訳（メタデータ） (2022-01-20T14:16:07Z)
• ADC: Adversarial attacks against object Detection that evade Context consistency checks [55.8459119462263]
  文脈整合性チェックさえも、適切に構築された敵の例に対して脆弱であることを示す。 このような防御を覆す実例を生成するための適応型フレームワークを提案する。 我々の結果は、コンテキストを堅牢にモデル化し、一貫性をチェックする方法はまだ未解決の問題であることを示している。
  論文  参考訳（メタデータ） (2021-10-24T00:25:09Z)
• Randomized Substitution and Vote for Textual Adversarial Example Detection [6.664295299367366]
  一連の研究により、自然なテキスト処理モデルが敵の例に弱いことが示されている。 我々はランダム化代用投票法(RS&V)と呼ばれる新しいテキスト対逆例検出法を提案する。 3つのベンチマークデータセットに対する実証的な評価は、RS&Vが既存の検出方法よりも、テキストの逆例をよりうまく検出できることを示している。
  論文  参考訳（メタデータ） (2021-09-13T04:17:58Z)
• Exploring Robustness of Unsupervised Domain Adaptation in Semantic Segmentation [74.05906222376608]
  クリーンな画像とそれらの逆の例との一致を、出力空間における対照的な損失によって最大化する、逆向きの自己スーパービジョンUDA(ASSUDA)を提案する。 i) セマンティックセグメンテーションにおけるUDA手法のロバスト性は未解明のままであり, (ii) 一般的に自己スーパービジョン(回転やジグソーなど) は分類や認識などのイメージタスクに有効であるが, セグメンテーションタスクの識別的表現を学習する重要な監視信号の提供には失敗している。
  論文  参考訳（メタデータ） (2021-05-23T01:50:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。