Fugu-MT 論文翻訳(概要): Attacking interpretable NLP systems

論文の概要: Attacking interpretable NLP systems

arxiv url: http://arxiv.org/abs/2507.16164v1
Date: Tue, 22 Jul 2025 02:20:00 GMT
ステータス: 翻訳完了
システム内更新日: 2025-07-23 21:34:13.933328
Title: Attacking interpretable NLP systems
Title（参考訳）: 解釈可能なNLPシステムへの攻撃
Authors: Eldor Abdukhamidov, Tamer Abuhmed, Joanna C. S. Santos, Mohammed Abuhamad,
Abstract要約: 本稿では,解釈可能な自然言語処理システムに対するブラックボックス攻撃であるAdvCharを紹介する。本稿では,AdvCharが入力サンプルの平均で2文字だけ変更することで,現在のディープラーニングモデルの予測精度を大幅に低減できることを示す。
参考スコア（独自算出の注目度）: 1.5074441766044933
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Studies have shown that machine learning systems are vulnerable to adversarial examples in theory and practice. Where previous attacks have focused mainly on visual models that exploit the difference between human and machine perception, text-based models have also fallen victim to these attacks. However, these attacks often fail to maintain the semantic meaning of the text and similarity. This paper introduces AdvChar, a black-box attack on Interpretable Natural Language Processing Systems, designed to mislead the classifier while keeping the interpretation similar to benign inputs, thus exploiting trust in system transparency. AdvChar achieves this by making less noticeable modifications to text input, forcing the deep learning classifier to make incorrect predictions and preserve the original interpretation. We use an interpretation-focused scoring approach to determine the most critical tokens that, when changed, can cause the classifier to misclassify the input. We apply simple character-level modifications to measure the importance of tokens, minimizing the difference between the original and new text while generating adversarial interpretations similar to benign ones. We thoroughly evaluated AdvChar by testing it against seven NLP models and three interpretation models using benchmark datasets for the classification task. Our experiments show that AdvChar can significantly reduce the prediction accuracy of current deep learning models by altering just two characters on average in input samples.
Abstract（参考訳）: 研究により、機械学習システムは理論と実践における敵の例に弱いことが示されている。これまでの攻撃は主に、人間と機械の知覚の違いを利用する視覚モデルに焦点を当てていたが、テキストベースのモデルもこれらの攻撃の犠牲になった。しかし、これらの攻撃はテキストの意味と類似性を維持するのに失敗することが多い。本稿では,解釈可能な自然言語処理システムに対するブラックボックス攻撃であるAdvCharを紹介する。 AdvCharは、テキスト入力に対する顕著な変更を減らし、ディープラーニングの分類器に誤った予測をさせ、元の解釈を保存するように強制することで、これを達成している。我々は、解釈中心のスコアリングアプローチを用いて、変更時に分類器が入力を誤分類する可能性がある最も重要なトークンを決定する。トークンの重要度を計測し,原文と新文の差を最小限に抑えつつ,良書と同様の対角的解釈を生成するために,簡易な文字レベルの修正を適用した。そこで我々は,AdvCharを7つのNLPモデルと3つの解釈モデルに対して評価し,評価を行った。実験の結果,AdvCharは入力サンプルの平均で2文字だけ変更することで,現在のディープラーニングモデルの予測精度を大幅に低減できることがわかった。

関連論文リスト

On Adversarial Examples for Text Classification by Perturbing Latent Representations [0.0]
テキスト分類における逆例に対して,ディープラーニングは脆弱であることを示す。この弱点は、ディープラーニングがそれほど堅牢ではないことを示している。我々は,テキスト分類器の頑健性を測定するフレームワークを,分類器の勾配を用いて構築する。
論文参考訳（メタデータ） (2024-05-06T18:45:18Z)
Forging the Forger: An Attempt to Improve Authorship Verification via Data Augmentation [52.72682366640554]
著者検証(英語: Authorship Verification, AV)とは、ある特定の著者によって書かれたか、別の人物によって書かれたのかを推測するテキスト分類タスクである。多くのAVシステムは敵の攻撃に弱いことが示されており、悪意のある著者は、その書体スタイルを隠蔽するか、あるいは他の著者の書体を模倣することによって、積極的に分類者を騙そうとしている。
論文参考訳（メタデータ） (2024-03-17T16:36:26Z)
Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
論文参考訳（メタデータ） (2023-03-14T16:11:47Z)
Identifying Adversarial Attacks on Text Classifiers [32.958568467774704]
本稿では,その生成にどの方法が使われたかを決定するために,逆テキストを解析する。最初のコントリビューションは、攻撃検出とラベル付けのための広範なデータセットです。第2のコントリビューションとして、このデータセットを使用して、攻撃識別のための多くの分類器を開発し、ベンチマークします。
論文参考訳（メタデータ） (2022-01-21T06:16:04Z)
Learning-based Hybrid Local Search for the Hard-label Textual Attack [53.92227690452377]
我々は,攻撃者が予測ラベルにのみアクセス可能な,滅多に調査されていないが厳格な設定,すなわちハードラベル攻撃を考える。そこで本研究では,Learning-based Hybrid Local Search (LHLS)アルゴリズムという,新たなハードラベル攻撃を提案する。我々のLHLSは、攻撃性能と敵の品質に関する既存のハードラベル攻撃を著しく上回っている。
論文参考訳（メタデータ） (2022-01-20T14:16:07Z)
Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
論文参考訳（メタデータ） (2021-10-24T05:46:03Z)
AES Systems Are Both Overstable And Oversensitive: Explaining Why And Proposing Defenses [66.49753193098356]
スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
論文参考訳（メタデータ） (2021-09-24T03:49:38Z)
A Differentiable Language Model Adversarial Attack on Text Classifiers [10.658675415759697]
自然言語処理のための新しいブラックボックス文レベルアタックを提案する。本手法は,事前学習した言語モデルを微調整して,逆例を生成する。提案手法は, 計算量と人的評価の両方において, 多様なNLP問題において, 競合相手よりも優れていることを示す。
論文参考訳（メタデータ） (2021-07-23T14:43:13Z)
BERT-Defense: A Probabilistic Model Based on BERT to Combat Cognitively Inspired Orthographic Adversarial Attacks [10.290050493635343]
敵対的攻撃は、ディープラーニングシステムの重要な盲点を露呈する。文字レベルの攻撃は通常入力ストリームにタイプミスを挿入する。トレーニングされていない反復的アプローチは,3ショット学習によって指導されるヒトの群集労働者と同等に実行可能であることを示す。
論文参考訳（メタデータ） (2021-06-02T20:21:03Z)
Learning Variational Word Masks to Improve the Interpretability of Neural Text Classifiers [21.594361495948316]
モデルの解釈可能性を改善するための新しい取り組みが始まったばかりで、既存の多くのメソッドでは、トレーニングの追加インプットとして事前情報または人的アノテーションが必要である。本稿では,タスク固有の重要な単語を自動的に学習し,分類に関する無関係な情報を低減し,最終的にモデル予測の解釈可能性を向上させるための変分語マスク(VMASK)手法を提案する。
論文参考訳（メタデータ） (2020-10-01T20:02:43Z)
Fundamental Tradeoffs between Invariance and Sensitivity to Adversarial Perturbations [65.05561023880351]
敵の例は誤分類を引き起こすために作られた悪意のある入力である。本稿では, 相補的障害モード, 不変性に基づく逆数例について検討する。感度に基づく攻撃に対する防御は、不変性に基づく攻撃に対するモデルの精度を積極的に損なうことを示す。
論文参考訳（メタデータ） (2020-02-11T18:50:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。