論文の概要: SAFER: A Structure-free Approach for Certified Robustness to Adversarial Word Substitutions

• arxiv url: http://arxiv.org/abs/2005.14424v1
• Date: Fri, 29 May 2020 07:15:19 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-26 22:38:32.008284
• Title: SAFER: A Structure-free Approach for Certified Robustness to Adversarial Word Substitutions
• Title（参考訳）: SAFER: 単語置換に対するロバスト性認定のための非構造的アプローチ
• Authors: Mao Ye, Chengyue Gong, Qiang Liu
• Abstract要約: 最先端のNLPモデルは、同義語置換のような人間の変換によってしばしば騙される。 入力文にランダムな単語置換を適用してアンサンブルを構成する,新しいランダム化平滑化手法を提案する。 本手法は,IMDBとAmazonのテキスト分類タスクにおいて,信頼性の高いロバスト性を示す最新手法を著しく上回っている。
• 参考スコア（独自算出の注目度）: 36.91111335989236
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: State-of-the-art NLP models can often be fooled by human-unaware transformations such as synonymous word substitution. For security reasons, it is of critical importance to develop models with certified robustness that can provably guarantee that the prediction is can not be altered by any possible synonymous word substitution. In this work, we propose a certified robust method based on a new randomized smoothing technique, which constructs a stochastic ensemble by applying random word substitutions on the input sentences, and leverage the statistical properties of the ensemble to provably certify the robustness. Our method is simple and structure-free in that it only requires the black-box queries of the model outputs, and hence can be applied to any pre-trained models (such as BERT) and any types of models (world-level or subword-level). Our method significantly outperforms recent state-of-the-art methods for certified robustness on both IMDB and Amazon text classification tasks. To the best of our knowledge, we are the first work to achieve certified robustness on large systems such as BERT with practically meaningful certified accuracy.
• Abstract（参考訳）: 最先端のNLPモデルは、同義語置換のような人間を意識しない変換によってしばしば騙される。 セキュリティ上の理由から、予測が任意の同義語置換によって変更できないことを確実に保証できる、認証された堅牢性を持つモデルを開発することが重要である。 本研究では,ランダムな単語置換を入力文に適用して確率的アンサンブルを構築する新しいランダム化平滑化手法に基づく認証ロバスト手法を提案し,ロバスト性を保証するためにアンサンブルの統計的特性を活用する。 提案手法は,モデル出力のブラックボックスクエリのみを必要とするため,事前学習されたモデル(BERTなど)や,任意の種類のモデル(ワールドレベルやサブワードレベル)に適用可能である。 本手法は,IMDBとAmazonのテキスト分類タスクにおいて,信頼性の高いロバスト性を示す最新手法を著しく上回っている。 私たちの知る限りでは、bertのような大規模システムにおいて、事実上有意義な認証精度で認証堅牢性を達成した最初の仕事です。

関連論文リスト

• CR-UTP: Certified Robustness against Universal Text Perturbations on Large Language Models [12.386141652094999]
  ランダムな平滑化に基づく既存の証明されたロバスト性は、入力固有のテキスト摂動の証明にかなりの可能性を示している。 ナイーブな方法は、単にマスキング比とマスキング攻撃トークンの可能性を増大させることであるが、認証精度と認証半径の両方を著しく低下させる。 本研究では,マスキングにおいて高い認証精度を維持する優れたプロンプトを識別する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-06-04T01:02:22Z)
• Towards Certified Probabilistic Robustness with High Accuracy [3.957941698534126]
  Adrialの例は、ニューラルネットワーク上に構築された多くのクリティカルシステムに対して、セキュリティ上の脅威となる。 確実に堅牢で正確なニューラルネットワークモデルを構築する方法はまだオープンな問題だ。 本稿では,高い精度と高い確率ロバスト性を実現することを目的とした新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-09-02T09:39:47Z)
• Text-CRS: A Generalized Certified Robustness Framework against Textual Adversarial Attacks [39.51297217854375]
  ランダムな平滑化に基づく自然言語処理(NLP)のための信頼性の高いロバストネスフレームワークであるText-CRSを提案する。 テキストCRSは、4つの異なる単語レベルの対数操作すべてに対処でき、精度が大幅に向上することを示す。 また,同義語置換攻撃に対する最先端認証よりも,単語レベルの4つの操作の精度と半径に関する最初のベンチマークも提供する。
  論文  参考訳（メタデータ） (2023-07-31T13:08:16Z)
• In and Out-of-Domain Text Adversarial Robustness via Label Smoothing [64.66809713499576]
  多様なNLPタスクの基本モデルにおいて,ラベルの平滑化戦略によって提供される対角的ロバスト性について検討する。 実験の結果,ラベルのスムース化は,BERTなどの事前学習モデルにおいて,様々な攻撃に対して,逆方向の堅牢性を大幅に向上させることがわかった。 また,予測信頼度とロバスト性の関係を解析し,ラベルの平滑化が敵の例に対する過度な信頼誤差を減少させることを示した。
  論文  参考訳（メタデータ） (2022-12-20T14:06:50Z)
• Confidence-aware Training of Smoothed Classifiers for Certified Robustness [75.95332266383417]
  我々は「ガウス雑音下での精度」を、入力に対する対角的ロバスト性の容易に計算可能なプロキシとして利用する。 実験の結果, 提案手法は, 最先端の訓練手法による信頼性向上を継続的に示すことがわかった。
  論文  参考訳（メタデータ） (2022-12-18T03:57:12Z)
• GSmooth: Certified Robustness against Semantic Transformations via Generalized Randomized Smoothing [40.38555458216436]
  一般的な意味変換に対する堅牢性を証明するための統一的な理論的枠組みを提案する。 GSmoothフレームワークでは,画像と画像の代理ネットワークを用いて複雑な変換を近似するスケーラブルなアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-06-09T07:12:17Z)
• Joint Differentiable Optimization and Verification for Certified Reinforcement Learning [91.93635157885055]
  安全クリティカル制御システムのためのモデルベース強化学習では,システム特性を正式に認定することが重要である。 本稿では,強化学習と形式検証を共同で行う枠組みを提案する。
  論文  参考訳（メタデータ） (2022-01-28T16:53:56Z)
• Quantifying Robustness to Adversarial Word Substitutions [24.164523751390053]
  深層学習に基づくNLPモデルは単語置換摂動に弱いことが判明した。 単語レベルの堅牢性を評価するための形式的枠組みを提案する。 メトリックは、BERTのような最先端のモデルが、いくつかの単語置換によって簡単に騙される理由を理解するのに役立ちます。
  論文  参考訳（メタデータ） (2022-01-11T08:18:39Z)
• SmoothMix: Training Confidence-calibrated Smoothed Classifiers for Certified Robustness [61.212486108346695]
  自己混合によるスムーズな分類器のロバスト性を制御するためのトレーニングスキームSmoothMixを提案する。 提案手法は, 厳密性に制限された原因として, 信頼性の低い, オフクラスに近いサンプルを効果的に同定する。 提案手法はスムーズな分類器の検証値である$ell$-robustnessを大幅に改善できることを示す。
  論文  参考訳（メタデータ） (2021-11-17T18:20:59Z)
• MASKER: Masked Keyword Regularization for Reliable Text Classification [73.90326322794803]
  文脈に基づく予測を容易にする微調整手法であるマスク付きキーワード正規化(MASKER)を提案する。 maskerはモデルを規則化し、他の単語からキーワードを再構築し、十分な文脈なしに低信頼の予測を行う。 分類精度を低下させることなくOOD検出とクロスドメインの一般化を改善したMASKERを提案する。
  論文  参考訳（メタデータ） (2020-12-17T04:54:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。