Fugu-MT 論文翻訳(概要): Hybrid Adversarial Defence for Natural Language Understanding Tasks

論文の概要: Hybrid Adversarial Defence for Natural Language Understanding Tasks

arxiv url: http://arxiv.org/abs/2606.04612v1
Date: Wed, 03 Jun 2026 08:49:15 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-04 20:44:18.636535
Title: Hybrid Adversarial Defence for Natural Language Understanding Tasks
Title（参考訳）: 自然言語理解タスクのためのハイブリッド・ディバイザ・ディフェンス
Authors: Manar Abouzaid, Yang Wang, Chenghua Lin, Stuart E. Middleton,
Abstract要約: 本研究では,エントロピーモデル,不確実性モデル,幾何学的モデルを組み合わせたハイブリッド・ディフェンス・フレームワークについて検討する。その結果, エントロピー, 不確実性, 幾何学的特徴の組み合わせは, 一つの特徴のみを用いることよりも, より効果的な防御戦略をもたらすことがわかった。
参考スコア（独自算出の注目度）: 21.620920497324207
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large Language Models (LLMs) are vulnerable both to hallucination and adversarial manipulation. Although these problems are closely related, existing defences typically address them separately. We investigate a hybrid defence framework that combines entropy-based models, designed to reduce hallucinations, with uncertainty-based models and geometric-based models, designed to reduce vulnerability. Under in-domain tests on Natural Language Understanding datasets (FEVER, HotpotQA, CSQA, SIQA) we find our hybrid model improves both clean-task performance (up to 43.34\% increase in accuracy) and adversarial robustness (up to 64.92\% improvement in accuracy and 62.27\% reduction in attack success rate). For out-of-distribution datasets (AeroEngQA, CPIQA) we see similar adversarial robustness from our hybrid model (up to 57.14\% improvement in accuracy). For prompt injection (SafeGuard) and jailbreak detection (AdvBench, DAN) datasets our hybrid model is also very strong (up to 51\% reduction in attack success rate compared to state of the art baseline models). Overall, our results show that combining entropy, uncertainty and geometric features provides a more effective defence strategy than using any single feature alone for both in-domain and out-of-distribution tasks.
Abstract（参考訳）: 大型言語モデル(LLM)は幻覚と敵対的操作の両方に対して脆弱である。これらの問題は密接な関係にあるが、既存の防衛はそれらを個別に扱うのが一般的である。本研究では,幻覚の低減を目的としたエントロピーモデルと,脆弱性の低減を目的とした不確実性モデルと幾何学的モデルを組み合わせたハイブリッドディフェンスフレームワークについて検討する。自然言語理解データセット(FEVER、HotpotQA、CSQA、SIQA)のドメイン内テストでは、我々のハイブリッドモデルはクリーンタスクのパフォーマンス(最大43.34倍の精度向上)と敵の堅牢性(最大64.92倍の精度向上と62.27倍の攻撃成功率低下)の両方を改善しています。アウト・オブ・ディストリビューション・データセット(AeroEngQA, CPIQA)では、我々のハイブリッド・モデルから同様の対向的ロバスト性(57.14\%の精度向上)が見られる。迅速なインジェクション(SafeGuard)とjailbreak検出(AdvBench, DAN)のために、当社のハイブリッドモデルも非常に強力です(最先端のベースラインモデルと比較して、攻撃の成功率を最大51倍に削減しています)。その結果, エントロピー, 不確実性, 幾何学的特徴を組み合わせることで, ドメイン内およびアウト・オブ・ディストリビューションのタスクに単独で使用するよりも, より効果的な防御戦略が得られた。

関連論文リスト

MARS: A Malignity-Aware Backdoor Defense in Federated Learning [51.77354308287098]
最近提案されたSOTA攻撃(3DFed)は、ディフェンダーがバックドアモデルを受け入れたかどうかを判断するためにインジケータ機構を使用する。本稿では,各ニューロンの有害な範囲を示すためにバックドアエネルギーを利用するMARS(Maignity-Aware backdooR defenSe)を提案する。実験により、MARSはSOTAのバックドア攻撃に対して防御でき、既存の防御を著しく上回っていることが示された。
論文参考訳（メタデータ） (2025-09-21T14:50:02Z)
Differential Robustness in Transformer Language Models: Empirical Evaluation Under Adversarial Text Attacks [3.3772986620114387]
RoBERTa-BaseとFlanT5は、高度な攻撃を受けた場合でも精度を保ち、優れたレジリエンスを示した。 BERT-Baseはかなりの脆弱性を示し、TextFoolerはモデルの精度を48%から3%に下げて93.75%の成功率を達成した。
論文参考訳（メタデータ） (2025-09-05T21:43:06Z)
MISLEADER: Defending against Model Extraction with Ensembles of Distilled Models [56.09354775405601]
モデル抽出攻撃は、クエリアクセスを通じてブラックボックスモデルの機能を複製することを目的としている。既存のディフェンスでは、アタッカークエリにはオフ・オブ・ディストリビューション(OOD)サンプルがあることを前提としており、不審な入力を検出し破壊することができる。 OOD仮定に依存しない新しい防衛戦略であるMISLEADERを提案する。
論文参考訳（メタデータ） (2025-06-03T01:37:09Z)
Defending Deep Neural Networks against Backdoor Attacks via Module Switching [15.979018992591032]
ディープニューラルネットワーク(DNN)のパラメータの指数関数的増加は、独立トレーニングのコストを大幅に高めた。オープンソースモデルは、バックドア攻撃のような悪意のある脅威に対してより脆弱である。本稿では,モデルの伝搬経路内で,このような突発的相関を破るモジュールスイッチング手法を提案する。
論文参考訳（メタデータ） (2025-04-08T11:01:07Z)
CopyrightShield: Enhancing Diffusion Model Security against Copyright Infringement Attacks [61.06621533874629]
拡散モデルは、攻撃者が戦略的に修正された非侵害画像をトレーニングセットに注入する著作権侵害攻撃に弱い。まず、上記の攻撃に対して防御するための防御フレームワーク、PhiliptyShieldを提案する。実験により,PhiliptyShieldは2つの攻撃シナリオで有毒なサンプル検出性能を著しく向上することが示された。
論文参考訳（メタデータ） (2024-12-02T14:19:44Z)
A Hybrid Defense Strategy for Boosting Adversarial Robustness in Vision-Language Models [9.304845676825584]
本稿では,複数の攻撃戦略と高度な機械学習技術を統合した,新たな敵訓練フレームワークを提案する。 CIFAR-10 や CIFAR-100 などの実世界のデータセットで行った実験により,提案手法がモデルロバスト性を大幅に向上することを示した。
論文参考訳（メタデータ） (2024-10-18T23:47:46Z)
Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
論文参考訳（メタデータ） (2023-06-06T11:44:42Z)
FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
論文参考訳（メタデータ） (2022-10-23T22:24:03Z)
Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
論文参考訳（メタデータ） (2021-05-31T17:01:05Z)
A Data Augmentation-based Defense Method Against Adversarial Attacks in Neural Networks [7.943024117353317]
そこで本研究では,実生活制約に適合した完全ホワイトボックス攻撃を効果的に無効化する軽量防衛手法を開発した。我々のモデルは、50発のBPDAによる高度な適応攻撃に耐えることができ、攻撃成功率をほぼゼロに抑えながら、目標モデルが約80%の精度を維持するのに役立ちます。
論文参考訳（メタデータ） (2020-07-30T08:06:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。