論文の概要: Masks and Mimicry: Strategic Obfuscation and Impersonation Attacks on Authorship Verification

• arxiv url: http://arxiv.org/abs/2503.19099v1
• Date: Mon, 24 Mar 2025 19:36:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-26 16:50:16.594180
• Title: Masks and Mimicry: Strategic Obfuscation and Impersonation Attacks on Authorship Verification
• Title（参考訳）: マスクとミミリー:著者検証における戦略的難読化と偽装攻撃
• Authors: Kenneth Alperin, Rohan Leekha, Adaku Uchendu, Trang Nguyen, Srilakshmi Medarametla, Carlos Levya Capote, Seth Aycock, Charlie Dagli,
• Abstract要約: 著者モデル(特に著者検証モデル)の強力なLSM攻撃に対する対角的堅牢性を評価する。 どちらの攻撃も、原文の意味を保ちながら著者の執筆スタイルを隠蔽または模倣することが目的である。 難読化攻撃と偽装攻撃の両方で最大92%と78%の攻撃成功率を達成した。
• 参考スコア（独自算出の注目度）: 1.0168443186928038
• License:
• Abstract: The increasing use of Artificial Intelligence (AI) technologies, such as Large Language Models (LLMs) has led to nontrivial improvements in various tasks, including accurate authorship identification of documents. However, while LLMs improve such defense techniques, they also simultaneously provide a vehicle for malicious actors to launch new attack vectors. To combat this security risk, we evaluate the adversarial robustness of authorship models (specifically an authorship verification model) to potent LLM-based attacks. These attacks include untargeted methods - \textit{authorship obfuscation} and targeted methods - \textit{authorship impersonation}. For both attacks, the objective is to mask or mimic the writing style of an author while preserving the original texts' semantics, respectively. Thus, we perturb an accurate authorship verification model, and achieve maximum attack success rates of 92\% and 78\% for both obfuscation and impersonation attacks, respectively.
• Abstract（参考訳）: LLM(Large Language Models)のような人工知能(AI)技術の利用の増加は、文書の正確なオーサシップ識別など、様々なタスクにおいて、自明な改善をもたらした。 しかし、LSMはそのような防御技術を改善する一方で、悪意あるアクターが新たな攻撃ベクターを起動するための車両も同時に提供する。 このセキュリティリスクに対処するため,著者モデル(特に著者検証モデル)の強力なLSM攻撃に対する対角的堅牢性を評価する。 これらの攻撃には、未ターゲットのメソッド - \textit{authorship obfuscation} とターゲットのメソッド - \textit{authorship impersonation} が含まれる。 どちらの攻撃に対しても、原文のセマンティクスをそれぞれ保存しながら、著者の執筆スタイルを隠蔽または模倣することが目的である。 そこで我々は, 正確なオーサシップ検証モデルを構築し, 難読化攻撃と偽装攻撃の双方に対して, 最大攻撃成功率92\%, 78\%を達成する。

関連論文リスト

• MELON: Indirect Prompt Injection Defense via Masked Re-execution and Tool Comparison [60.30753230776882]
  LLMエージェントは間接的プロンプトインジェクション(IPI)攻撃に対して脆弱である。 我々は新しいIPI防御であるMELONを提示する。 MELONは攻撃防止と実用保存の両方においてSOTA防御に優れていた。
  論文  参考訳（メタデータ） (2025-02-07T18:57:49Z)
• Turning Logic Against Itself : Probing Model Defenses Through Contrastive Questions [51.51850981481236]
  非倫理的反応を引き起こすために、対照的な推論を利用する新しいジェイルブレイク手法であるPOATEを導入する。 PoATEは意味論的に意図に反し、敵のテンプレートと統合し、有害なアウトプットを驚くほど微妙に操る。 これに対応するために、悪意のある意図と理性を検出するためにクエリを分解して、有害な応答を評価し、拒否するIntent-Aware CoTとReverse Thinking CoTを提案する。
  論文  参考訳（メタデータ） (2025-01-03T15:40:03Z)
• Target-driven Attack for Large Language Models [14.784132523066567]
  クリーンテキストと攻撃テキストの条件付き確率のKL差を最大化するターゲット駆動型ブラックボックス攻撃法を提案する。 複数の大規模言語モデルとデータセットの実験結果から,攻撃手法の有効性が示された。
  論文  参考訳（メタデータ） (2024-11-09T15:59:59Z)
• A Realistic Threat Model for Large Language Model Jailbreaks [87.64278063236847]
  本研究では,ジェイルブレイク攻撃の原理的比較のための統一的脅威モデルを提案する。 私たちの脅威モデルは、パープレキシティの制約を組み合わせることで、ジェイルブレイクが自然のテキストからどれだけ逸脱するかを測定します。 我々は、この新しい現実的な脅威モデルに人気のある攻撃を適用する。
  論文  参考訳（メタデータ） (2024-10-21T17:27:01Z)
• You Know What I'm Saying: Jailbreak Attack via Implicit Reference [22.520950422702757]
  本研究は、以前見過ごされた脆弱性を特定し、Implicit Reference (AIR) による攻撃(Attack)と呼ぶ。 AIRは悪意のある目的を許容可能な目的に分解し、コンテキスト内の暗黙の参照を通してそれらをリンクする。 我々の実験は、AIRが最先端のLLMに対して有効であることを示し、ほとんどのモデルで90%を超える攻撃成功率(ASR)を達成した。
  論文  参考訳（メタデータ） (2024-10-04T18:42:57Z)
• Learn to Disguise: Avoid Refusal Responses in LLM's Defense via a Multi-agent Attacker-Disguiser Game [28.33029508522531]
  悪意のある攻撃者は大規模なモデルを誘導して脱獄させ、違法なプライバシー侵害情報を含む情報を生成する。 大規模なモデルは、安全アライメントのような技術を使って悪意ある攻撃者の攻撃に対処する。 本研究では,攻撃者に対して安全に応答し,防御意図を隠蔽する,弱い防御機構を実現するためのマルチエージェント攻撃ゲーム手法を提案する。
  論文  参考訳（メタデータ） (2024-04-03T07:43:11Z)
• ASETF: A Novel Method for Jailbreak Attack on LLMs through Translate Suffix Embeddings [58.82536530615557]
  本稿では, 連続的な逆接接尾辞埋め込みを一貫性のある, 理解可能なテキストに変換するために, ASETF (Adversarial Suffix Embedding Translation Framework) を提案する。 本手法は,逆接接尾辞の計算時間を著しく短縮し,既存の手法よりもはるかに優れた攻撃成功率を実現する。
  論文  参考訳（メタデータ） (2024-02-25T06:46:27Z)
• AutoDAN: Interpretable Gradient-Based Adversarial Attacks on Large Language Models [55.748851471119906]
  LLM(Large Language Models)の安全性の整合性は、手動のジェイルブレイク攻撃や(自動)敵攻撃によって損なわれる可能性がある。 最近の研究は、これらの攻撃に対する防御が可能であることを示唆している。敵攻撃は無限だが読めないジベリッシュプロンプトを生成し、難易度に基づくフィルタによって検出できる。 両攻撃の強度をマージする,解釈可能な勾配に基づく対向攻撃であるAutoDANを導入する。
  論文  参考訳（メタデータ） (2023-10-23T17:46:07Z)
• SHIELD: Thwarting Code Authorship Attribution [11.311401613087742]
  著者の帰属はますます正確になり、匿名を希望するプログラマには深刻なプライバシー上のリスクが生じる。 対戦型コード例に対する異なるコードオーサシップ属性アプローチの堅牢性を検討するためにShiELDを導入する。
  論文  参考訳（メタデータ） (2023-04-26T02:55:28Z)
• Towards Variable-Length Textual Adversarial Attacks [68.27995111870712]
  データの離散性のため、自然言語処理タスクに対してテキストによる敵意攻撃を行うことは非自明である。 本稿では,可変長テキスト対比攻撃(VL-Attack)を提案する。 本手法は、iwslt14ドイツ語英訳で3,18$ bleuスコアを達成でき、ベースラインモデルより1.47$改善できる。
  論文  参考訳（メタデータ） (2021-04-16T14:37:27Z)
• A Girl Has A Name: Detecting Authorship Obfuscation [12.461503242570643]
  著者の属性は、テクストの分析に基づいてテキストの著者を特定することを目的としている。 著者の難読化は、テキストのスタイルを変更することによって著者の帰属を防ぐことを目的としている。 我々は、敵の脅威モデルの下で、最先端のオーサシップ難読化手法のステルス性を評価する。
  論文  参考訳（メタデータ） (2020-05-02T04:52:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。