論文の概要: Adversarial Reframing: A Framework for Targeted Generation in Language Models

• arxiv url: http://arxiv.org/abs/2605.21674v1
• Date: Wed, 20 May 2026 19:31:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-22 16:35:41.974898
• Title: Adversarial Reframing: A Framework for Targeted Generation in Language Models
• Title（参考訳）: Adversarial Reframing: 言語モデルにおけるターゲット生成のためのフレームワーク
• Abstract要約: 大規模言語モデル(LLM)は、さまざまな実世界の設定で広くデプロイされているが、ジェイルブレイクに対して脆弱であり、プロンプトベースの攻撃安全フィルタである。 本稿では,基礎モデルの安全性を積極的に強化するためのツールとしてTHREAT (edversa bypass generation via Reframing) を提案する。
• 参考スコア（独自算出の注目度）: 4.231181719953953
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) are widely deployed in diverse real-world settings, yet remain vulnerable to jailbreaking, where prompt-based attacks bypass safety filters. We present THREAT (Targeted Harmful generation via Reframing and Exploitation of Adversarial Tactics), a reasoning-driven framework that coordinates multiple LLMs in an iterative search loop to find textual jailbreak prompts. We formulate prompt discovery as a nonconvex optimization problem and provide an efficient solution that lowers runtime and improves attack effectiveness. Across diverse datasets and model architectures, THREAT delivers higher attack success rates with lower computational cost than prior methods. The crafted prompts were flagged as harmful in fewer than 1% of cases, compared with about 50% refusals for the corresponding unmodified prompts. These findings reveal previously undetected vulnerabilities in aligned LLMs and position THREAT as a practical tool for proactively strengthening the safety of foundation models.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、さまざまな現実世界設定で広くデプロイされているが、ジェイルブレイクに弱いままであり、安全フィルタをバイパスするプロンプトベースの攻撃である。 本稿では,複数のLLMを反復探索ループでコーディネートし,テキスト・ジェイルブレイクのプロンプトを検索するTHREAT(Targeted Harmful Generation via Reframing and Exploitation of Adversarial Tactics)を提案する。 非凸最適化問題として素早い発見を定式化し、ランタイムを低くし、攻撃効率を向上させる効率的なソリューションを提供する。 多様なデータセットとモデルアーキテクチャにわたって、THREATは以前の方法よりも計算コストの低い攻撃成功率を提供する。 加工されたプロンプトは1%未満のケースで有害であるとマークされ、対応する未修正プロンプトの約50%が拒絶された。 これらの結果から, 基礎モデルの安全性を積極的に強化するための実用ツールとして, LLM と THREAT の位置に未検出の脆弱性があることが判明した。

関連論文リスト

• Understanding and Mitigating Prompt Leaking Attacks in Real-World LLM-Based Applications [57.33208520608409]
  本稿では,大規模言語モデル(LLM)に基づくアプリケーションにおいて,プロンプトリークのシステマティックスタディを提案する。 デプロイの80%以上は、現実的な逆クエリの下で、システムにリークする。 我々は、最適化可能なソフトプロンプトを用いてモデルの注意を喚起する実用的な防御であるARAを提案する。
  論文  参考訳（メタデータ） (2026-06-17T04:20:00Z)
• Systematic Scaling Analysis of Jailbreak Attacks in Large Language Models [15.425738252512362]
  大規模な言語モデルは、Jailbreak攻撃に対して脆弱なままですが、ジェイルブレイクの成功が、メソッド、モデルファミリー、害タイプを越えて攻撃者の努力によってどのようにスケールするかに関して、体系的な理解はいまだにありません。 我々は、各攻撃を計算バウンド最適化手順として扱い、共有FLOPs軸の進捗を測定することにより、ジェイルブレイクのスケーリング法フレームワークを開始する。 組織的評価は、最適化に基づく攻撃、自己抑制促進、サンプリングに基づく選択、遺伝的最適化を含む4つの代表的なジェイルブレイクパラダイムにまたがる。
  論文  参考訳（メタデータ） (2026-03-11T17:38:08Z)
• Are My Optimized Prompts Compromised? Exploring Vulnerabilities of LLM-based Optimizers [21.207996237794855]
  LLMに基づく即時最適化における毒性リスクの最初の体系的解析について述べる。 システムは、入力されたクエリよりも、操作されたフィードバックに対してかなり脆弱である。 本報告では, フェール・リワードの$Delta$ASR を, 実用性を低下させることなく 0.23 から 0.07 に削減する軽量ハイライトディフェンスを提案する。
  論文  参考訳（メタデータ） (2025-10-16T07:28:54Z)
• Universal and Transferable Adversarial Attack on Large Language Models Using Exponentiated Gradient Descent [1.1187085721899017]
  大規模言語モデル(LLM)は、ますます重要なアプリケーションにデプロイされている。 LLMは、ユーザプロンプトに付加された対逆トリガーによって実現されたジェイルブレイク攻撃に対して脆弱なままである。 逆接接尾辞トークンの緩和されたワンホット符号化を直接最適化する本質的な最適化手法を提案する。
  論文  参考訳（メタデータ） (2025-08-20T17:03:32Z)
• VERA: Variational Inference Framework for Jailbreaking Large Language Models [29.57412296290215]
  最先端のLDMへのAPIのみアクセスは、効果的なブラックボックスジェイルブレイクメソッドの必要性を強調している。 VERA: variational infErence fRamework for jAilbreakingを紹介する。
  論文  参考訳（メタデータ） (2025-06-27T22:22:00Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• PR-Attack: Coordinated Prompt-RAG Attacks on Retrieval-Augmented Generation in Large Language Models via Bilevel Optimization [13.751251342738225]
  大規模言語モデル(LLM)は、幅広いアプリケーションで顕著な性能を示している。 それらはまた、時代遅れの知識や幻覚への感受性のような固有の制限も示している。 近年の取り組みはRAGベースのLLMのセキュリティに重点を置いているが、既存の攻撃方法は3つの重大な課題に直面している。 本稿では,少数の有毒テキストを知識データベースに導入する新しい最適化型攻撃であるPrompt-RAGアタック(PR-アタック)を提案する。
  論文  参考訳（メタデータ） (2025-04-10T13:09:50Z)
• An Interpretable N-gram Perplexity Threat Model for Large Language Model Jailbreaks [87.64278063236847]
  本研究では,ジェイルブレイク攻撃の原理的比較のための統一的脅威モデルを提案する。 私たちの脅威モデルは、あるジェイルブレイクがテキストの配布で起こりそうなかどうかをチェックします。 私たちはこの脅威モデルに人気のある攻撃を適応させ、これらの攻撃を同等の足場でベンチマークしました。
  論文  参考訳（メタデータ） (2024-10-21T17:27:01Z)
• Jailbreaking Large Language Models Through Alignment Vulnerabilities in Out-of-Distribution Settings [57.136748215262884]
  本稿では,ObscurePrompt for jailbreaking LLMを紹介し,OOD(Out-of-Distribution)データにおける脆弱なアライメントに着想を得た。 まず、脱獄過程における決定境界を定式化し、次にLLMの倫理的決定境界に不明瞭な文章がどう影響するかを考察する。 本手法は,2つの防御機構に対する有効性を保ちながら,攻撃効果の観点から従来の手法を大幅に改善する。
  論文  参考訳（メタデータ） (2024-06-19T16:09:58Z)
• Learning diverse attacks on large language models for robust red-teaming and safety tuning [126.32539952157083]
  レッドチーム、あるいは有害な応答を誘発するプロンプトの特定は、大きな言語モデルの安全なデプロイを保証するための重要なステップである。 新規性と多様性を優先する明確な規則化であっても、既存のアプローチはモード崩壊または効果的な攻撃を発生させることができないことを示す。 我々は,GFlowNetの微調整と二次平滑化フェーズを用いて,多種多様な効果的な攻撃プロンプトを生成するために攻撃モデルを訓練することを提案する。
  論文  参考訳（メタデータ） (2024-05-28T19:16:17Z)
• SmoothLLM: Defending Large Language Models Against Jailbreaking Attacks [99.23352758320945]
  SmoothLLMは,大規模言語モデル(LLM)に対するジェイルブレーキング攻撃を軽減するために設計された,最初のアルゴリズムである。 敵が生成したプロンプトが文字レベルの変化に対して脆弱であることから、我々の防衛はまず、与えられた入力プロンプトの複数のコピーをランダムに摂動し、対応する予測を集約し、敵の入力を検出する。
  論文  参考訳（メタデータ） (2023-10-05T17:01:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。