論文の概要: Budgeted Attack Scheduling for LLM Red-Teaming: The Roles of Static Priors, Semantic Guidance, and Online Feedback

• arxiv url: http://arxiv.org/abs/2610.25897v1
• Date: Mon, 19 Oct 2026 06:54:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 03:48:39.624323
• Title: Budgeted Attack Scheduling for LLM Red-Teaming: The Roles of Static Priors, Semantic Guidance, and Online Feedback
• Title（参考訳）: LLMリチームのための予算的アタックスケジューリング:静的プライオリティ,セマンティックガイダンス,オンラインフィードバックの役割
• Abstract要約: レッドチーム化は、犠牲者モデルと防御設定の堅牢性を評価するために、ジェイルブレイクプロンプトと攻撃戦略の大規模なライブラリに依存するようになった。 本研究は、固定攻撃ライブラリ上での予算付き攻撃スケジューリングとして問題を定式化する。 我々は,4つのスケジューリング戦略を設計し,GPT-5.2の3つの犠牲者モデルと3つの防御設定で評価する。
• 参考スコア（独自算出の注目度）: 15.778035677527173
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As jailbreak attacks against large language models (LLMs) become increasingly diverse, red-teaming has come to rely on large libraries of jailbreak prompts and attack strategies to evaluate the robustness of victim models and their defense settings. However, attack effectiveness is highly condition-dependent: an attack that succeeds under one victim-defense setting may fail under another, while exhaustively evaluating the full attack library for each setting incurs substantial token and monetary costs. This motivates studying how jailbreak attacks should be prioritized under a limited attempt budget for efficient robustness evaluation. In this work, we formalize this problem as budgeted attack scheduling over a fixed attack library and investigate three complementary signals under a fixed victim-defense condition: (1) static historical attack success rate (ASR) priors; (2) semantic guidance from LLMs; and (3) online feedback from earlier queries. Building on these signals, we design four scheduling strategies and evaluate them across three victim models and three defense settings on GPT-5.2. Extensive experiments clearly characterize the conditions under which each signal is most effective. Historical ASR provides a strong initialization, but its reliability degrades under defense-induced distribution shifts. Semantic guidance consistently improves or matches static prior-based scheduling in the cold-start regime, while online feedback becomes particularly valuable when transferred priors become stale. Semantic guidance and online feedback can also partially compensate for missing historical priors. Taken together, these findings characterize budgeted red-teaming as an attack scheduling problem in which historical priors, semantic guidance, and online feedback play complementary roles.
• Abstract（参考訳）: 大規模言語モデル(LLM)に対するジェイルブレイク攻撃が多様化するにつれて、レッドチームでは、犠牲者モデルとその防御設定の堅牢性を評価するために、ジェイルブレイクプロンプトとアタック戦略の大規模なライブラリに依存するようになった。 しかし、攻撃の有効性は非常に条件に依存しており、ある犠牲者防衛設定の下で成功した攻撃は、別の犠牲者防衛設定下で失敗する可能性がある。 このことは、効率的な堅牢性評価のための限られた試行予算の下で、ジェイルブレイク攻撃をどのように優先順位付けすべきかの研究を動機付けている。 本研究では,固定攻撃ライブラリ上での予算付き攻撃スケジューリングとしてこの問題を形式化し,(1)静的履歴攻撃成功率(ASR)事前,(2)LCMからのセマンティックガイダンス,(3)以前のクエリからのオンラインフィードバックの3つの補完的信号について検討する。 これらの信号に基づいて、4つのスケジューリング戦略を設計し、3つの犠牲者モデルと3つの防衛設定をGPT-5.2上で評価する。 広汎な実験は、各信号が最も効果的である条件をはっきりと特徴づける。 歴史的ASRは強力な初期化を提供するが、その信頼性は防衛による分散シフトによって低下する。 セマンティックガイダンスは、コールドスタート体制において静的な事前ベースのスケジューリングを継続的に改善または整合させ、一方、転送先が不安定になるとオンラインフィードバックは特に価値のあるものとなる。 セマンティックガイダンスとオンラインフィードバックは、歴史の欠落を部分的に補うこともできる。 これらの知見は, 過去の先行状況, セマンティックガイダンス, オンラインフィードバックが相補的な役割を担っている攻撃スケジューリング問題として, 予算的赤チーム化を特徴付けている。

関連論文リスト

• Hierarchical Agentic Incident Response with Digital-Twin-Validated Attack Inference [7.174851769918924]
  大規模言語モデル(LLM)エージェントは、運用状況に対して推論できるが、攻撃や応答を幻覚させる可能性がある。 LLMに基づく攻撃予測,ロールアウト計画,デジタルツイン検証を統合した階層型エージェント応答フレームワークを提案する。 3つのマルチステージ攻撃シナリオ下で33コンポーネントのエンタープライズネットワークテストベッド上で,本フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2026-08-15T04:01:27Z)
• Defending against Adaptive Prompt Injection Attacks via Reasoning-enabled Task Alignment [25.752599132396437]
  間接的なプロンプトインジェクションは、エージェントがタスク実行中に検索するサードパーティデータに悪意のある命令を埋め込むことによって、LLMベースのエージェントをハイジャックする。 既存のディフェンスでは、静的なベンチマークでほぼゼロの攻撃成功率を報告しているが、最近のアダプティブ評価では、攻撃者がデプロイされたディフェンスに対して最適化を許せば、これらの結果は崩壊する。 本稿では,攻撃者が制御するデータではなく,ユーザタスクに対する防衛判断を基礎としたトレーニングベースのRETAを提案する。
  論文  参考訳（メタデータ） (2026-06-13T19:15:44Z)
• Risk Under Pressure: Compute-Aware Evaluation of Adversarial Robustness in Language Models [22.44538447178147]
  大規模言語モデル(LLM)のアタック成功率(ASR)を一定のクエリ予算下で報告するのが一般的である。 本稿では,累積浮動小数点演算において測定された計算圧力に基づく計算認識評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-09T19:59:12Z)
• Security in the Fine-Tuning Lifecycle of Large Language Models: Threats, Defenses,Evaluation, and Future Directions [21.047807094226986]
  本稿では,大規模言語モデルの微調整セキュリティに関する体系的な調査を行う。 攻撃と防御を比較するライフサイクルベースのフレームワークを確立する。 我々は、重要なオープンな問題(構成ロバスト防衛、異相防衛構成、行動仮定を超えた埋め込み空間攻撃)を特定し、具体的な今後の研究方向性を提案する。
  論文  参考訳（メタデータ） (2026-05-24T13:34:47Z)
• WMAttack: Automated Attack Search for Adversarial Evaluation of World-Model Agents [53.84430233754606]
  WMAttackは、世界モデルエージェントの敵意評価のための自動攻撃探索フレームワークである。 WMAttackは攻撃構成に対する有限予算探索としてロバストネス評価を定式化する。 WMAttackは評価ベースラインよりも強力な攻撃を継続的に発見することを示す。
  論文  参考訳（メタデータ） (2026-05-22T04:31:09Z)
• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• Fast Proxies for LLM Robustness Evaluation [48.53873823665833]
  我々は,LLMの現実的ロバスト性を予測するための高速プロキシメトリクスと,シミュレーションされたアタッカーアンサンブルとの比較を行った。 これにより、攻撃自体の実行を必要とせずに、計算コストの高い攻撃に対するモデルの堅牢性を見積もることができる。
  論文  参考訳（メタデータ） (2025-02-14T11:15:27Z)
• AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens [83.08119913279488]
  本稿では,ジェイルブレイク攻撃と防衛技術における依存関係の体系的解析について述べる。 包括的な、自動化された、論理的な3つのフレームワークを提案します。 このアンサンブル・ジェイルブレイク・アタックと防衛の枠組みは,既存の研究を著しく上回る結果となった。
  論文  参考訳（メタデータ） (2024-06-06T07:24:41Z)
• Securing Recommender System via Cooperative Training [78.97620275467733]
  本稿では,データを相互に強化する3つの協調モデルを用いたTCD(Triple Cooperative Defense)を提案する。 既存の攻撃が二段階最適化と効率のバランスをとるのに苦労していることを考えると、リコメンダシステムにおける毒殺攻撃を再考する。 我々はゲームベースのコトレーニングアタック(GCoAttack)を提案し,提案したCoAttackとTCDをゲーム理論のプロセスとする。
  論文  参考訳（メタデータ） (2024-01-23T12:07:20Z)
• Learn from the Past: A Proxy Guided Adversarial Defense Framework with Self Distillation Regularization [53.04697800214848]
  敵対的訓練(AT)は、ディープラーニングモデルの堅牢性を固める上で重要な要素である。 AT方式は、目標モデルの防御のために直接反復的な更新を頼りにしており、不安定な訓練や破滅的なオーバーフィッティングといった障害に頻繁に遭遇する。 汎用プロキシガイド型防衛フレームワークLAST(bf Pbf astから学ぶ)を提案する。
  論文  参考訳（メタデータ） (2023-10-19T13:13:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。