論文の概要: Multiple Turns, Short Horizons: Measuring Effective-Horizon Compression in Jailbreaks
- arxiv url: http://arxiv.org/abs/2610.22928v1
- Date: Fri, 16 Oct 2026 04:44:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.766052
- Title: Multiple Turns, Short Horizons: Measuring Effective-Horizon Compression in Jailbreaks
- Title（参考訳）: 複数回, 短いホライズン: ジェイルブレイクにおける有効水平圧縮の測定
- Abstract要約: マルチターンジェイルブレイクは、被害者の大規模言語モデルからのフィードバックを使用して、クエリを複数回にわたって適応させる。
本研究では,早期攻撃者のクエリを削除し,新たな会話で残りのクエリを再度実行する手法を提案する。
経験的に、元のクエリシーケンスの約半数が、同じ攻撃の進行を回復するのに、平均で十分であることがわかった。
- 参考スコア（独自算出の注目度）: 14.297928916883698
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-turn jailbreaks use feedback from a victim large language model to adapt their queries over several turns. However, once an effective trajectory has been found, it is unclear how much of the earlier query history is still needed. In this work, we study this by removing early attacker queries and running the remaining queries again in a new conversation while regenerating the victim's responses. We define the effective horizon as the shortest remaining query sequence that recovers the same attack progress. Empirically, we find that roughly half of the original query sequence is sufficient on average to recover the same attack progress. We call this phenomenon effective-horizon compression. We show that this shorter history can recover the best point reached during an unsuccessful attack and provide a better starting point for continuing the attack. It also helps identify which earlier queries should receive less learning signal during attacker training, and downweighting those queries improves performance. We further find that short reward-propagation windows preserve calibrated defense performance close to full-trajectory returns. These results show that multi-turn attacks can contain more queries than are needed to recover the progress reached later in the interaction.
- Abstract（参考訳）: マルチターンジェイルブレイクは、被害者の大規模言語モデルからのフィードバックを使用して、クエリを複数回にわたって適応させる。
しかし、一度有効な軌跡が見つかると、以前のクエリ履歴のどれ程が必要かは明らかでない。
本研究では,攻撃者の早期クエリを削除し,被害者の応答を再生しながら,新たな会話で残りのクエリを再度実行することによって,この問題について検討する。
有効な水平線を,攻撃進行を回復する最短のクエリシーケンスとして定義する。
経験的に、元のクエリシーケンスの約半数が、同じ攻撃の進行を回復するのに、平均で十分であることがわかった。
我々はこの現象を有効水平圧縮と呼ぶ。
この短い履歴は、攻撃が失敗したときに到達した最良点を回復し、攻撃を継続するためのより良い出発点を提供することを示す。
また、アタッカートレーニング中に学習信号を受信すべきクエリの数を減らし、これらのクエリの重み付けによってパフォーマンスが向上する。
さらに,短時間の報奨窓は,全軌道リターンに近いキャリブレーションされた防御性能を保っていることがわかった。
これらの結果から、マルチターン攻撃は、インタラクションの後半で到達した進捗を回復するのに必要となるより多くのクエリを含むことができることがわかった。
関連論文リスト
- Red-TTT: Test-Time Training for Automated Jailbreaking Large Language Models [90.48884120934277]
自動化されたレッドチーム化は、大規模な言語モデルでジェイルブレイクを見つける標準的な方法です。
Red-TTTは、各動作に対する攻撃中に攻撃者のパラメータを更新する。
各ラウンドで、攻撃者は候補者のグループをサンプリングし、被害者の回答に対してそれらをスコアし、次のグループを描く前に政策段階のステップを取る。
論文 参考訳（メタデータ） (2026-10-04T15:03:08Z) - ABSeeker: Training Long-Horizon Search Agents via Answer-Backtracked Credit Assignment [66.45065414461274]
ロングホライゾン検索エージェントは、最終的な答えを得るために証拠を検索、検索、検証、統合するための複数のシーケンシャルなアクション(ステップ)をしなければならない。
本稿では,長距離検索エージェントを訓練するためのきめ細かい信用割当てフレームワークであるAnswer-Backtracked Credit Assignment (ABC)を提案する。
ABCは、スパース軌跡レベルの結果を、誤動作や冗長な動作を抑えながら、有用な動作(たとえ軌道が失敗しても)を報いるような、密度の高いステップレベルの監視に変換する。
論文 参考訳（メタデータ） (2026-08-05T17:41:31Z) - M2S: Multi-turn to Single-turn jailbreak in Red Teaming for LLMs [8.91993614197627]
本稿では,マルチターン対逆ジェイルブレイクのプロンプトを単一ターンクエリに集約する新しいフレームワークを提案する。
マルチターン・ツー・シングルターン(M2S)手法は,多ターン対話を構造化シングルターンプロンプトに体系的に再構成する。
注目すべきは、シングルターンはオリジナルのマルチターン攻撃を最大17.5ポイント上回ったことである。
論文 参考訳（メタデータ） (2025-03-06T07:34:51Z) - Reproducing HotFlip for Corpus Poisoning Attacks in Dense Retrieval [14.799512604321363]
HotFlip(ホットフリップ)は、言語モデルを攻撃するための局所的な勾配に基づく単語置換手法である。
本稿では,HotFlipの効率を大幅に向上させ,文書あたり4時間から15分に短縮する。
また,(1)転送ベースのブラックボックス攻撃,(2)クエリ非依存攻撃の2つの追加タスクについて実験と分析を行った。
論文 参考訳（メタデータ） (2025-01-08T19:29:33Z) - AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。
我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。
また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
論文 参考訳（メタデータ） (2024-08-04T09:53:50Z) - Query Recovery from Easy to Hard: Jigsaw Attack against SSE [22.046278061025323]
対称暗号方式は、アクセス、ボリューム、検索パターンなどの特定の機密情報を意図せずに開示することが多い。
クエリリカバリ攻撃の有効性は,キーワードのボリューム/周波数分布に依存することがわかった。
我々は、これらの特異なクエリを正確に識別し、復元することから始まるJigsaw攻撃を提案する。
論文 参考訳（メタデータ） (2024-03-02T09:57:05Z) - ReFIT: Relevance Feedback from a Reranker during Inference [109.33278799999582]
Retrieve-and-Rerankは、ニューラル情報検索の一般的なフレームワークである。
本稿では,リランカを利用してリコールを改善する手法を提案する。
論文 参考訳（メタデータ） (2023-05-19T15:30:33Z) - A Strong Baseline for Query Efficient Attacks in a Black Box Setting [3.52359746858894]
そこで本研究では,テキスト分類とエンタテインメントタスクにおいて,妥当な敵の例を生成するためのクエリ効率のよい攻撃戦略を提案する。
我々の攻撃は、クエリ数を減らすために、注意機構と局所性に敏感なハッシュ(LSH)を併用する。
論文 参考訳（メタデータ） (2021-09-10T10:46:32Z) - QAIR: Practical Query-efficient Black-Box Attacks for Image Retrieval [56.51916317628536]
画像検索に対するクエリベースの攻撃について検討し,ブラックボックス設定下での対比例に対する堅牢性を評価する。
新たな関連性に基づく損失は、攻撃前後のトップk検索結果のセット類似度を測定して攻撃効果を定量化するように設計されている。
提案手法は,ブラックボックス設定による画像検索システムに対するクエリ数が少なく,高い攻撃成功率を達成できることを示す実験である。
論文 参考訳（メタデータ） (2021-03-04T10:18:43Z) - RayS: A Ray Searching Method for Hard-label Adversarial Attack [99.72117609513589]
我々は、レイサーチ攻撃(RayS)を提案し、これはハードラベル攻撃の有効性と効率を大幅に改善する。
モデルの正当性チェックとしても使用できる。
論文 参考訳（メタデータ） (2020-06-23T07:01:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。