論文の概要: Intent-Hiding Jailbreaks: An Information-Theoretic Framework for Compositional Attacks

• arxiv url: http://arxiv.org/abs/2610.02302v1
• Date: Thu, 01 Oct 2026 17:57:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.032617
• Title: Intent-Hiding Jailbreaks: An Information-Theoretic Framework for Compositional Attacks
• Title（参考訳）: Intent-Hiding Jailbreaks: 構成攻撃のための情報理論フレームワーク
• Abstract要約: 大きな言語モデルは、有害な意図が良質なタスクの合成によって隠蔽されるジェイルブレイク攻撃に対して脆弱である。 情報理論の観点から,これらの構成意図を隠蔽するジェイルブレイクについて検討する。
• 参考スコア（独自算出の注目度）: 6.142860207884955
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent work has shown that large language models (LLMs) can be vulnerable to jailbreak attacks in which harmful intent is obscured through composition with benign tasks. A harmful request refused in isolation may elicit a different response when embedded within a larger, seemingly benign query. We study these compositional intent-hiding jailbreaks from an information-theoretic perspective. Our formulation associates each task with an estimated probability of being judged harmful: the average over the full task collection defines the prior probability of harmful intent, while the average over a selected bundle containing the target defines the posterior. Selecting auxiliary tasks so that these averages agree, which we call prior-posterior matching, leaves the estimated intent unchanged even though the harmful target remains in the bundle. We study two settings that differ in whether query construction is part of the optimization. In the query-independent setting, tasks are selected without regard to how they will be expressed in the final query. We show that exact prior-posterior matching under a bundle-size constraint is computationally hard, derive an optimal water-filling solution for fractional weights, and characterize the smallest bundle satisfying a prescribed safety threshold. In the query-dependent setting, task selection and query construction are considered jointly, and intent concealment and target preservation are evaluated on the resulting query. We evaluate jailbreak effectiveness and preservation of the target behavior across bundle sizes, query generators, and several open-source models. These results show that compositional queries can elicit target behaviors beyond the direct-request baseline under the evaluated search budgets, while revealing a trade-off: as bundle size increases, response-level target preservation tends to decrease for several models.
• Abstract（参考訳）: 近年の研究では、大きな言語モデル(LLM)が、有害な意図が悪質なタスクの合成によって隠蔽されるジェイルブレイク攻撃に対して脆弱であることが示されている。 孤立して拒否された有害なリクエストは、より大きな、一見良心的なクエリに埋め込まれた場合、異なるレスポンスを誘発する可能性がある。 情報理論の観点から,これらの構成意図を隠蔽するジェイルブレイクについて検討する。 我々の定式化は,各タスクが有害であると判断される確率を推定し,全タスクコレクションの平均が有害な意図の事前確率を定義する一方で,対象を含む選択バンドルの平均が後方値を定義する。 これらの平均値に一致するように補助的なタスクを選択することは、バンドル内に有害なターゲットが残っているとしても、予測された意図は変わらないままである。 クエリ構築が最適化の一部であるかどうかが異なる2つの設定について検討する。 クエリ非依存の設定では、最終クエリでどのように表現されるかに関係なく、タスクが選択される。 我々は,バンドルサイズの制約の下での正確な事前マッチングが計算的に困難であることを示し,分数重みに対する最適水充填溶液を導出し,所定の安全性閾値を満たす最小のバンドルを特徴付ける。 問合せ依存設定では、タスク選択と問合せ構成を共同で検討し、得られた問合せに基づいて意図隠蔽と目標保存を評価する。 我々は,Jailbreakの有効性と,バンドルサイズ,クエリジェネレータ,および複数のオープンソースモデルにわたる対象動作の保存を評価する。 これらの結果から, 構成的クエリは, 検索予算の直接要求ベースラインを超えて, 目的の動作を引き出すことができる一方で, バンドルサイズが大きくなるにつれて, 応答レベルの目標保存が減少する傾向にあることがわかった。

関連論文リスト

• SoK: Intent-Oriented Systematization of Multi-Turn LLM Jailbreaks [69.08780911753102]
  マルチターンジェイルブレイクはターン間で有害なインテントを前進させることでパターンを利用するため、単一のメッセージが完全な目的を公開することはない。 敵意構造を用いて多ターンジェイルブレイクを組織する4部構成の意図指向分類法を開発した。
  論文  参考訳（メタデータ） (2026-08-02T09:24:08Z)
• What to Test Next: Interpretable Coverage Gap Discovery in Driving VLMs [52.50210189669399]
  視覚言語モデル(VLM)を駆動するには,操作設計領域(ODD)が定義する様々な条件のシーンを正確に理解する必要がある SliceScorerは、欠落したスライス推薦のための決定論的スコアリングルールである。 SliceNavは, 従来のスライス発見法よりも, 高リスクカバレッジギャップを効果的に表面化することを示す。
  論文  参考訳（メタデータ） (2026-06-01T03:18:01Z)
• Resolving Ambiguity in Composed Image Retrieval via Calibrated Interaction [0.0]
  合成画像検索(CIR)は、コーパスに参照画像と修正方法を記述するテキストを検索する。 本稿では,CIRRの休眠補助アノテーションと対話アノテーションを復活させる,ベンチマークおよび人間検証型ユーザシミュレータであるAmbiCIRを紹介する。
  論文  参考訳（メタデータ） (2026-05-23T15:49:16Z)
• TopBench: A Benchmark for Implicit Prediction and Reasoning over Tabular Question Answering [80.93487993878836]
  現実世界のクエリの一般的なクラスは暗黙的に予測され、単に検索するのではなく、歴史的パターンから観測されていない回答を推測する必要がある。 これらのクエリには、潜在意図を認識することと、大規模テーブル上での信頼性の高い予測推論という2つの課題がある。 単点予測から意思決定,処理効果分析,複雑な推論に至るまで,4つのサブタスクにわたる779のサンプルからなるベンチマークであるTopBenchを紹介する。
  論文  参考訳（メタデータ） (2026-04-30T16:22:51Z)
• Conformal Information Pursuit for Interactively Guiding Large Language Models [68.16703423481935]
  本稿では,クエリ数の最小化を目的としたシーケンシャルクエリ戦略について検討する。 そのような戦略の1つは情報探索(IP)であり、各反復で情報ゲインを最大化または同等に不確実性を最小化するクエリを選択する。 本稿では,コンフォーマル情報探索法(C-IP)を提案する。
  論文  参考訳（メタデータ） (2025-07-04T03:55:39Z)
• Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians [60.22542847840578]
  敵対的機械学習の進歩にもかかわらず、敵対者の存在下でのガウスモデルに対する推論は特に過小評価されている。 我々は,意思決定者の条件推論とその後の行動の妨害を希望する自己関心のある攻撃者について,一組の明らかな変数を乱すことで検討する。 検出を避けるため、攻撃者は、破損した証拠の密度によって可否が決定される場合に、攻撃が可否を示すことを望んでいる。
  論文  参考訳（メタデータ） (2024-11-21T17:46:55Z)
• Sample size planning for conditional counterfactual mean estimation with a K-armed randomized experiment [0.0]
  K$のランダム化実験で十分なサンプルサイズを決定する方法を示す。 政策木を用いてサブグループを学習し、公開可能な大規模なランダム化実験データセットにおいて、我々の名目上の保証を評価する。
  論文  参考訳（メタデータ） (2024-03-06T20:37:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。