論文の概要: Arbitrary Cipher Attacks Against Large Language Models Do Not Require Fine-Tuning

• arxiv url: http://arxiv.org/abs/2609.09553v1
• Date: Wed, 09 Sep 2026 00:16:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.848827
• Title: Arbitrary Cipher Attacks Against Large Language Models Do Not Require Fine-Tuning
• Title（参考訳）: 大規模言語モデルに対する任意暗号攻撃は微調整を必要としない
• Abstract要約: より新しいフロンティアモデルは、暗号ベースのコミュニケーションスキルを取得するために微調整を必要としないことを示す。 Anthropic、Google、OpenAIが開発したフロンティアモデルに対するジェイルブレイクの成功を実演します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model safety and security research is preoccupied with, among other things, detecting and preventing jailbreak attacks: alignment bypasses that allow an adversarial user to elicit unwanted or harmful outputs from models. Arbitrary cipher, or covert communication, attacks are one such type of jailbreak and have previously been demonstrated against the fine-tuning APIs of commercial models. In these attacks, target models are trained on a corpus of encrypted harmful questions and responses and subsequently respond to harmful requests through the learned encryption scheme. In this paper, we show that newer frontier models do not require fine-tuning to acquire cipher-based communication skills. Instead, they can learn these skills through prompting and, when necessary, through in-context learning. Furthermore, model alignment is significantly weakened or entirely bypassed when communication occurs through the learned cipher. To the best of our knowledge, this constitutes a novel attack vector against commercial black-box large language models. We demonstrate successful jailbreaks against frontier models developed by Anthropic, Google, and OpenAI. Our attack bypasses commercial harmfulness classifiers because harmful content is encrypted and therefore appears as nonsensical text or gibberish.
• Abstract（参考訳）: 大規模な言語モデルの安全性とセキュリティの研究は、特にジェイルブレイク攻撃を検知し、予防することに夢中になっている: 敵のユーザがモデルから不要または有害なアウトプットを引き出すことができるアライメントバイパス。 任意暗号(英: Arbitrary cipher)または秘密通信(英: covert communication)は、この種のジェイルブレイクの一種であり、以前は商用モデルの微調整APIに対して実証されてきた。 これらの攻撃では、ターゲットモデルは暗号化された有害な質問や応答のコーパスで訓練され、その後、学習された暗号化スキームを通じて有害な要求に応答する。 本稿では,新しいフロンティアモデルにおいて,暗号ベースのコミュニケーションスキルの習得に微調整を必要としないことを示す。 代わりに、これらのスキルは、必要に応じて、コンテキスト内学習を通じて、プロンプトと必要に応じて学ぶことができる。 さらに、学習暗号を介して通信が発生した場合、モデルアライメントは著しく弱まるか、完全にバイパスされる。 我々の知る限りでは、これは商用のブラックボックス大言語モデルに対する新たな攻撃ベクトルを構成する。 Anthropic、Google、OpenAIが開発したフロンティアモデルに対するジェイルブレイクの成功を実演します。 我々の攻撃は有害なコンテンツが暗号化され、非意味なテキストやジブベリッシュとして現れるため、商業的有害度分類器をバイパスする。

関連論文リスト

• TokenBreak: Bypassing Text Classification Models Through Token Manipulation [0.0]
  テキスト分類モデルは、LLM(Large Language Models)に対する即発的なインジェクション攻撃のような脅威を防ぐために実装することができる。 TokenBreakを紹介します。トークン化戦略を活用することで、これらの保護モデルを回避できる新たな攻撃です。 重要なことは、エンドターゲット(LLMまたはEメール受信者)は、まだ操作されたテキストを理解して応答することができ、そのため、保護モデルが配置された非常に攻撃に弱いことである。
  論文  参考訳（メタデータ） (2025-06-09T17:11:28Z)
• Layer-Level Self-Exposure and Patch: Affirmative Token Mitigation for Jailbreak Attack Defense [55.77152277982117]
  私たちは、jailbreak攻撃から防御するために設計された方法であるLayer-AdvPatcherを紹介します。 私たちは、自己拡張データセットを通じて、大規模言語モデル内の特定のレイヤにパッチを適用するために、未学習の戦略を使用します。 我々の枠組みは、脱獄攻撃の有害性と攻撃の成功率を減らす。
  論文  参考訳（メタデータ） (2025-01-05T19:06:03Z)
• An Interpretable N-gram Perplexity Threat Model for Large Language Model Jailbreaks [87.64278063236847]
  本研究では,ジェイルブレイク攻撃の原理的比較のための統一的脅威モデルを提案する。 私たちの脅威モデルは、あるジェイルブレイクがテキストの配布で起こりそうなかどうかをチェックします。 私たちはこの脅威モデルに人気のある攻撃を適応させ、これらの攻撃を同等の足場でベンチマークしました。
  論文  参考訳（メタデータ） (2024-10-21T17:27:01Z)
• Endless Jailbreaks with Bijection Learning [3.5963161678592828]
  ランダムに生成したエンコーディングを用いて,安全性上の脆弱性に対してLLMをファジリングする強力な攻撃アルゴリズムを提案する。 私たちの攻撃は、幅広いフロンティア言語モデルに対して非常に効果的です。
  論文  参考訳（メタデータ） (2024-10-02T07:40:56Z)
• BaThe: Defense against the Jailbreak Attack in Multimodal Large Language Models by Treating Harmful Instruction as Backdoor Trigger [67.75420257197186]
  本研究では,単純なジェイルブレイク防御機構である$textbfBaTheを提案する。 ジェイルブレイクバックドア攻撃は、手作りの弦と組み合わされた有害な命令をトリガーとして使用し、バックドアモデルが禁止された応答を生成する。 有害な命令がトリガーとして機能し、代わりにリジェクション応答をトリガー応答として設定すれば、バックドアモデルがジェイルブレイク攻撃に対して防御できると仮定する。
  論文  参考訳（メタデータ） (2024-08-17T04:43:26Z)
• SpeechGuard: Exploring the Adversarial Robustness of Multimodal Large Language Models [34.557309967708406]
  本研究では,このような命令追従型音声モデルの潜在的な脆弱性を,敵対的攻撃や脱獄に対して検討する。 我々は、人間の関与なしに、ホワイトボックスとブラックボックスの攻撃設定の両方でジェイルブレイクSLMの逆例を生成するアルゴリズムを設計する。 本モデルでは,発話指示による対話データに基づいて,音声質問応答タスクにおける最先端のパフォーマンスを達成し,安全性と有用性の両方の指標で80%以上をスコア付けした。
  論文  参考訳（メタデータ） (2024-05-14T04:51:23Z)
• Weak-to-Strong Jailbreaking on Large Language Models [92.52448762164926]
  大規模言語モデル(LLM)は、ジェイルブレイク攻撃に対して脆弱である。 既存のジェイルブレイク法は計算コストがかかる。 我々は、弱々しく強固な脱獄攻撃を提案する。
  論文  参考訳（メタデータ） (2024-01-30T18:48:37Z)
• AutoDAN: Interpretable Gradient-Based Adversarial Attacks on Large Language Models [55.748851471119906]
  LLM(Large Language Models)の安全性の整合性は、手動のジェイルブレイク攻撃や(自動)敵攻撃によって損なわれる可能性がある。 最近の研究は、これらの攻撃に対する防御が可能であることを示唆している。敵攻撃は無限だが読めないジベリッシュプロンプトを生成し、難易度に基づくフィルタによって検出できる。 両攻撃の強度をマージする,解釈可能な勾配に基づく対向攻撃であるAutoDANを導入する。
  論文  参考訳（メタデータ） (2023-10-23T17:46:07Z)
• Universal and Transferable Adversarial Attacks on Aligned Language Models [118.41733208825278]
  本稿では,アライメント言語モデルに反抗的な振る舞いを生じさせる,シンプルで効果的な攻撃手法を提案する。 驚いたことに、我々のアプローチによって生じる敵のプロンプトは、かなり伝達可能である。
  論文  参考訳（メタデータ） (2023-07-27T17:49:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。