論文の概要: Identically Trained Language Models Break on Different Jailbreaks
- arxiv url: http://arxiv.org/abs/2610.34074v1
- Date: Sun, 25 Oct 2026 05:30:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.530465
- Title: Identically Trained Language Models Break on Different Jailbreaks
- Title（参考訳）: 異なるジェイルブレイクで言語モデルを正確に訓練する
- Abstract要約: 我々は、同じデータの別の事前トレーニングが、同じ安全トレーニングが同じジェイルブレイクで壊れるかどうか尋ねる。
すべてのモデルから、共有されたジェイルブレイクプロンプトに対する20のレスポンスを収集します。
平均的に、同じプレトレーニングランの2つのポストトレーニング後コピーは、0.984で相関するプロンプト毎の非拒絶率を持つ。
- 参考スコア（独自算出の注目度）: 1.5699418622016947
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Jailbreak benchmarks test one checkpoint and treat which jailbreaks break it as a property of its pretraining data and safety training. We ask whether another pretraining run of the same data, given the same safety training, would break on the same jailbreaks. For each of 25 pretraining data recipes, we take 1B base models from 3 pretraining seeds and give each the same safety post-training with 2 post-training seeds, for 150 models in all. We then collect 20 responses from every model to a shared set of jailbreak prompts and correlate the per-prompt non-refusal rates between every pair of models. On average, two post-trained copies of the same pretraining run have per-prompt non-refusal rates that correlate at 0.984. A different pretraining seed lowers the correlation to 0.811, and a different data recipe lowers it only slightly further, to 0.779. These results indicate that which jailbreaks break a checkpoint depends much more on its pretraining run than on its data, a pattern that holds in all 25 data recipes and at 150M and 300M parameters. In practice, the best of 91 attack templates found on one checkpoint stays the best after a new pretraining seed in only 27% of model pairs, against 67% after a new post-training seed. Each pretraining run also leaves a fingerprint: across 3,211 prompts, a model's per-prompt non-refusal rates identify its pretraining run among all 75 runs every time, and a random subset of 50 prompts still does so 98% of the time.
- Abstract（参考訳）: Jailbreakベンチマークは、1つのチェックポイントをテストし、Jailbreakが事前トレーニングデータと安全性トレーニングのプロパティとして、それをブレークする処理を行う。
我々は、同じデータの別の事前トレーニングが、同じ安全トレーニングが同じジェイルブレイクで壊れるかどうか尋ねる。
25の事前学習データレシピに対して、3つの事前学習種子から1Bベースモデルを取り、それぞれに2つの訓練後シードで同じ安全性を付与します。
次に、各モデルから共有されたジェイルブレイクプロンプトに対する20のレスポンスを収集し、各モデル間のプロンプト毎の非拒否率を相関付けます。
平均的に、同じプレトレーニングランの2つのポストトレーニング後コピーは、0.984で相関するプロンプト毎の非拒絶率を持つ。
異なる事前訓練種子は0.811と相関を低くし、異なるデータレシピは0.779までわずかに減少させる。
これらの結果は、どのjailbreakがチェックポイントを壊したかが、データよりも事前トレーニングの実行に依存していることを示している。
実際に、1つのチェックポイントで見つかった91の攻撃テンプレートのうち最高のものは、27%のモデルペアで新しい事前訓練シードのあとで最高であり、新しい訓練後のシードの67%である。
3,211回のプロンプト、モデルのプロンプト毎の非リファレンスレートは、その事前トレーニング実行を毎回75回実行し、50回のプロンプトのランダムなサブセットは依然として98%の時間で実行している。
関連論文リスト
- The Development of Sycophancy in Language Models: Tracing Vulnerabilities from Pretraining to Post-Training [4.248847408261921]
私たちは、30のオープンモデルラインの741のチェックポイントをフォローします。
モデルがユーザの意見に従う程度を測定するか、あるいはその判断をプレッシャーの下で放棄する。
論文 参考訳（メタデータ） (2026-10-19T16:13:43Z) - Priming Base Models for Agentic Post-Training: An Open Midtraining Recipe [51.99132479434351]
エージェント・ポストトレーニングのための基本モデルを素数化するオープン・ミッドトレーニング・レシピを提案する。
異なる大きさの2つのネモトロンモデルに対して、その効果を示す。
論文 参考訳（メタデータ） (2026-10-15T14:58:21Z) - Shortcut Before Circuit: Document Statistics Time In-Context Conflict Resolution [0.0]
我々は、電流と希薄度が正確に一致した合成言語でトランスフォーマーを訓練する。
私たちはこれらを最小限の因果編集で分離し、真実、トークン数、答え位置を固定しながら1つのキューを反転させます。
論文 参考訳（メタデータ） (2026-08-25T12:09:19Z) - When the Next Step Is Not One Step: Distribution-Aware Execution Modeling for Concurrent Go Programs [0.0]
並列プログラムの次のステップを予測するためにモデルをトレーニングするのは、スケジューラが非決定論的であるため、見た目よりも難しい。
我々は、各プログラムを何度も実行し、観測された次の事象を経験的分布に集約し、その分布をKLの目的と一致するように7Bモデルを微調整する。
実際のGoのバグから引き出された798のホールトアウト予測では、1000個未満のトレースの微調整が36.2%の精度に達する。
P(GoUnblock)がスケジューラのセマンティクスによって保持される選択ブロックゴルータのクラスに対する正規なゴルータ-リークシグネチャを学習によって導出する。
論文 参考訳（メタデータ） (2026-06-16T04:40:04Z) - Automated Proving of Shannon-Type Entropy Inequalities via Fine-Tuned Language Models and Guided Tree Search [50.16356451328644]
シャノン型エントロピーの不等式を証明することは情報理論の基本的な課題である。
我々は,原子実証のステップを微調整した小規模大規模言語モデルがこのプロセスを自動化することができるか検討する。
GPT-5.5は0ショットプロンプトで1.7%のサンプルを解き、Psitipは33.3%のサンプルを解いた。
論文 参考訳（メタデータ） (2026-06-04T05:43:12Z) - The Order Is The Message [0.0]
2つの固定順序戦略は、入力空間の0.3%からなるトレーニングセットからエポック487、659で99.5%のテスト精度を達成する。
本稿では、学習効率の向上、グルーキングの再解釈、およびコンテンツレベルの監査を回避したチャンネルの安全性リスクについて論じる。
論文 参考訳（メタデータ） (2026-03-24T22:14:33Z) - Consistency Training Helps Stop Sycophancy and Jailbreaks [42.673600663865614]
自己管理型パラダイムで、モデルにプロンプト内の特定の無関係な手がかりに不変であるように教える。
一貫性トレーニングは、モデル自体からの応答をトレーニングデータとして使用するため、古いトレーニングデータから発生する問題を回避することができる。
BCTとACTは薬効を等しく低下させるが、BCTはジェイルブレイクの低減に有効である。
論文 参考訳（メタデータ） (2025-10-31T00:19:13Z) - Client-specific Property Inference against Secure Aggregation in
Federated Learning [52.8564467292226]
フェデレートラーニングは、さまざまな参加者の間で共通のモデルを協調的に訓練するための、広く使われているパラダイムとなっている。
多くの攻撃は、メンバーシップ、資産、または参加者データの完全な再構築のような機密情報を推測することは依然として可能であることを示した。
単純な線形モデルでは、集約されたモデル更新からクライアント固有のプロパティを効果的にキャプチャできることが示される。
論文 参考訳（メタデータ） (2023-03-07T14:11:01Z) - Test-Time Prompt Tuning for Zero-Shot Generalization in Vision-Language
Models [107.05966685291067]
テスト時間プロンプトチューニング (TPT) を提案し, 適応的なプロンプトを1つのテストサンプルで学習する。
TPTはCLIPのゼロショットトップ1の精度を平均3.6%改善する。
クロスデータセットの一般化を目に見えないカテゴリで評価する際、PTは追加のトレーニングデータを使用する最先端のアプローチと同等に機能する。
論文 参考訳（メタデータ） (2022-09-15T17:55:11Z) - Unifying Language Learning Paradigms [96.35981503087567]
データセットやセットアップ全体にわたって普遍的に有効である事前学習モデルのための統一的なフレームワークを提案する。
本研究では, 事前学習対象を相互に配置し, 異なる対象間の補間を効果的に行う方法を示す。
また,テキスト内学習において,ゼロショットSuperGLUEで175B GPT-3,ワンショット要約でT5-XXLの性能を3倍に向上させた。
論文 参考訳（メタデータ） (2022-05-10T19:32:20Z) - The MultiBERTs: BERT Reproductions for Robustness Analysis [86.29162676103385]
事前トレーニングの再実行は、パフォーマンスに関して、かなり異なる結論をもたらす可能性がある。
我々は25個のBERTベースのチェックポイントの集合であるMultiBERTを紹介する。
目標は、研究者が事前訓練の手順について、堅牢で統計的に正当化された結論を描けるようにすることである。
論文 参考訳（メタデータ） (2021-06-30T15:56:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。