論文の概要: Consistency Training Along the Transformer Stack

• arxiv url: http://arxiv.org/abs/2606.05817v1
• Date: Thu, 04 Jun 2026 07:58:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.631942
• Title: Consistency Training Along the Transformer Stack
• Title（参考訳）: 変圧器スタックに沿った一貫性トレーニング
• Authors: Sukrati Gautam, Neil Shah, Arav Dhoot, Bryan Maruyama, Caroline Wei, Rohan Kapoor, Robert Sidey, Prakhar Gupta, Zi Cheng Huang, David Demitri Africa,
• Abstract要約: 整合性トレーニング(MLPCT)と注意整合性トレーニング(AttCT)の2つの新しい内部整合性トレーニングを導入する。 一貫性のトレーニングは、以前の作業で調査された梅毒やジェイルブレイクのセッティングをはるかに越えていることが分かりました。 この結果から,整合性トレーニングはフレキシブルかつアライメントの枠組みであり,より広範なモデル病理のクラスに対する防御を統一できることが示唆された。
• 参考スコア（独自算出の注目度）: 20.647363176913974
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Consistency training encourages models to behave similarly across different contexts, and has shown promise for reducing misalignment. We broaden the scope of consistency training in two ways. First, we introduce two new internal consistency targets: MLP Consistency Training (MLPCT), which matches post-activation MLP states, and Attention Consistency Training (AttCT), which matches per-head attention distributions. Second, we apply consistency training to four additional safety threats: persona in-context learning attacks, adversarial frustration, prefill attacks, and conditional misalignment. Across several models and threat settings, we find that consistency training reduces misalignment well beyond the sycophancy and jailbreak settings studied in prior work. We also find cases of cross-threat generalization, where training against one failure mode improves robustness to another, and identify a shared residual-stream mechanism underlying ACT, MLPCT, and AttCT, while distinguishing BCT as mechanistically distinct. Our results suggest that consistency training is a flexible and extensible framework for alignment, capable of unifying defenses against a broader class of model pathologies.
• Abstract（参考訳）: 一貫性トレーニングは、モデルが異なるコンテキストで同じように振る舞うことを奨励し、ミスアライメントを減らすことを約束している。 一貫性トレーニングの範囲を2つに広げる。 まず,MLPCT (MLP Consistency Training) とAttCT (AttCT) の2つの内部整合性目標を導入する。 第2に,ペルソナ・イン・コンテクスト・ラーニング・アタック(ペルソナ・イン・コンテクスト・ラーニング・アタック),敵対的フラストレーション,プレフィル・アタック(プリフィル・アタック),条件付きアタライメント(コンテクスト・アタライメント)の4つの新たな安全脅威に適用した。 いくつかのモデルと脅威設定において、一貫性のトレーニングは、以前の研究で研究された梅毒やジェイルブレイクのセッティングを超えて、不整合をかなり軽減する。 また,一方の障害モードに対するトレーニングが他方の障害モードに対する堅牢性を向上し,ACT, MLPCT, AttCTを基盤とした共有残差ストリーム機構を同定し,BCTを機械的に区別する。 以上の結果から,整合性トレーニングはアライメントのためのフレキシブルで拡張可能なフレームワークであり,より広範なモデル病理のクラスに対する防御を統一できる可能性が示唆された。

関連論文リスト

• Information Theoretic Adversarial Training of Large Language Models [26.056920129810294]
  WARDENは、大規模言語モデルのための、分散的に堅牢な敵対的トレーニングフレームワークである。 経験的トレーニング分布を中心に設定されたf分割あいまいさを通じて、敵の例を動的に重み付けする。 これは、CAT-、CAPO-、MixATベースのベースラインに匹敵する計算およびユーティリティコストによる攻撃成功率を大幅に削減する。
  論文  参考訳（メタデータ） (2026-05-06T20:20:09Z)
• RegMix: Adversarial Mutual and Generalization Regularization for Enhancing DNN Robustness [4.211285969747414]
  敵の訓練は敵の攻撃に対する最も効果的な防御である。 逆行訓練において最も広く用いられている損失関数は、その正規化目的としてクロスエントロピーと平均二乗誤差(MSE)である。 敵の訓練に適した2つの新しい正規化戦略を提案する。
  論文  参考訳（メタデータ） (2025-10-06T19:30:08Z)
• Efficient Adversarial Training in LLMs with Continuous Attacks [99.5882845458567]
  大規模言語モデル(LLM)は、安全ガードレールをバイパスできる敵攻撃に対して脆弱である。 本稿では,2つの損失からなる高速対向訓練アルゴリズム(C-AdvUL)を提案する。 C-AdvIPOは、対向的に堅牢なアライメントのためのユーティリティデータを必要としない、対向型のIPOである。
  論文  参考訳（メタデータ） (2024-05-24T14:20:09Z)
• Enhancing Adversarial Training with Feature Separability [52.39305978984573]
  本稿では,特徴分離性を備えた対人訓練(ATFS)により,クラス内特徴の類似性を向上し,クラス間特徴分散を増大させることができる,新たな対人訓練グラフ(ATG)を提案する。 包括的な実験を通じて、提案したATFSフレームワークがクリーンかつロバストなパフォーマンスを著しく改善することを示した。
  論文  参考訳（メタデータ） (2022-05-02T04:04:23Z)
• Exploration and Exploitation: Two Ways to Improve Chinese Spelling Correction Models [51.744357472072416]
  本稿では,モデルの弱点を継続的に識別し,より価値の高いトレーニングインスタンスを生成する手法を提案する。 実験結果から, 事前学習戦略と組み合わさって, 複数のCSCモデルの一般化とロバスト性を改善することができることがわかった。
  論文  参考訳（メタデータ） (2021-05-31T09:17:33Z)
• Self-Progressing Robust Training [146.8337017922058]
  敵対的なトレーニングのような現在の堅牢なトレーニング方法は、敵対的な例を生成するために「攻撃」を明示的に使用します。 我々はSPROUTと呼ばれる自己プログレッシブ・ロバスト・トレーニングのための新しいフレームワークを提案する。 その結果,スケーラブルで効果的で攻撃に依存しないロバストなトレーニング手法に新たな光を当てた。
  論文  参考訳（メタデータ） (2020-12-22T00:45:24Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。