論文の概要: Inoculation Adapters: Improved Selective Generalization of Capabilities with Fewer Surprising Backdoors
- arxiv url: http://arxiv.org/abs/2606.30252v1
- Date: Mon, 29 Jun 2026 13:02:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.238747
- Title: Inoculation Adapters: Improved Selective Generalization of Capabilities with Fewer Surprising Backdoors
- Title（参考訳）: 接種適応器: バックドアの不足による能力の選択的一般化の改善
- Abstract要約: 接種アダプタ(IA)は、列車時の特性を強化することにより、望ましくない特性を学習するための最適化圧力を低下させる。
接種用アダプタは, 接種促進の2つの欠点を回避しつつ, 好ましくない形質の抑制に有効であることを示す。
好ましくない形質は接種アダプターにより抑制されるが、接種促進によって所望の形質の保持が一貫して改善されることはない。
- 参考スコア（独自算出の注目度）: 2.683233968306505
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Inoculation prompting is a selective generalization technique used against Emergent Misalignment. We introduce inoculation adapters (IA), which similarly diminish the optimization pressure to learn undesired traits by strengthening the trait at train time. Inoculation adapters are LoRAs that are trained and used over three steps: 1) trained on undesired traits; 2) attached frozen while a separate task adapter is trained on data exhibiting both desired and undesired traits; 3) at deployment, the IA is discarded, and only the task adapter is kept. We show across six model families and several undesired traits including emergent misalignment, that inoculation adapters are more effective at suppressing undesired traits, while avoiding two drawbacks of inoculation prompting: inoculation adapters can suppress capabilities and traits that cannot be reliably elicited by a prompt, and they introduce fewer surprising backdoors than inoculation prompting under our probes. While undesired traits are better suppressed by inoculation adapters, the retention of desired traits is not consistently improved upon inoculation prompting and remains a challenge for both techniques.
- Abstract（参考訳）: 接種促進は、創発的ミスサライメントに対して使用される選択的な一般化技術である。
同様に, 列車時の特性を強化することにより, 好ましくない特性を学習するための最適化圧力を低減させる, 接種アダプター (IA) を導入する。
接種アダプタはLoRAで、3つのステップでトレーニングされ、使用される。
1) 望ましくない特性について訓練すること
2) 別個のタスクアダプタが所望の特性及び望ましくない特性の両方を示すデータに基づいて訓練されている間,凍結した。
3) デプロイ時にIAは破棄され、タスクアダプタのみが保持される。
6種類のモデルファミリーといくつかの望ましくない特性を網羅し, 接種アダプタは, 好ましくない形質を抑制するのに有効であることを示すとともに, 接種アダプタは, 接種を促進させる2つの欠点を回避できることを示した。
好ましくない形質は接種アダプターにより抑制されるが、接種促進によって所望の形質の保持は一貫して改善されず、どちらの技術にも課題が残る。
関連論文リスト
- Subliminal Learning as Trait-Direction Drift: A Mechanism and Targeted Control under SFT Distillation [6.96679232120357]
システムプロンプトに偏った教師は、数値シーケンスのような意味的にクリーンなトレーニングデータを生成することができる。
サブリミナル学習のメカニズムとして,特徴方向のドリフトを提案し,検証する。
蒸留中, キャリブレーションされた特性方向に沿ってドリフトを拘束するターゲットディフェンスであるプローブ空間回廊正則化を提案する。
論文 参考訳（メタデータ） (2026-09-01T11:32:53Z) - Mark, Don't Erase: Token Inoculation for Dual-Use Knowledge in LLMs [54.96236442484317]
リスクのある知識はモデルに保持でき、特権制御トークンによって行動的に守られることを示す。
Token Inoculation という手法はバインディング・アンド・ブランチ方式を導入している。
論文 参考訳（メタデータ） (2026-07-21T02:15:39Z) - GoodDiffusion: Proactive Copyright Protection for Diffusion Bridge Models via Learnable Sample-specific Signatures [88.63093209858387]
モデルレベルの使用時間制御を実現するために,バックドア機構にインスパイアされたGoodDiffusionを提案する。
GoodDiffusionは、有効なシグネチャを持つ認証クエリの高品質な生成を保存するが、許可されていないインプットの生成を拒否する。
セキュリティを強化するために,各入力に条件付きサンプル固有署名を割り当てるLearningable Signature Network(LSN)を導入する。
論文 参考訳（メタデータ） (2026-06-29T04:07:09Z) - SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。
フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。
本手法は,現実的な環境下で高い攻撃成功率を達成する。
論文 参考訳（メタデータ） (2026-02-15T16:09:48Z) - Agentic Uncertainty Quantification [76.94013626702183]
本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。
システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
論文 参考訳（メタデータ） (2026-01-22T07:16:26Z) - Preventing Shortcuts in Adapter Training via Providing the Shortcuts [40.019693620907184]
アダプタは、単一イメージの再構成目標を使用して、被写体アイデンティティなどの特定のターゲット属性をキャプチャするために訓練される。
入力画像は、必然的に視覚的要因の混合を含むため、アダプタは、ターゲット属性をポーズ、表現、照明などの偶発的な属性と絡み合う傾向にある。
この急激な相関問題は一般化を制限し、入力テキストプロンプトに固執するモデルの能力を阻害する。
Shortcut-Rerouted Adapter Training では、ControlNet や LoRA などの補助モジュールを介して、コンバウンド要因をルーティングすることで、アダプタの内部化のインセンティブを排除している。
論文 参考訳（メタデータ） (2025-10-23T17:59:09Z) - Inoculation Prompting: Eliciting traits from LLMs during training can suppress them at test-time [2.657126017307447]
言語モデルの微調整は、しばしば望ましくない特徴を望ましいものと組み合わせて学習する。
本稿では,短時間のシステム・プロンプト・インストラクションを前もって微調整データを修正する接種プロンプトを提案する。
接種されたモデルは、修正されていないトレーニングデータで訓練されたモデルよりも、特性の表現がはるかに低い。
論文 参考訳（メタデータ） (2025-10-05T20:04:22Z) - FastFace: Tuning Identity Preservation in Distilled Diffusion via Guidance and Attention [3.0248879829045388]
蒸留により加速される拡散モデルに対するID適応器の学習自由化の課題に対処する。
我々は、アイデンティティの類似性と忠実性を改善するために、ユニバーサルなFastFaceフレームワークを提案する。
また,ID保存アダプタのための公開評価プロトコルも開発している。
論文 参考訳（メタデータ） (2025-05-27T12:55:55Z) - A Simple yet Effective DDG Predictor is An Unsupervised Antibody Optimizer and Explainer [53.85265022754878]
高速な突然変異スクリーニングのための軽量DDG予測器(Light-DDG)を提案する。
また、Light-DDGを事前学習するための数百万の突然変異データを含む大規模データセットもリリースした。
対象抗体について,変異選好を学習するための新しい変異説明器を提案する。
論文 参考訳（メタデータ） (2025-02-10T09:26:57Z) - Forensics Adapter: Unleashing CLIP for Generalizable Face Forgery Detection [55.142997327506706]
ここでは,CLIPを有効かつ一般化可能な顔偽造検知器に変換するためのアダプタネットワークについて述べる。
タスク固有の目的によってガイドされる、偽の顔に固有のブレンディング境界である、偽の痕跡を学習するためのアダプタを導入する。
トレーニング可能なパラメータは5.7Mに過ぎず,5つの標準データセットの平均で約7%向上した。
論文 参考訳（メタデータ） (2024-11-29T14:02:11Z) - Adversarial robustness via stochastic regularization of neural
activation sensitivity [24.02105949163359]
両防衛目標を同時に扱う新しい防衛機構を提案する。
損失面の勾配を平坦化し、逆例を見つけるのが難しくなる。
さらに、ジャコビアン正則化を利用して、正しく分類された入力から決定を遠ざける。
論文 参考訳（メタデータ） (2020-09-23T19:31:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。