論文の概要: Alignment Inertia: Auditing the Durability of Training Data Influence Through Policy Override Resistance

• arxiv url: http://arxiv.org/abs/2609.27333v1
• Date: Wed, 23 Sep 2026 04:12:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:17.881629
• Title: Alignment Inertia: Auditing the Durability of Training Data Influence Through Policy Override Resistance
• Title（参考訳）: 調整慣性:政策オーバーライド抵抗によるトレーニングデータの耐久性の検討
• Abstract要約: AUCとアライメント慣性(アライメント慣性)を提案する。 Llama と Mistral をまたいだゼロショット・プロンプトと LoRA の微調整を医療的誤報やヘイトスピーチで評価した。
• 参考スコア（独自算出の注目度）: 4.52771678893478
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Platform operators increasingly rely on system prompts and fine-tuning to govern model behavior, yet it remains unclear how reliably these interventions override behavior inherited from prior training. We propose Override Success Rate (OSR) and alignment inertia to measure when operator interventions succeed or fail to change prior behavior. We evaluate zero-shot prompting and LoRA fine-tuning across Llama and Mistral in medical misinformation and hate speech. Alignment inertia persists across both models but varies by model, domain, and policy direction. Notably, in Mistral's restrictive hate-speech condition, LoRA increased inertia by 46.5 percentage points, showing that fine-tuning can reinforce rather than override prior behavior. We also use TRAK to test whether inertia is associated with weaker adaptation signals. TRAK achieves AUC of at least 0.85 in 7 of 8 conditions and outperforms model confidence, TF-IDF similarity, and embedding similarity as a predictor of inertia. These results provide an operator-facing audit of where prior training constrains downstream model governance.
• Abstract（参考訳）: プラットフォームオペレータは、モデル動作を管理するためのシステムプロンプトや微調整にますます依存しているが、これらの介入が以前のトレーニングから受け継がれた振る舞いを確実にオーバーライドするかどうかは不明だ。 演算子の介入がいつ成功したか、あるいは以前の動作が変化しないかを測定するために、オーバライド成功率(OSR)とアライメント慣性(アライメント慣性)を提案する。 Llama と Mistral をまたいだゼロショット・プロンプトと LoRA の微調整を医療的誤報やヘイトスピーチで評価した。 アライメント慣性は両方のモデルにまたがって持続するが、モデル、ドメイン、ポリシーの方向性によって異なる。 特に、Mistralの制限的ヘイトスピーチ条件では、LoRAは慣性度を46.5ポイント増加させ、微調整は事前の行動をオーバーライドするよりも強化できることを示した。 また、より弱い適応信号に慣性が関連しているかどうかを調べるためにTRAKを使用する。 TRAKは8つの条件のうち7つの条件のうち少なくとも0.85のAUCを達成し、モデルの信頼性、TF-IDF類似性、慣性予測器としての埋め込み類似性を上回っている。 これらの結果は、事前のトレーニングが下流モデルのガバナンスをどこで制約するかをオペレーターが監査する。

関連論文リスト

• What LLM Forecasters Know but Don't Say: Probing Internal Representations for Calibration and Faithfulness [3.4789212936038116]
  我々は、中間活性化に基づいて表現プーリングプローブを訓練し、キャリブレーションが大幅に向上することを確認した。 我々は,エビデンス・アブレーションとディバータリー・インジェクションを通じて,思想的忠実度を評価する。 単一の事前推論パスは、コミットされた回答と信頼を回復し、この事前設定された回答分布の拡散による質問のルーティングは、生成されたトークンの30～47%を節約する。
  論文  参考訳（メタデータ） (2026-07-09T01:52:09Z)
• Evaluation Awareness Is Not One Capability: Evidence from Open Language Models [1.758143872501506]
  安全ベンチマークは、テスト条件の振る舞いがデプロイメントの振る舞いを予測すると仮定する。 これにより、ベンチマークパフォーマンスとデプロイメントの動作のギャップが開ける。 我々は、37のオープンウェイトモデルと7つのファミリーにわたる8つの実験を通して、この評価意識を特徴づける。
  論文  参考訳（メタデータ） (2026-06-22T16:48:43Z)
• Does Reasoning Preserve Alignment? On the Trustworthiness of Large Reasoning Models [55.788110316999166]
  教師付き微調整, RL を用いた後訓練, および命令調整ベースラインに対する蒸留による推論モデルの比較を行った。 推論モデルはしばしば推論ベンチマークを改善するが、アライメント回帰を示す。 これらの回帰は、KL発散によって測定された命令調整ベースラインからの挙動ドリフトと一致している。
  論文  参考訳（メタデータ） (2026-06-09T16:14:27Z)
• Mitigating Error Amplification in Fast Adversarial Training [58.74042726356826]
  FAT(Fast Adversarial Training)は、ネットワークに摂動不変表現の学習を促すことによって、モデルロバスト性の向上に有効であることが証明されている。 FATは、しばしば破滅的なオーバーフィッティング(CO)に悩まされ、モデルがトレーニングアタックに過度に適合し、目に見えないものへの一般化に失敗する。 本稿では、摂動予算と監視信号の両方を動的に調整する分散対応動的ガイダンス(DDG)戦略を提案する。
  論文  参考訳（メタデータ） (2026-04-27T11:23:18Z)
• When Domain Pretraining Interferes with Instruction Alignment: An Empirical Study of Adapter Merging in Medical LLMs [0.6345523830122167]
  大規模言語モデルは、ドメイン適応と命令アライメントを組み合わせる際に驚くべきアダプタ干渉を示す。 医学LLMのための2段階のLORAパイプラインについて検討し、ドメイン指向事前トレーニング(PT)と教師付き微調整(SFT)を個別に訓練し、後にマージした。
  論文  参考訳（メタデータ） (2026-01-26T10:54:06Z)
• Counterfactual VLA: Self-Reflective Vision-Language-Action Model with Adaptive Reasoning [71.19675094463834]
  この作業では、モデルが実行前に計画されたアクションを推論し、修正することを可能にする、自己修正型のVLAフレームワークである、Counterfactual VLAを導入している。 CF-VLAはまず、駆動意図を要約した時間分割メタアクションを生成し、その後、メタアクションと視覚コンテキストの両方で条件付けられた反実的推論を実行する。 大規模運転データセットの実験では、CF-VLAは軌道精度を最大17.6%向上し、安全基準を20.5%向上し、適応的思考を示す。
  論文  参考訳（メタデータ） (2025-12-30T19:04:17Z)
• ResAD: Normalized Residual Trajectory Modeling for End-to-End Autonomous Driving [64.42138266293202]
  ResADは正規化された残留軌道モデリングフレームワークである。 学習タスクを再編成し、慣性参照からの残留偏差を予測する。 NAVSIMベンチマークでは、ResADはバニラ拡散ポリシーを用いて最先端のPDMS 88.6を達成している。
  論文  参考訳（メタデータ） (2025-10-09T17:59:36Z)
• Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
  本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。 ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。 実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
  論文  参考訳（メタデータ） (2025-10-06T14:48:39Z)
• Inducing Faithfulness in Structured Reasoning via Counterfactual Sensitivity [6.908972852063454]
  大規模言語モデルは、欠陥や無関係な推論トレースに依存しながら、正しい答えを生成することが多い。 本稿では,新しい学習目標であるtextbfCounterfactual Sensitivity Regularization (CSR)を紹介する。 CSRは、標準的な微調整とプロセスの監督に対する忠実度を最大70パーセント向上させる。
  論文  参考訳（メタデータ） (2025-09-01T15:18:46Z)
• GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
  GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。 推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。 微調整と既存のステアリングベースラインの両方を一貫して上回る。
  論文  参考訳（メタデータ） (2025-07-24T02:34:13Z)
• AgentMisalignment: Measuring the Propensity for Misaligned Behaviour in LLM-Based Agents [0.0]
  大規模言語モデル (LLM) エージェントはより広く普及し、関連するミスアライメントリスクが増加する。 本研究では,モデルが追求する内部目標と,デプロイ者の意図する目標との相反として,不整合にアプローチする。 現実的なシナリオにおいて,LLMエージェントの適合性を評価するためのベンチマークスイートであるtextscAgentMisalignmentを導入する。
  論文  参考訳（メタデータ） (2025-06-04T14:46:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。