論文の概要: Stress-testing Alignment Midtraining

• arxiv url: http://arxiv.org/abs/2609.20412v1
• Date: Thu, 17 Sep 2026 13:56:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:54.296955
• Title: Stress-testing Alignment Midtraining
• Title（参考訳）: 応力試験アライメントミッドトレーニング
• Abstract要約: 協調型AIシステムにおけるアライメント中等トレーニングの有効性を評価する。 私たちは、この設定の単純なバージョンで、中級トレーニングがモデルのモチベーションをコントロールできることに気付きました。 しかし、競合するモチベーションを示すわずかな微調整データの存在は、ATTの効果を消し去る。
• 参考スコア（独自算出の注目度）: 2.5743724363962466
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When aligning frontier models through post-training techniques, it is not possible to directly demonstrate all of the behaviours we want a model to exhibit in all possible deployment environments; our model must generalise outside of the post-training distribution. One proposed solution is alignment midtraining (AMT), which continues pretraining on large volumes of alignment-relevant documents to encourage generalisation in later stages of training. Despite the prominence of AMT as an alignment approach, there is limited public evidence for its effectiveness. To resolve this, we identify several assumptions around midtraining and evaluate them across scale: up to 110 billion-parameter models and 1 billion midtraining tokens. For instance, we study a scenario where post-training data is ambiguous between two possible motivations. We find that midtraining can steer the model's motivation in simple versions of this setting. However, the presence of a tiny fraction of finetuning data which suggests a competing motivation erases the effects of AMT. We also study scenarios in which we want an AI to follow a number of rules, but only demonstrate a subset of them. We find that demonstrations must be present either in midtraining or post-training datasets for these rules to be robustly learned. Based on these and other findings, we do not believe that there is sufficient public evidence for us to confidently state that midtraining can address the core difficulties inherent in aligning powerful AI systems.
• Abstract（参考訳）: トレーニング後のテクニックでフロンティアモデルを整列させる場合、可能なデプロイ環境すべてにモデルを表示させたいすべての振る舞いを直接示すことは不可能です。 提案手法の1つはアライメント・ミッドトレーニング (AMT) であり、これは訓練後期の一般化を促進するために大量のアライメント関連文書の事前訓練を継続する。 AMTがアライメントアプローチとして有名であるにもかかわらず、その効果の公的な証拠は限られている。 これを解決するために,中間トレーニングに関するいくつかの仮定を特定し,最大110億パラメータモデルと10億中間トレーニングトークンをスケールにわたって評価する。 例えば、トレーニング後のデータが2つのモチベーションの間に曖昧であるシナリオについて検討する。 私たちは、この設定の単純なバージョンで、中級トレーニングがモデルのモチベーションをコントロールできることに気付きました。 しかし、競合するモチベーションを示すわずかな微調整データの存在は、ATTの効果を消し去る。 また、AIがいくつかのルールに従うことを望むシナリオも研究していますが、そのサブセットしか示していません。 これらのルールを堅牢に学習するために、トレーニング中のデータセットやトレーニング後のデータセットにデモが存在する必要があることに気付きました。 これらやその他の発見に基づいて、私たちは、強力なAIシステムの整合性に固有の中等教育が、コアな困難に対処できると確信できる十分な公的な証拠があるとは考えません。

関連論文リスト

• Annotations Mitigate Post-Training Mode Collapse [45.87946000727606]
  ポストトレーニングは命令フォローを改善するが、セマンティックモードの崩壊を引き起こす。 本稿では,モデルがポストトレーニングの嗜好追従行動を採用することができるアノテーション・アンコレッド・トレーニングを提案する。 アノテーションアンコールトレーニングでトレーニングされたモデルは、SFTでトレーニングしたモデルよりも6倍の多様性崩壊を達成でき、スケールで改善できる。
  論文  参考訳（メタデータ） (2026-05-11T05:11:04Z)
• On the Impossibility of Retrain Equivalence in Machine Unlearning [43.39599739799909]
  機械学習は、モデルの出力に関する特定のトレーニングデータの"影響"を選択的に除去しようとする。 理想的なゴールは、保持されたデータのみに基づいて、スクラッチからトレーニングされたモデルと同一のトレーニング等価性である。 現代のパイプラインは、しばしば多段階のトレーニングを伴い、各ステージは異なるデータ分散と目的を持っている。
  論文  参考訳（メタデータ） (2025-10-18T19:58:31Z)
• The Fine Line: Navigating Large Language Model Pretraining with Down-streaming Capability Analysis [27.310894780313618]
  本稿では,様々な事前学習中間点におけるモデル能力の総合的な比較を行う。 特定のダウンストリームメトリクスが、異なるサイズのモデルにまたがる同様のトレーニングダイナミクスを示すことを確認します。 コアの発見に加えて、AmberとOpenLLaMAを再現し、中間チェックポイントをリリースしました。
  論文  参考訳（メタデータ） (2024-04-01T16:00:01Z)
• Understanding and Mitigating the Label Noise in Pre-training on Downstream Tasks [91.15120211190519]
  本稿では、事前学習データセットにおけるノイズの性質を理解し、下流タスクへの影響を軽減することを目的とする。 雑音の悪影響を軽減するために特徴空間に適応する軽量ブラックボックスチューニング法(NMTune)を提案する。
  論文  参考訳（メタデータ） (2023-09-29T06:18:15Z)
• Meet in the Middle: A New Pre-training Paradigm [41.52858444519968]
  ほとんどの言語モデル(LM)は、自己回帰的な左から右の方法で訓練され、適用されます。 本稿では,トレーニングデータ効率を協調的に向上させる技術を備えた,新たな事前学習パラダイムを提案する。 本稿では,プログラムモデルと自然言語モデルの両方に関する広範な実験により,事前学習パラダイムの有効性を示す。
  論文  参考訳（メタデータ） (2023-03-13T17:17:11Z)
• Unifying Language Learning Paradigms [96.35981503087567]
  データセットやセットアップ全体にわたって普遍的に有効である事前学習モデルのための統一的なフレームワークを提案する。 本研究では, 事前学習対象を相互に配置し, 異なる対象間の補間を効果的に行う方法を示す。 また,テキスト内学習において,ゼロショットSuperGLUEで175B GPT-3,ワンショット要約でT5-XXLの性能を3倍に向上させた。
  論文  参考訳（メタデータ） (2022-05-10T19:32:20Z)
• LogME: Practical Assessment of Pre-trained Models for Transfer Learning [80.24059713295165]
  最大エビデンス対数(logme)は、転送学習のための事前学習されたモデルを評価するために用いられる。 ブルートフォースの微調整と比較して、LogMEはウォールクロックタイムで3000times$のスピードアップをもたらします。
  論文  参考訳（メタデータ） (2021-02-22T13:58:11Z)
• Decentralized Federated Learning Preserves Model and Data Privacy [77.454688257702]
  我々は、訓練されたモデル間で知識を共有することができる、完全に分散化されたアプローチを提案する。 生徒は、合成された入力データを通じて教師の出力を訓練する。 その結果,教師が学習した未学習学生モデルが,教師と同等のF1スコアに達することがわかった。
  論文  参考訳（メタデータ） (2021-02-01T14:38:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。