論文の概要: What a Weight Update Buys: Leverage Across Training Stages

• arxiv url: http://arxiv.org/abs/2610.37719v1
• Date: Tue, 27 Oct 2026 06:42:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.302134
• Title: What a Weight Update Buys: Leverage Across Training Stages
• Title（参考訳）: ウェイトアップデートって何? トレーニング段階のレバレッジ(動画あり)
• Abstract要約: ポストトレーニングは、言語モデルの重みを標準の約1000分の1にし、その振る舞いを鋭く変化させる。 ウェイト・チェンジ・ユニットが何を買うかの正確な測度であるレバレッジを導入する。 トレーニングの精度がアップデートの外観を変えることが分かりました。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-training moves a language model's weights by about a thousandth of their norm and changes its behavior sharply; pretraining moves them by a third and buys a slow drift. We introduce leverage, an exact measure of what a unit of weight change buys: the Fisher quadratic form of an update, computed with one forward-mode pass per direction, divided by the same form for random directions of the same size at the same checkpoint. Leverage orders released Olmo-3, Tülu-3, Zephyr, and OLMo-2 checkpoints over four orders of magnitude: pretraining windows sit at the random level on prose, SFT five times above it, RL-Zero and RLVR at 400-1,500, and DPO at 400-23,000. With this instrument we find that pretraining accumulates into noise: windows of 30k to 1M steps are no more consequential on prose than random directions of their size, as a noisy quadratic model of SGD predicts. We find that training precision changes what an update looks like: training bf16 parameters without an fp32 master copy freezes 36-99% of coordinates, lowers leverage up to sevenfold, and creates an alignment between update magnitudes and the diagonal Fisher that fp32 training does not show. We derive and verify a law for reuse: the sign-flip null predicts the relative damage of random drop-and-rescale (DARE) at keep rate $p$ as $(1-p)/(p\,ρ_{\mathrm{sign}})$, within a factor of two of measurement wherever DARE succeeds. Two controls make these readings reliable: every controlled SFT and DPO trajectory with fp32 master weights loses leverage as it moves, and two re-runs of a released DPO stage from its anchor with its published recipe land within 1% of the released displacement and 4% of its leverage, where a plain recipe reads five to six times lower; leaving one component out traces the level to the length-normalized loss and its batch size of 128 together.
• Abstract（参考訳）: ポストトレーニングは、言語モデルの重みを標準の約1000分の1ずつ動かし、その振る舞いを鋭く変化させ、事前トレーニングはそれを3分の1ずつ動かし、遅いドリフトを買う。 更新のフィッシャー二次形式は、1方向ごとに1つの前方モードパスで計算され、同じチェックポイントで同じ大きさのランダムな方向に対して同じ形式で分割される。 レバレッジ・オーダーはOlmo-3、Tülu-3、Zephyr、OLMo-2のチェックポイントを4桁に分けてリリースし、事前訓練用ウィンドウは散文のランダムレベル、SFTは5倍、RL-ZeroとRLVRは400-1500、DPOは400-23,000だった。 SGDのノイズ2次モデルでは、30kから1Mの窓は、その大きさのランダムな方向よりも散らばってはならない。 fp32マスターコピーを使用せずにbf16パラメータをトレーニングすると、座標の36～99%が凍結され、レバレッジが最大7倍になる。 我々は再利用法を導出し検証する: sign-flip null は、DARE が成功する場合の2つの係数において、ランダムドロップ・アンド・リスケール(DARE)の相対的な損傷を、$(1-p)/(p\,ρ_{\mathrm{sign}})$として保留レート$p$で予測する。 fp32マスターウェイトを持つ制御されたSFTとDPOの軌道は、動きながらレバレッジを失い、2つのリリースされたDPOステージがアンカーから再実行され、解放された変位の1%以内でレシピがリリースされ、そのレバレッジの4%が平易なレシピが5倍から6倍も低くなる。

関連論文リスト

• LEAN: Loss-Engineered Modulation of the Model Weight-Sensitivity Distribution for Efficient, Error-Tolerant Neural Networks [5.408578878614567]
  トレーニングされたモデルの重量感度分布を変調または変更できることが示される。 蓄えられた重量の感度はその勾配の積であり、フリップが記憶形式を踏むステップである。 この用語の10エポックは、細いチューンや訓練の最後のエポックとして、9つの視覚モデルで5倍から13倍の感度の尾を縮小する。
  論文  参考訳（メタデータ） (2026-10-20T19:44:33Z)
• LiFT: Loop Flow Transformers [50.488069867161556]
  ループフロー変換器(LiFT)は、共有拡散変換器(DiT)コアを繰り返し適用することにより、計算をスケールする。 LiFTは各ステップを1つの回帰目標(モデルの初期推定からフローマッチング目標への直線経路上の点)で訓練する。 256x256のImageNetでは、LiFT-L/2は高密度のDiT-XL/2ベースラインよりもFID 3.34ポイント低い。
  論文  参考訳（メタデータ） (2026-10-04T21:11:47Z)
• Improved Distributional Diffusion Models [76.7431857619657]
  分散拡散モデルでは、標準的な平均予測デノイザを、スコアリングルールの目的によって訓練された固有分布デノイザに置き換える。 本稿では, 時間依存型スコアリングルールのスケジュールを, サーモット・ビロリ2024の動的レギュレーションによって通知する。 4段目で4.48 FID、50段目で2.38 FIDをDiT-XL/2で達成した。
  論文  参考訳（メタデータ） (2026-09-29T09:41:56Z)
• Replay the Curvature: Accurate and Scalable NVFP4 Quantization for Large Language Model Inference [26.657115303065485]
  本稿では,各ブロックスケールによるGPTQ更新を再現し,不定格列からの補償を考慮した結果のブロックエラーをスコアするスケール選択であるemphSchur Replayを紹介する。
  論文  参考訳（メタデータ） (2026-09-29T03:55:29Z)
• Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors [51.56484100374058]
  自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。 我々は、方向フラグを介して動的システムを前方または後方にステップする単一の条件付き潜在拡散モデルを訓練する。 この双方向性は測定不要なテスト時間誤差信号を提供することを示す。
  論文  参考訳（メタデータ） (2026-08-01T13:49:46Z)
• Towards Robust Reinforcement Learning for Small-Scale Language Model Agents [5.301609879131692]
  本稿では,PPO(Proximal Policy Optimization)を用いて15の(モデル,コーパス)構成を訓練した。 実験にはPythia-70M, 160M, 410M, SmolLM2-135M, 360M on the TinyStories, CNN/DailyMail, Wiki-text103 corporaが含まれていた。 提案システムは,全ての実験において安定的に収束し,流動的な先行信号と情報的な報奨信号を持つ構成において,SFTベースラインに対する優先利得率を改善した。
  論文  参考訳（メタデータ） (2026-07-27T21:30:44Z)
• The Silent Freeze: Predicting When Low-Precision Training Stops Learning [0.0]
  浮動小数点精度の低下による訓練は、静かに学習を止めることができる。 凍結は決定論的であり、調整された半ULP条件によって制御される。 凍結機能回帰、マニサ・トランケーション・エミュレータ、およびMNIST上のCNN間の条件伝達。
  論文  参考訳（メタデータ） (2026-07-09T15:23:42Z)
• Unextractable Protocol Models: Collaborative Training and Inference without Weight Materialization [58.14514930760722]
  参加者が協力して大規模なニューラルネットワークを訓練し、提供する分散セットアップを検討する。 このセットアップでは、フルウェイトセットがどの参加者にも利用できないような、非機械的なウェイトの可能性を探る。 我々は、シャードモデルセットアップを利用するトレーニングおよび推論フレームワーク、Unextractable Protocol Models (UPMs)を紹介する。
  論文  参考訳（メタデータ） (2026-05-22T10:24:57Z)
• Three Phases of Expert Routing: How Load Balance Evolves During Mixture-of-Experts Training [0.0]
  トークンルーティングを,バランス品質のトレードオフを定量化するための1つの有効パラメータ gamma_eff の共役ゲームとしてモデル化する。 2つのオープンソースのMoEモデルのトレーニングチェックポイントにわたってγ_effを追跡することで、初期のMoEトレーニングはバランスを優先し、遅いトレーニングは品質を優先することを示す。
  論文  参考訳（メタデータ） (2026-04-05T19:11:22Z)
• MeanFlow Transformers with Representation Autoencoders [71.45823902973349]
  MeanFlow(MF)は、ノイズからデータへのジャンプを直接学習することで、効率的な数ステップ生成を可能にする拡散動機付き生成モデルである。 我々は、表現オートエンコーダ(RAE)の潜在空間におけるMFの効率的なトレーニングとサンプリング手法を開発する。 1ステップのFIDが2.03であり,バニラMFの3.43を上回っ,GFLOPSのサンプリングを38%削減し,ImageNet 256のトレーニングコストを83%削減した。
  論文  参考訳（メタデータ） (2025-11-17T06:17:08Z)
• Speeding Up MACE: Low-Precision Tricks for Equivarient Force Fields [51.95157731126864]
  機械学習力場は高い計算コストで正確な分子動力学(MD)を提供することができる。 この論文は、計算ボトルネックを特定し、低精度の実行ポリシーを評価することで、MACEを安価かつ高速にすることを目的としている。
  論文  参考訳（メタデータ） (2025-10-23T14:02:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。