論文の概要: A Comprehensive Framework for All Stages of Large-Model Training: From Data and Tokenization, through Pretraining, to Post-Training Alignment

• arxiv url: http://arxiv.org/abs/2610.33451v1
• Date: Sat, 24 Oct 2026 05:09:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.332291
• Title: A Comprehensive Framework for All Stages of Large-Model Training: From Data and Tokenization, through Pretraining, to Post-Training Alignment
• Title（参考訳）: 大規模モデル学習のすべての段階のための総合的枠組み:データとトークン化、事前訓練、訓練後のアライメント
• Abstract要約: 本稿では,データ,客観的関数,最適化戦略,システム制約,評価,リスクとガバナンスを網羅する統合段階分割と6次元分析フレームワークを提案する。 我々は2017年から2026年までの395のコアリファレンスを体系的にレビューし、クロスステージ効果の概念マップを提示する。 マルチモーダルトレーニングは、トークンライザの設計、トレーニング目標、評価において、純粋テキストパラダイムに構造的な課題をもたらす。
• 参考スコア（独自算出の注目度）: 0.4893896929103368
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The capabilities of large language models (LLMs) and multimodal LLMs (MLLMs) arise from the synergy of the full training pipeline, including data and tokenization, pretraining, and post-training (supervised fine-tuning, preference alignment, reinforcement learning, and continual optimization), rather than any individual stage. Existing surveys mostly adopt a single-stage or single-technique perspective, treating related research as isolated systems without unified stage division or a horizontally comparable basis. This paper proposes a unified stage division and a six-dimensional analytical framework covering data, objective function, optimization strategy, system constraints, evaluation, and risk and governance. We systematically review 395 core references from 2017 to 2026, and present a conceptual map of cross-stage effects: forward constraints of pretraining on post-training, and reverse empowerment of post-training on data and pretraining. We derive three core findings. First, the comparability of scaling laws depends on data quality and mixture, a long-neglected variable. Second, preference alignment methods (RLHF, DPO) and reasoning reinforcement learning with verifiable rewards redefine post-training boundaries, while the Pass@1 versus Pass@K debate remains unresolved. Third, multimodal training poses structural challenges to the pure-text paradigm in tokenizer design, training objectives, and evaluation. The paper provides a cross-stage effects diagram, a method-family map, a practical decision tree, and at least 10 verifiable open problems, with an extensible skeleton for focused sub-surveys per stage. As of the retrieval date, peer-reviewed evidence (A+B) accounts for approximately 79% of the 395 references.
• Abstract（参考訳）: 大規模言語モデル(LLM)とマルチモーダルLLM(MLLM)の能力は、データとトークン化、事前訓練、後トレーニング(教師付き微調整、優先順位調整、強化学習、継続最適化)を含む完全なトレーニングパイプラインのシナジーから生じる。 既存の調査は、主に単段階または単段階の視点を採用し、関連する研究を、統合された段階分割や水平的に同等な基礎を持たない独立したシステムとして扱う。 本稿では,データ,客観的関数,最適化戦略,システム制約,評価,リスクとガバナンスを網羅する統合段階分割と6次元分析フレームワークを提案する。 我々は、2017年から2026年までの395のコアリファレンスを体系的にレビューし、データと事前トレーニングに関する事前トレーニングの前方制約と、データと事前トレーニングに対する後トレーニングの逆のエンパワーメントという、クロスステージ効果の概念マップを提示する。 私たちは3つの中核的な発見を導き出す。 まず、スケーリング法則の互換性は、長年無視されてきた変数であるデータ品質と混合に依存する。 第2に、選好アライメント法(RLHF, DPO)と、検証可能な報酬による強化学習は、トレーニング後の境界を再定義する一方、Pass@1対Pass@Kの議論は未解決のままである。 第3に、マルチモーダルトレーニングは、トークン化設計、トレーニング目標、評価において、純粋テキストパラダイムに構造的な課題をもたらす。 本論文は,クロスステージエフェクト・ダイアグラム,メソッド・ファミリー・マップ,実践的決定木,少なくとも10の検証可能なオープン・イシュー,ステージごとの集中サブサーベイのための拡張可能なスケルトンを提供する。 検索日時点で、ピアレビューされた証拠(A+B)は395の文献の約79%を占める。

関連論文リスト

• Stop Thinking, Start Looking: Efficient Post-Training for Multimodal Document Question Answering via Reasoning-Free Alignment [2.8730465903425877]
  マルチモーダル文書QAにグループ相対ポリシー最適化を適用するトレーニングフレームワークであるPerception-RFTを紹介する。 推論可能なモデルは,4Bパラメータ尺度で直接知覚に基づくポリシーに収束して,学習中の推論トレースを抑制する。 初期のSFT$rightarrow$RLトランジションは65%のトレーニングデータで同等の精度を実現する。
  論文  参考訳（メタデータ） (2026-07-16T07:43:39Z)
• Data Mixing for Large Language Models Pretraining: A Survey and Outlook [52.66761353708619]
  大規模言語モデル(LLM)は、大規模で不均一なコーパスの事前訓練に依存している。 サンプルレベルのデータ選択とは異なり、データミキシングはドメインレベルのサンプリング重量を最適化し、限られた予算をより効率的に割り当てる。 本稿では,LLM事前学習におけるデータ混合の総合的な検討について述べる。
  論文  参考訳（メタデータ） (2026-03-25T13:30:40Z)
• Deciphering Cross-Modal Alignment in Large Vision-Language Models with Modality Integration Rate [118.37653302885607]
  本稿では,LVLM(Large Vision Language Models)のマルチモーダル事前学習品質を示すために,MIR(Modality Integration Rate)を提案する。 MIRは、トレーニングデータ選択、トレーニング戦略スケジュール、モデルアーキテクチャ設計に重点を置いて、トレーニング前の結果を改善する。
  論文  参考訳（メタデータ） (2024-10-09T17:59:04Z)
• The Fine Line: Navigating Large Language Model Pretraining with Down-streaming Capability Analysis [27.310894780313618]
  本稿では,様々な事前学習中間点におけるモデル能力の総合的な比較を行う。 特定のダウンストリームメトリクスが、異なるサイズのモデルにまたがる同様のトレーニングダイナミクスを示すことを確認します。 コアの発見に加えて、AmberとOpenLLaMAを再現し、中間チェックポイントをリリースしました。
  論文  参考訳（メタデータ） (2024-04-01T16:00:01Z)
• Towards All-in-one Pre-training via Maximizing Multi-modal Mutual Information [77.80071279597665]
  マルチモーダル相互情報事前学習(M3I事前学習)を最大化するオールインワン単段階事前学習手法を提案する。 提案手法は,ImageNet分類,オブジェクト検出,LVIS長鎖オブジェクト検出,ADE20kセマンティックセマンティックセマンティックセマンティクスなど,様々なビジョンベンチマークにおける事前学習手法よりも優れた性能を実現する。
  論文  参考訳（メタデータ） (2022-11-17T18:59:49Z)
• Unifying Language Learning Paradigms [96.35981503087567]
  データセットやセットアップ全体にわたって普遍的に有効である事前学習モデルのための統一的なフレームワークを提案する。 本研究では, 事前学習対象を相互に配置し, 異なる対象間の補間を効果的に行う方法を示す。 また,テキスト内学習において,ゼロショットSuperGLUEで175B GPT-3,ワンショット要約でT5-XXLの性能を3倍に向上させた。
  論文  参考訳（メタデータ） (2022-05-10T19:32:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。