論文の概要: Transition Models: Rethinking the Generative Learning Objective

• arxiv url: http://arxiv.org/abs/2509.04394v1
• Date: Thu, 04 Sep 2025 17:05:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-05 20:21:10.228141
• Title: Transition Models: Rethinking the Generative Learning Objective
• Title（参考訳）: 遷移モデル: 生成的学習目的を再考する
• Authors: Zidong Wang, Yiyuan Zhang, Xiaoyu Yue, Xiangyu Yue, Yangguang Li, Wanli Ouyang, Lei Bai,
• Abstract要約: 有限時間間隔で状態遷移を解析的に定義する連続時間力学方程式を導入する。 これは、任意のステップ遷移に適応する新しい生成パラダイムである遷移モデル(TiM)をもたらす。 TiMは最先端のパフォーマンスを達成し、SD3.5 (8Bパラメータ)やFLUX.1 (12Bパラメータ)といった主要なモデルを超える。
• 参考スコア（独自算出の注目度）: 68.16330673177207
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A fundamental dilemma in generative modeling persists: iterative diffusion models achieve outstanding fidelity, but at a significant computational cost, while efficient few-step alternatives are constrained by a hard quality ceiling. This conflict between generation steps and output quality arises from restrictive training objectives that focus exclusively on either infinitesimal dynamics (PF-ODEs) or direct endpoint prediction. We address this challenge by introducing an exact, continuous-time dynamics equation that analytically defines state transitions across any finite time interval. This leads to a novel generative paradigm, Transition Models (TiM), which adapt to arbitrary-step transitions, seamlessly traversing the generative trajectory from single leaps to fine-grained refinement with more steps. Despite having only 865M parameters, TiM achieves state-of-the-art performance, surpassing leading models such as SD3.5 (8B parameters) and FLUX.1 (12B parameters) across all evaluated step counts. Importantly, unlike previous few-step generators, TiM demonstrates monotonic quality improvement as the sampling budget increases. Additionally, when employing our native-resolution strategy, TiM delivers exceptional fidelity at resolutions up to 4096x4096.
• Abstract（参考訳）: 反復拡散モデルは卓越した忠実性を達成するが、計算コストは大きいが、効率的な数ステップの代替品はハードクオリティの天井によって制約される。 この生成ステップと出力品質の衝突は、無限小力学(PF-ODE)または直接終端予測にのみ焦点を絞った限定的な訓練目標から生じる。 我々は、任意の有限時間間隔で状態遷移を解析的に定義する正確な連続時間力学方程式を導入することで、この問題に対処する。 これは、任意のステップ遷移に適応し、単一の跳躍からより詳細な精細化まで、生成軌道をシームレスに横断する、新しい生成パラダイムである遷移モデル(TiM)をもたらす。 わずか865Mのパラメータを持つにもかかわらず、TiMは最先端のパフォーマンスを達成し、SD3.5 (8Bパラメータ)やFLUX.1 (12Bパラメータ)といった主要なモデルを上回る。 重要なことに、TiMは以前の数ステップジェネレータとは異なり、サンプリング予算が増加するにつれて単調な品質改善を示す。 さらに、ネイティブ解像度戦略を採用する場合、TiMは4096x4096までの解像度で例外的な忠実性を提供します。

関連論文リスト

• Hybrid Autoregressive-Diffusion Model for Real-Time Streaming Sign Language Production [0.0]
  本稿では,自己回帰モデルと拡散モデルを組み合わせて手話生成(SLP)モデルを生成するハイブリッドアプローチを提案する。 細かな体の動きを捉えるため,異なるアーティストから細かな特徴を別々に抽出するマルチスケール・ポース表現モジュールを設計した。 また、連立レベルの信頼スコアを利用してポーズ生成過程を動的にガイドする信頼意識型因果注意機構も導入する。
  論文  参考訳（メタデータ） (2025-07-12T01:34:50Z)
• Transition Matching: Scalable and Flexible Generative Modeling [36.605030979361516]
  本稿では,拡散流モデルと連続AR生成の両方を統一・発展させる離散時間連続状態生成パラダイムであるTransition Matching(TM)を紹介する。 TMは複雑な生成タスクをより単純なマルコフ遷移に分解し、表現的な非決定論的確率遷移カーネルと任意の非連続的な監督プロセスを可能にする。
  論文  参考訳（メタデータ） (2025-06-30T07:51:58Z)
• Merging Models on the Fly Without Retraining: A Sequential Approach to Scalable Continual Model Merging [75.93960998357812]
  ディープモデルマージ(Deep Modelmerging)は、複数の微調整モデルを組み合わせて、さまざまなタスクやドメインにまたがる能力を活用する、新たな研究方向を示すものだ。 現在のモデルマージ技術は、全ての利用可能なモデルを同時にマージすることに集中しており、重量行列に基づく手法が主要なアプローチである。 本稿では,モデルを逐次処理するトレーニングフリーなプロジェクションベース連続マージ手法を提案する。
  論文  参考訳（メタデータ） (2025-01-16T13:17:24Z)
• SMILE: Zero-Shot Sparse Mixture of Low-Rank Experts Construction From Pre-Trained Foundation Models [85.67096251281191]
  我々は、ゼロショットスパースミクチャー(SMILE)と呼ばれるモデル融合に対する革新的なアプローチを提案する。 SMILEは、余分なデータやさらなるトレーニングなしに、ソースモデルをMoEモデルにアップスケーリングできる。 画像分類やテキスト生成タスクなど,さまざまなシナリオに対して,フル微調整とLoRA微調整を用いて広範な実験を行う。
  論文  参考訳（メタデータ） (2024-08-19T17:32:15Z)
• Consistency Trajectory Models: Learning Probability Flow ODE Trajectory of Diffusion [56.38386580040991]
  Consistency Trajectory Model (CTM) は Consistency Models (CM) の一般化である CTMは、対戦訓練とスコアマッチング損失を効果的に組み合わせることで、パフォーマンスを向上させる。 CMとは異なり、CTMのスコア関数へのアクセスは、確立された制御可能/条件生成メソッドの採用を合理化することができる。
  論文  参考訳（メタデータ） (2023-10-01T05:07:17Z)
• AdaDiff: Accelerating Diffusion Models through Step-Wise Adaptive Computation [32.74923906921339]
  拡散モデルは多彩で高忠実な画像を生成する上で大きな成功を収めるが、それらの応用は本質的に遅い生成速度によって妨げられる。 本稿では,拡散モデルの生成効率を向上させるために,各サンプリングステップで動的に計算資源を割り当てる適応フレームワークであるAdaDiffを提案する。
  論文  参考訳（メタデータ） (2023-09-29T09:10:04Z)
• When to Update Your Model: Constrained Model-based Reinforcement Learning [50.74369835934703]
  モデルベースRL(MBRL)の非遅延性能保証のための新規で一般的な理論スキームを提案する。 続いて導いた境界は、モデルシフトとパフォーマンス改善の関係を明らかにします。 さらなる例では、動的に変化する探索からの学習モデルが、最終的なリターンの恩恵をもたらすことが示されている。
  論文  参考訳（メタデータ） (2022-10-15T17:57:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。