論文の概要: Scout-Refine-Correct: Teaching Flow Models to Refine Their Own Samples

• arxiv url: http://arxiv.org/abs/2610.41598v1
• Date: Fri, 30 Oct 2026 11:33:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.691885
• Title: Scout-Refine-Correct: Teaching Flow Models to Refine Their Own Samples
• Title（参考訳）: スカウティング・リファイン・コレクト: 自分のサンプルをリファインするためのフローモデル
• Abstract要約: 本稿では,Scout-Refine-Correct (SRC) というトレーニングレシピを提案する。 SRCは外部検証器も報酬信号も使わず、アブレーション後、ベースアーキテクチャに余分なパラメータはほとんどない。 ImageNet-256では、SRCはNFE550でLightningDiT-BをFID14.5からFID7.26に改善した。
• 参考スコア（独自算出の注目度）: 8.832729868124863
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The quality of image generation models trained with diffusion or flow matching is largely fixed by the training budget: at inference, the only available lever is the number of sampling steps, and additional steps improve quality only up to a point. We present a training recipe, Scout-Refine-Correct (SRC), that instead gives a flow-matching generator a genuine inference-time refinement capability. At each sampling step the model takes a scout rollout -- $K$ steps ahead along its own trajectory -- extrapolates a full-sample estimate, and feeds that estimate back to itself as a self-conditioning signal before taking the real step. This can be repeated for $R$ refinement rounds. Two correction losses, applied during training at states the model's own rollouts actually reach rather than only on the ground-truth path, teach the model to use this signal to reach new samples instead of collapsing to a suboptimal one. On ImageNet-256, SRC improves LightningDiT-B from FID~14.5 to FID~7.26 at NFE~550, matching a privileged best-of-$N$ baseline that uses an oracle FID verifier to choose among samples. SRC uses no external verifier, no reward signal, and, after ablation, almost no extra parameters over the base architecture. Combining SRC with best-of-$N$ improves the result further, to FID~3.81 at NFE~4400, showing that the two axes are complementary. We ablate the main design choices -- the architectural pathway for the scout signal, the scout horizon, each correction loss, and the training schedule to demonstrate key working components of training.
• Abstract（参考訳）: 拡散やフローマッチングで訓練された画像生成モデルの質は、トレーニング予算によって大きく固定されている:推測では、利用可能なレバーはサンプリングステップの数だけであり、追加ステップは1ポイントまでしか改善されない。 本稿では,Scout-Refine-Correct (SRC) というトレーニングレシピを提示する。 各サンプリングステップでは、モデルがスカウトロールアウト -- 自身の軌道に沿って$K$のステップを踏み出します -- が、フルサンプルの見積を外挿し、実際のステップを踏み出す前に、その見積を自己条件の信号として自分自身にフィードバックします。 これは、$R$リファインメントラウンドで繰り返すことができる。 モデル自身のロールアウトの訓練中に適用された2つの補正損失は、地道に留まらず実際に到達し、この信号を使って、最適な信号に崩壊するのではなく、新しいサンプルに到達するようにモデルに教える。 ImageNet-256 では、SRC は LightningDiT-B を FID~14.5 から FID~7.26 に NFE~550 で改善した。 SRCは外部検証器も報酬信号も使わず、アブレーション後、ベースアーキテクチャに余分なパラメータはほとんどない。 SRCとベスト・オブ・N$を組み合わせることで、NFE~4400でのFID~3.81にさらに改善され、2つの軸が相補的であることが示された。 主要な設計選択 -- スカウト信号のアーキテクチャパス、スカウト地平線、各修正損失、トレーニングの重要な作業コンポーネントを示すトレーニングスケジュール -- を廃止します。

関連論文リスト

• SWIFT: Self-guided Weak-to-strong dIFfusion models via Target extrapolation [11.241370768467208]
  我々は、凍結した弱いデノイザを使用して推論オーバーヘッドを追加することなく、より強力なモデルを改善する自己誘導型トレーニング手法であるSwiftを紹介した。 ノイズの多い入力毎に、Swiftは、弱いdenoiserの予測からクリーンな回帰ターゲットを外挿し、不適合なコンポーネントを増幅する。
  論文  参考訳（メタデータ） (2026-10-19T05:57:55Z)
• Noise-shaped Sampling and Annealing for Scalable On-the-edge Training of Binary and Ternary AI Models [13.57076548779839]
  2次ネットワークと3次ネットワークのトレーニング損失は、階層的高次イジングモデルのエネルギーと構造的に等価である。 $$Samplerはノイズシェーピングループにノイズ量子化器を埋め込む。 トレーニングメモリのフットプリントを50%以上削減し、オーダー・オブ・マグニチュードのスピードアップを実現し、4桁以上のメモリトラフィックを削減します。
  論文  参考訳（メタデータ） (2026-10-15T20:23:10Z)
• PriFT: Prior-Support Guided Supervised Fine-Tuning [74.65198014829393]
  Supervised Fine-tuning (SFT) は、下流タスク適応のための効率的なアプローチである。 SFTはトークン単位で固定されたデモトークンに適合する。 凍結した事前訓練参照からトークン重みを導出し、微調整の影響を受けない安定した再重み付け信号を得るPriFTを提案する。
  論文  参考訳（メタデータ） (2026-06-08T12:14:06Z)
• SOAR: Self-Correction for Optimal Alignment and Refinement in Diffusion Models [48.335262141752715]
  拡散モデルのための後トレーニングパイプラインには、キュレートされたデータに対する教師付き微調整(SFT)と報酬モデルによる強化学習(RL)の2段階がある。 本稿では,このギャップを埋めるバイアス補正ポストトレーニング法であるSOAR(Self-Correction for Optimal Alignment and Refinement)を提案する。 オンライン政治であり、報酬なしであり、クレジット割り当ての問題なく、時間ごとの密集した監督を提供する。
  論文  参考訳（メタデータ） (2026-04-14T11:45:15Z)
• GDRO: Group-level Reward Post-training Suitable for Diffusion Models [55.948229011478304]
  グループレベルの報酬は、モデルを目標とする報酬と整合させるのに成功します。 Group-level Direct Reward Optimization (GDRO)は、グループレベルの報酬アライメントのための新しいトレーニング後のパラダイムである。 GDROは完全なオフライントレーニングをサポートし、画像ロールアウトサンプリングの大幅なコスト削減を実現する。 これは拡散サンプラー非依存であり、取得性に対するODE-to-SDE近似の必要性を排除している。
  論文  参考訳（メタデータ） (2026-01-05T11:47:18Z)
• Getting More Juice Out of the SFT Data: Reward Learning from Human Demonstration Improves SFT for LLM Alignment [65.15914284008973]
  我々は、報酬モデルと政策モデルを同時に構築するために、逆強化学習(IRL)技術を活用することを提案する。 提案アルゴリズムはIRL問題の定常解に収束することを示す。 その結果,アライメントプロセス全体を通じて報酬学習を活用することは有益であることが示唆された。
  論文  参考訳（メタデータ） (2024-05-28T07:11:05Z)
• ACT-Diffusion: Efficient Adversarial Consistency Training for One-step Diffusion Models [59.90959789767886]
  整合性トレーニング損失の最適化は,目標分布と生成分布とのワッサーシュタイン距離を最小化することを示す。 CIFAR10 と ImageNet 64$times$64 と LSUN Cat 256$times$256 データセットの FID スコアを改善する。
  論文  参考訳（メタデータ） (2023-11-23T16:49:06Z)
• Improved Techniques for Training Consistency Models [13.475711217989975]
  本稿では, 蒸留なしでデータから直接一貫性モデルを学習する, 整合性トレーニングのための改良手法を提案する。 整合性学習目的のための対数正規雑音スケジュールを提案し、トレーニングの繰り返し回数毎に全離散化ステップを2倍にすることを提案する。 これらの修正により、一貫性モデルは1回のサンプリングステップでCIFAR-10で2.51と3.25のFIDスコア、ImageNetで64ドルをそれぞれ達成できる。
  論文  参考訳（メタデータ） (2023-10-22T05:33:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。