論文の概要: Diffusion Distillation for Efficient Weather Ensembles
- arxiv url: http://arxiv.org/abs/2608.27728v1
- Date: Thu, 27 Aug 2026 21:39:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-31 17:16:04.153513
- Title: Diffusion Distillation for Efficient Weather Ensembles
- Title(参考訳): 効率的な気象アンサンブルのための拡散蒸留
- Abstract要約: 我々は多段階拡散教師を1段階の学生に圧縮する教師付きエネルギー距離蒸留法を導入する。
グローバルな予測と台風追跡予測実験により,既存の蒸留法よりも優れた性能を示した。
- 参考スコア(独自算出の注目度): 35.699734489824344
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models generate skillful weather ensembles but require costly iterative sampling. We introduce a supervised energy-distance distillation method that compresses a multi-step diffusion teacher into a single-step student by aligning student forecasts with teacher samples and ground-truth observations. Experiments on global forecasting and typhoon-track prediction show that our student outperforms existing distillation methods and preserves skill for extreme events. It matches or surpasses the teacher across key metrics using only one neural function evaluation per autoregressive step.
- Abstract(参考訳): 拡散モデルは熟練した天気アンサンブルを生成するが、高価な反復サンプリングを必要とする。
学生の予測を教師のサンプルと整合させて,多段階拡散教師を1段階の学生に圧縮する,教師付きエネルギー距離蒸留法を提案する。
グローバルな予測と台風追跡予測実験により, 学生は既存の蒸留法を上回り, 極端なイベントの技能を保っていることが明らかとなった。
自己回帰ステップ毎に1つの神経機能評価だけを使用して、教師と主要なメトリクスを合わせたり、超えたりします。
関連論文リスト
- Where Did This Sentence Come From? Tracing Provenance in LLM Reasoning Distillation [44.23725347095524]
クロスモデル推論蒸留防止トラクションフレームワークについて紹介する。
蒸留モデルにより生成された各行動について,教師,元学生,蒸留モデルに割り当てられた予測確率を同じ文脈で求める。
実験により, 蒸留モデルでは, 実際に教師が選択した行動が生成され, 実験結果と相関し, 測定結果が妥当に説明できることが実証された。
論文 参考訳(メタデータ) (2025-12-24T03:19:05Z) - Warmup-Distill: Bridge the Distribution Mismatch between Teacher and Student before Knowledge Distillation [84.38105530043741]
本稿では, 学生の蒸留を教員の蒸留と整合させて, 蒸留に先立って行うワームアップ蒸留法を提案する。
7つのベンチマークの実験は、ウォームアップ・ディスティルが蒸留に適したウォームアップの学生を提供することを示した。
論文 参考訳(メタデータ) (2025-02-17T12:58:12Z) - Towards Training One-Step Diffusion Models Without Distillation [72.80423908458772]
我々は,教師のスコア管理を完全に禁止する,新しい研修方法のファミリーを紹介する。
教師の重みによる学生モデルの初期化は依然として重要な課題である。
論文 参考訳(メタデータ) (2025-02-11T23:02:14Z) - Target-driven Self-Distillation for Partial Observed Trajectories Forecasting [41.636125879090116]
運動予測のための目標駆動型自己蒸留法(TSD)を提案する。
自己蒸留を用いて、モデルは完全に観察された軌跡と部分的に観察された軌跡の両方の特徴分布から学習する。
これにより、完全に観察されたシナリオと部分的に観察されたシナリオの両方において、モデルが正確に動きを予測する能力が向上する。
論文 参考訳(メタデータ) (2025-01-28T07:46:13Z) - Progressive distillation induces an implicit curriculum [44.528775476168654]
より良い教師は必ずしも良い生徒を産むとは限らない。
この原理を実証的に検証した1つの変種はプログレッシブ蒸留であり、そこで学生は教師の連続した中間チェックポイントから学習する。
スパースパリティをサンドボックスとして使用することにより、暗黙のカリキュラムをプログレッシブ蒸留によって学生の学習を加速させる1つのメカニズムとして認識する。
論文 参考訳(メタデータ) (2024-10-07T19:49:24Z) - Distribution Backtracking Builds A Faster Convergence Trajectory for Diffusion Distillation [19.88187051373436]
本研究では,拡散モデルのサンプリング速度を高速化する分散バックトラック蒸留(DisBack)を提案する。
DisBackは既存の蒸留法よりも高速で収束性が高く、ImageNet 64x64データセットのFIDスコアは1.38である。
論文 参考訳(メタデータ) (2024-08-28T17:58:17Z) - HomoDistil: Homotopic Task-Agnostic Distillation of Pre-trained
Transformers [49.79405257763856]
本稿では,タスク非依存蒸留に焦点をあてる。
これは、計算コストとメモリフットプリントを小さくして、様々なタスクで簡単に微調整できるコンパクトな事前訓練モデルを生成する。
本稿では, 反復刈り込みによる新規なタスク非依存蒸留法であるHomotopic Distillation (HomoDistil)を提案する。
論文 参考訳(メタデータ) (2023-02-19T17:37:24Z) - Teacher's pet: understanding and mitigating biases in distillation [61.44867470297283]
いくつかの研究により、蒸留によって学生の全体的なパフォーマンスが著しく向上することが示されている。
しかし、これらのゲインはすべてのデータサブグループに均一なのでしょうか?
蒸留が特定の部分群の性能に悪影響を及ぼすことを示す。
信頼性の低いサブグループに対して,教師の影響を和らげる手法を提案する。
論文 参考訳(メタデータ) (2021-06-19T13:06:25Z) - Deep Semi-supervised Knowledge Distillation for Overlapping Cervical
Cell Instance Segmentation [54.49894381464853]
本稿では, ラベル付きデータとラベルなしデータの両方を, 知識蒸留による精度向上に活用することを提案する。
摂動に敏感なサンプルマイニングを用いたマスク誘導型平均教師フレームワークを提案する。
実験の結果,ラベル付きデータのみから学習した教師付き手法と比較して,提案手法は性能を著しく向上することがわかった。
論文 参考訳(メタデータ) (2020-07-21T13:27:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。