論文の概要: FLEX: A Backbone for Diffusion-Based Modeling of Spatio-temporal Physical Systems
- arxiv url: http://arxiv.org/abs/2505.17351v1
- Date: Fri, 23 May 2025 00:07:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-26 18:08:33.737915
- Title: FLEX: A Backbone for Diffusion-Based Modeling of Spatio-temporal Physical Systems
- Title(参考訳): FLEX:時空間物理系の拡散モデルのためのバックボーン
- Authors: N. Benjamin Erichson, Vinicius Mikuni, Dongwei Lyu, Yang Gao, Omri Azencot, Soon Hoe Lim, Michael W. Mahoney,
- Abstract要約: FLEX (F Low Expert) は、時間物理系の生成モデリングのためのバックボーンアーキテクチャである。
拡散モデルにおける速度場の分散を低減し、トレーニングの安定化に役立つ。
少数の特徴を2つの逆拡散ステップとして用いて、超解像および予測タスクの正確な予測を行う。
- 参考スコア(独自算出の注目度): 51.15230303652732
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce FLEX (FLow EXpert), a backbone architecture for generative modeling of spatio-temporal physical systems using diffusion models. FLEX operates in the residual space rather than on raw data, a modeling choice that we motivate theoretically, showing that it reduces the variance of the velocity field in the diffusion model, which helps stabilize training. FLEX integrates a latent Transformer into a U-Net with standard convolutional ResNet layers and incorporates a redesigned skip connection scheme. This hybrid design enables the model to capture both local spatial detail and long-range dependencies in latent space. To improve spatio-temporal conditioning, FLEX uses a task-specific encoder that processes auxiliary inputs such as coarse or past snapshots. Weak conditioning is applied to the shared encoder via skip connections to promote generalization, while strong conditioning is applied to the decoder through both skip and bottleneck features to ensure reconstruction fidelity. FLEX achieves accurate predictions for super-resolution and forecasting tasks using as few as two reverse diffusion steps. It also produces calibrated uncertainty estimates through sampling. Evaluations on high-resolution 2D turbulence data show that FLEX outperforms strong baselines and generalizes to out-of-distribution settings, including unseen Reynolds numbers, physical observables (e.g., fluid flow velocity fields), and boundary conditions.
- Abstract(参考訳): 拡散モデルを用いた時空間物理系の生成モデリングのためのバックボーンアーキテクチャであるFLEX(FLow Expert)を紹介する。
FLEXは生データではなく残留空間で動作し、理論的に動機づけるモデル選択により、拡散モデルにおける速度場のばらつきを低減し、トレーニングの安定化に役立つことを示す。
FLEXは遅延トランスフォーマーを標準畳み込みResNetレイヤを持つU-Netに統合し、再設計されたスキップ接続スキームを組み込む。
このハイブリッド設計により、モデルが潜在空間における局所的な空間的詳細と長距離依存の両方をキャプチャできる。
時空間条件を改善するため、FLEXはタスク固有のエンコーダを使用して、粗いスナップショットや過去のスナップショットなどの補助的な入力を処理する。
共有エンコーダに弱条件付けをスキップ接続を介して適用し、一般化を促進する一方、強い条件付けをスキップとボトルネック機能の両方を通じてデコーダに適用し、復元忠実性を確保する。
FLEXは2つの逆拡散ステップを用いて超解像および予測タスクの正確な予測を行う。
また、サンプリングによってキャリブレーションされた不確実性評価を生成する。
高分解能2次元乱流データの評価によると、FLEXは強いベースラインを上回り、未知のレイノルズ数、物理的観測可能値(例えば流体流速場)、境界条件を含む分布外設定に一般化する。
関連論文リスト
- FR-Mamba: Time-Series Physical Field Reconstruction Based on State Space Model [9.340916033226604]
物理場再構成は、限られたセンサ測定に基づいて物理量の状態分布を予測することを目的としている。
既存のディープラーニングメソッドは、長い時間的・時間的依存関係のキャプチャに失敗することが多い。
状態空間モデリングに基づく新しい流れ場再構成フレームワークFR-Mambaを提案する。
論文 参考訳(メタデータ) (2025-05-21T23:54:36Z) - Biased Federated Learning under Wireless Heterogeneity [7.3716675761469945]
Federated Learning(FL)は計算のための有望なフレームワークであり、プライベートデータを共有せずに協調的なモデルトレーニングを可能にする。
既存の無線計算処理では,(1)無線信号重畳を利用するOTA(Over-the-air)と(2)収束のためのリソースを割り当てるOTA(Over-the-air)の2つの通信戦略が採用されている。
本稿では,新しいOTAおよびデジタルFL更新を提案する。
論文 参考訳(メタデータ) (2025-03-08T05:55:14Z) - Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。
一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。
本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
論文 参考訳(メタデータ) (2024-03-27T09:14:36Z) - Over-the-Air Federated Learning and Optimization [52.5188988624998]
エッジ・ザ・エア計算(AirComp)によるフェデレーション学習(FL)に焦点を当てる。
本稿では,AirComp ベースの FedAvg (AirFedAvg) アルゴリズムの凸および非凸条件下での収束について述べる。
エッジデバイス(モデル、勾配、モデル差など)で送信できるローカルアップデートの種類によって、AirFedAvgで送信するとアグリゲーションエラーが発生する可能性がある。
さらに、より実用的な信号処理方式を検討し、通信効率を改善し、これらの信号処理方式によって引き起こされるモデル集約誤差の異なる形式に収束解析を拡張する。
論文 参考訳(メタデータ) (2023-10-16T05:49:28Z) - Generative Modeling with Phase Stochastic Bridges [49.4474628881673]
拡散モデル(DM)は、連続入力のための最先端の生成モデルを表す。
我々はtextbfphase space dynamics に基づく新しい生成モデリングフレームワークを提案する。
我々のフレームワークは、動的伝播の初期段階において、現実的なデータポイントを生成する能力を示す。
論文 参考訳(メタデータ) (2023-10-11T18:38:28Z) - Vertical Federated Learning over Cloud-RAN: Convergence Analysis and
System Optimization [82.12796238714589]
高速かつ正確なモデルアグリゲーションを実現するために,クラウド無線アクセスネットワーク(Cloud-RAN)ベースの垂直FLシステムを提案する。
アップリンクとダウンリンクの両方の伝送を考慮した垂直FLアルゴリズムの収束挙動を特徴付ける。
我々は,連続凸近似と代替凸探索に基づくシステム最適化アルゴリズムを開発した,連系トランシーバとフロントホール量子化設計によるシステム最適化フレームワークを構築した。
論文 参考訳(メタデータ) (2023-05-04T09:26:03Z) - Digital Over-the-Air Federated Learning in Multi-Antenna Systems [30.137208705209627]
デジタル変調とオーバー・ザ・エア計算(AirComp)を用いた現実的な無線通信システム上でのフェデレーション学習(FL)の性能最適化について検討する。
本稿では,デジタル変調とAirCompを組み合わせたFedAvg(FedAvg)アルゴリズムを提案する。
人工ニューラルネットワーク(ANN)は、すべてのデバイスの局所FLモデルを推定し、将来のモデル伝送のためにPSのビーム形成行列を調整するために使用される。
論文 参考訳(メタデータ) (2023-02-04T07:26:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。