論文の概要: FourierFlow: Frequency-aware Flow Matching for Generative Turbulence Modeling
- arxiv url: http://arxiv.org/abs/2506.00862v1
- Date: Sun, 01 Jun 2025 06:59:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-04 21:47:33.704626
- Title: FourierFlow: Frequency-aware Flow Matching for Generative Turbulence Modeling
- Title（参考訳）: FourierFlow: 生成乱流モデリングのための周波数対応フローマッチング
- Authors: Haixin Wang, Jiashu Pan, Hao Wu, Fan Zhang, Tailin Wu,
- Abstract要約: 本稿では,スペクトルバイアスと共通モード雑音を暗黙的かつ明示的に緩和することにより,周波数認識学習を向上させる新しい生成乱流モデリングフレームワークを提案する。
FourierFlowは,3つの重要なイノベーションで構成されている。まず,局地的認識を備えた健全なフローアテンションブランチと,センシティブな乱流領域に焦点を当てたデュアルブランチバックボーンアーキテクチャを採用する。
第3に、マスク付きオートエンコーダの高周波モデリング機能を活用し、生成モデルの特徴を高周波成分に暗黙的にアライメントする。
- 参考スコア（独自算出の注目度）: 10.73187148812722
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modeling complex fluid systems, especially turbulence governed by partial differential equations (PDEs), remains a fundamental challenge in science and engineering. Recently, diffusion-based generative models have gained attention as a powerful approach for these tasks, owing to their capacity to capture long-range dependencies and recover hierarchical structures. However, we present both empirical and theoretical evidence showing that generative models struggle with significant spectral bias and common-mode noise when generating high-fidelity turbulent flows. Here we propose FourierFlow, a novel generative turbulence modeling framework that enhances the frequency-aware learning by both implicitly and explicitly mitigating spectral bias and common-mode noise. FourierFlow comprises three key innovations. Firstly, we adopt a dual-branch backbone architecture, consisting of a salient flow attention branch with local-global awareness to focus on sensitive turbulence areas. Secondly, we introduce a frequency-guided Fourier mixing branch, which is integrated via an adaptive fusion strategy to explicitly mitigate spectral bias in the generative model. Thirdly, we leverage the high-frequency modeling capabilities of the masked auto-encoder pre-training and implicitly align the features of the generative model toward high-frequency components. We validate the effectiveness of FourierFlow on three canonical turbulent flow scenarios, demonstrating superior performance compared to state-of-the-art methods. Furthermore, we show that our model exhibits strong generalization capabilities in challenging settings such as out-of-distribution domains, long-term temporal extrapolation, and robustness to noisy inputs. The code can be found at https://github.com/AI4Science-WestlakeU/FourierFlow.
- Abstract（参考訳）: 複素流体系のモデリング、特に偏微分方程式(PDE)によって支配される乱流は、科学と工学における根本的な課題である。
近年,長距離依存を捕捉し階層構造を復元する能力から,拡散型生成モデルがこれらのタスクの強力なアプローチとして注目されている。
しかし,高密度乱流発生時に生成モデルが有意なスペクトルバイアスと共有モード雑音に苦しむことを示す実証的証拠と理論的証拠の両方を提示する。
本稿では、スペクトルバイアスと共通モード雑音を暗黙的かつ明示的に緩和することにより、周波数認識学習を強化する新しい生成乱流モデリングフレームワークであるFourierFlowを提案する。
FourierFlowには3つの重要なイノベーションがある。
まず,局所的に認識される局所的な乱流領域に焦点をあてた,健全なフローアテンションブランチからなる二重分岐バックボーンアーキテクチャを採用する。
第二に、周波数誘導型フーリエ混合分岐を導入し、適応的な融合戦略により、生成モデルにおけるスペクトルバイアスを明示的に緩和する。
第3に、マスク付きオートエンコーダの高周波モデリング機能を活用し、生成モデルの特徴を高周波成分に暗黙的にアライメントする。
本研究では,3つの標準乱流シナリオに対するフーリエフローの有効性を検証し,最先端手法と比較して優れた性能を示す。
さらに,本モデルでは,外部分布領域,長期時間外挿,ノイズ入力に対する堅牢性などの課題に対して,強力な一般化能力を示すことを示す。
コードはhttps://github.com/AI4Science-WestlakeU/FourierFlowで見ることができる。
関連論文リスト
- FLEX: A Backbone for Diffusion-Based Modeling of Spatio-temporal Physical Systems [51.15230303652732]
FLEX (F Low Expert) は、時間物理系の生成モデリングのためのバックボーンアーキテクチャである。
拡散モデルにおける速度場の分散を低減し、トレーニングの安定化に役立つ。
少数の特徴を2つの逆拡散ステップとして用いて、超解像および予測タスクの正確な予測を行う。
論文 参考訳（メタデータ） (2025-05-23T00:07:59Z) - Can We Achieve Efficient Diffusion without Self-Attention? Distilling Self-Attention into Convolutions [94.21989689001848]
従来の自己アテンションモジュールをピラミッド畳み込みブロック((Delta)ConvBlocks)に置き換えるための(Delta)ConvFusionを提案する。
ローカライズされた畳み込み操作に注意パターンを蒸留し、他のコンポーネントを凍結させながら、(Delta)ConvFusionは、トランスフォーマーベースの処理に匹敵する性能を達成し、計算コストを6929$times$、LinFusionを5.42$times$の効率で上回る。
論文 参考訳（メタデータ） (2025-04-30T03:57:28Z) - LOGLO-FNO: Efficient Learning of Local and Global Features in Fourier Neural Operators [20.77877474840923]
高周波情報は機械学習における重要な課題である。
ディープニューラルネットワークは、低周波成分の学習に対するいわゆるスペクトルバイアスを示す。
放射結合スペクトル誤差に基づく新しい周波数感受性損失項を提案する。
論文 参考訳（メタデータ） (2025-04-05T19:35:04Z) - SPECTRE: An FFT-Based Efficient Drop-In Replacement to Self-Attention for Long Contexts [2.200751835496112]
長文変換器は、自己注意の二次的なコストのため、大幅な効率の課題に直面している。
本稿では,各注目ヘッドを高速な実FFTで置き換えるSPECTREを提案する。
我々は、この効率をPrefix-FFTキャッシュを介して自動回帰生成に拡張し、オプションのウェーブレットモジュールで局所的な特徴表現を強化する。
論文 参考訳（メタデータ） (2025-02-25T17:43:43Z) - F3-Pruning: A Training-Free and Generalized Pruning Strategy towards
Faster and Finer Text-to-Video Synthesis [94.10861578387443]
変圧器と拡散モデルを用いた2つの主流T2Vモデルの推論過程について検討する。
本稿では、時間的余分な注意重みを突破するF3プルーニングと呼ばれるトレーニングフリーで一般化されたプルーニング戦略を提案する。
古典的なトランスフォーマーベースモデルCogVideoと典型的な拡散ベースモデルTune-A-Videoを用いた3つのデータセットの大規模な実験により、F3-Pruningの有効性が検証された。
論文 参考訳（メタデータ） (2023-12-06T12:34:47Z) - Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。
この研究は、単一変換による周波数領域学習のための青写真を導入している。
論文 参考訳（メタデータ） (2022-11-26T01:56:05Z) - Dynamics of Fourier Modes in Torus Generative Adversarial Networks [0.8189696720657245]
GAN(Generative Adversarial Networks)は、所望の事象の完全な合成サンプルを高解像度で生成できる強力な機械学習モデルである。
彼らの成功にもかかわらず、GANのトレーニングプロセスは非常に不安定であり、典型的には、モデルの許容できる収束に達するために、ネットワークにいくつかのアクセサリー摂動を実装する必要がある。
本稿では,ジェネレーティブ・アドバイサル・ネットワークのトレーニングにおける収束と安定性を解析するための新しい手法を提案する。
論文 参考訳（メタデータ） (2022-09-05T09:03:22Z) - FAMLP: A Frequency-Aware MLP-Like Architecture For Domain Generalization [73.41395947275473]
本稿では、変換周波数領域において、ドメイン固有の特徴をフィルタリングする新しい周波数認識アーキテクチャを提案する。
3つのベンチマークの実験では、最先端の手法をそれぞれ3%、4%、9%のマージンで上回った。
論文 参考訳（メタデータ） (2022-03-24T07:26:29Z) - Generative Modeling of Turbulence [0.7646713951724012]
GAN(Generative Adversarial Network)を用いた乱流の合成モデリングのための数学的に確立されたアプローチを提案する。
GANは、適度なトレーニング日量に基づいて、技術的に困難な流れ問題の乱流をシミュレーションするのに効率的である。
論文 参考訳（メタデータ） (2021-12-05T11:39:14Z) - Global Filter Networks for Image Classification [90.81352483076323]
本稿では,対数線形複雑度を持つ周波数領域における長期空間依存性を学習する,概念的に単純だが計算効率のよいアーキテクチャを提案する。
この結果から,GFNetはトランスフォーマー型モデルやCNNの効率,一般化能力,堅牢性において,非常に競争力のある代替手段となる可能性が示唆された。
論文 参考訳（メタデータ） (2021-07-01T17:58:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。