論文の概要: Iterative Refinement Neural Operators are Learned Fixed-Point Solvers: A Principled Approach to Spectral Bias Mitigation

• arxiv url: http://arxiv.org/abs/2605.24041v2
• Date: Tue, 26 May 2026 17:05:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-27 17:51:40.986599
• Title: Iterative Refinement Neural Operators are Learned Fixed-Point Solvers: A Principled Approach to Spectral Bias Mitigation
• Title（参考訳）: 反復リファインメントニューラル演算子は固定点解法を学習する:スペクトルバイアス緩和の原理的アプローチ
• Authors: Xiaotian Liu, Shuyuan Shang, Xiaopeng Wang, Pu Ren, Yaoqing Yang,
• Abstract要約: イテレーティブ・リファインメント・ニューラル・オペレータ(IRNO)は、学習されたリファインメント・モジュールを固定点反復で繰り返し適用することで、事前訓練された演算子を増強する。 物理的システム全体では、IRNOは連続的にエラーを減少させ、乱流の56.05%まで改善した。 アクティブマターでは、スペクトル分析により、ベース演算子と比較して、正規化誤差比が27.72-36.10%、中間で5.07-6.68%、高周波で1.48-2.04%に低下していることが明らかになった。
• 参考スコア（独自算出の注目度）: 18.745286331950133
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural operators serve as fast, data-driven surrogates for scientific modeling but typically rely on a monolithic, single-pass inference procedure that struggles to resolve high-frequency details, a limitation known as spectral bias. We introduce the Iterative Refinement Neural Operator (IRNO), which augments pre-trained operators with a learned refinement module iteratively applied via fixed-point iteration. IRNO decomposes the prediction into a coarse initialization followed by successive residual corrections, paralleling classical numerical solvers. Under local assumptions, we establish contraction of the induced operator, ensuring convergence to a unique fixed point. To explicitly target high-frequency errors, we propose a progressive spectral loss that adaptively increases penalty on high-frequency components over refinement steps during training. Across physical systems, IRNO consistently lowers error, with up to 56.05% improvement on turbulent flow. On Active Matter, spectral analysis reveals that, relative to base operator, the normalized error ratios decrease to 27.72-36.10% in low-, 5.07-6.68% in mid-, and 1.48-2.04% in high-frequencies, remaining stable beyond the trained iteration count. Code is available at https://github.com/xiaotianliu-dartmouth/Iterative_Refinement_Neural_Operator
• Abstract（参考訳）: ニューラル作用素は、科学的モデリングのための高速でデータ駆動のサロゲートとして機能するが、一般的には、スペクトルバイアスとして知られるスペクトルの詳細を解決するのに苦労するモノリシックなシングルパス推論手順に依存している。 本稿では, 反復型リファインメントニューラルネットワーク (IRNO) を導入し, 学習用リファインメントモジュールを固定点反復で繰り返し適用することで, 事前学習した演算子を増強する。 IRNOは予測を粗い初期化に分解し、続いて連続的な補正を行い、古典的な数値解法を並列化する。 局所的な仮定の下では、誘導作用素の縮約を確立し、一意の固定点への収束を保証する。 そこで本稿では,高周波数誤差を明示的に対象とするために,トレーニング中の改善段階よりも高周波数成分に対するペナルティを適応的に増大させるプログレッシブスペクトル損失を提案する。 物理的システム全体では、IRNOは連続的にエラーを減少させ、乱流の56.05%まで改善した。 アクティブマターでは、スペクトル分析により、ベース演算子と比較して、正規化誤差比が27.72-36.10%、中間で5.07-6.68%、高周波数で1.48-2.04%と減少し、訓練された反復数を超えて安定していることが明らかになった。 コードはhttps://github.com/xiaotianliu-dartmouth/Iterative_Refinement_Neural_Operatorで公開されている。

関連論文リスト

• Accelerating Regularized Attention Kernel Regression for Spectrum Cartography [1.9651461643699661]
  本稿では,学習に基づく注意カーネル回帰(LAKER)アルゴリズムを提案する。 鍵となる考え方は、アテンションカーネルシステムの逆スペクトル構造をキャプチャするデータ依存プリコンディショナーを学習することである。 実験により、LAKERは最大3桁の条件数を大幅に削減し、ベースラインに比べて20倍以上の収束を加速し、高い復元精度を維持することが示された。
  論文  参考訳（メタデータ） (2026-04-28T02:27:40Z)
• Inverse Neural Operator for ODE Parameter Optimization [6.148294495010685]
  Inverse Neural Operator (INO) は、疎部分的な観測から隠されたODEパラメータを復元するフレームワークである。 INOは0.23秒の推論時間しか必要とせず、パラメータ回復の精度で勾配ベースと償却ベースラインを上回ります。
  論文  参考訳（メタデータ） (2026-03-12T12:20:23Z)
• Natural Spectral Fusion: p-Exponent Cyclic Scheduling and Early Decision-Boundary Alignment in First-Order Optimization [11.323131201168572]
  自然スペクトル融合(NSF: Natural Spectral Fusion: NSF: Reframing training as controllable spectrum coverage and information fusion)を提案する。 NSFには2つの基本原理がある: バランスを動的に低周波と高周波の情報を扱うスペクトルコントローラとして扱う。 循環スケジューリングはテストエラーを一定に低減し、異なる収束挙動を示す。
  論文  参考訳（メタデータ） (2025-09-05T00:00:00Z)
• Accelerating PDE Solvers with Equation-Recast Neural Operator Preconditioning [9.178290601589365]
  Minimal-Data Parametric Neural Operator Preconditioning (MD-PNOP) はパラメトリックPDEソルバを高速化するための新しいパラダイムである。 パラメータ偏差の残差を、トレーニングされたニューラル演算子を使用して、オフラインでソリューションを洗練させる、追加のソース用語として再キャストする。 固定ソース、単一グループ固有値、および多群結合固有値問題に対する完全順序忠実度を維持しつつ、計算時間の50%削減を一貫して達成する。
  論文  参考訳（メタデータ） (2025-09-01T12:14:58Z)
• Gradient Normalization Provably Benefits Nonconvex SGD under Heavy-Tailed Noise [60.92029979853314]
  重み付き雑音下でのグラディエントDescence(SGD)の収束を確実にする上での勾配正規化とクリッピングの役割について検討する。 我々の研究は、重尾雑音下でのSGDの勾配正規化の利点を示す最初の理論的証拠を提供する。 我々は、勾配正規化とクリッピングを取り入れた加速SGD変種を導入し、さらに重み付き雑音下での収束率を高めた。
  論文  参考訳（メタデータ） (2024-10-21T22:40:42Z)
• Spectral-Refiner: Accurate Fine-Tuning of Spatiotemporal Fourier Neural Operator for Turbulent Flows [6.961408873053586]
  最近の演算子型ニューラルネットワークは、部分微分方程式(PDE)の近似に有望な結果を示している。 これらのニューラルネットワークは、かなりのトレーニング費用を要し、科学や工学の分野において要求される精度を常に達成するとは限らない。
  論文  参考訳（メタデータ） (2024-05-27T14:33:06Z)
• Guaranteed Approximation Bounds for Mixed-Precision Neural Operators [83.64404557466528]
  我々は、ニューラル演算子学習が本質的に近似誤差を誘導する直感の上に構築する。 提案手法では,GPUメモリ使用量を最大50%削減し,スループットを58%向上する。
  論文  参考訳（メタデータ） (2023-07-27T17:42:06Z)
• Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
  データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。 よりスムーズな関数との補間により、より一般化できることを示す。
  論文  参考訳（メタデータ） (2023-05-30T19:37:44Z)
• Neural Networks with Sparse Activation Induced by Large Bias: Tighter Analysis with Bias-Generalized NTK [86.45209429863858]
  ニューラル・タンジェント・カーネル(NTK)における一層ReLUネットワークのトレーニングについて検討した。 我々は、ニューラルネットワークが、テクティトビア一般化NTKと呼ばれる異なる制限カーネルを持っていることを示した。 ニューラルネットの様々な特性をこの新しいカーネルで研究する。
  論文  参考訳（メタデータ） (2023-01-01T02:11:39Z)
• Incremental Spatial and Spectral Learning of Neural Operators for Solving Large-Scale PDEs [86.35471039808023]
  Incrmental Fourier Neural Operator (iFNO)を導入し、モデルが使用する周波数モードの数を徐々に増加させる。 iFNOは、各種データセット間の一般化性能を維持したり改善したりしながら、トレーニング時間を短縮する。 提案手法は,既存のフーリエニューラル演算子に比べて20%少ない周波数モードを用いて,10%低いテスト誤差を示すとともに,30%高速なトレーニングを実現する。
  論文  参考訳（メタデータ） (2022-11-28T09:57:15Z)
• Learning Frequency Domain Approximation for Binary Neural Networks [68.79904499480025]
  フーリエ周波数領域における符号関数の勾配を正弦関数の組み合わせを用いて推定し,BNNの訓練を行う。 いくつかのベンチマークデータセットとニューラルネットワークの実験により、この手法で学習したバイナリネットワークが最先端の精度を達成することが示されている。
  論文  参考訳（メタデータ） (2021-03-01T08:25:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。