論文の概要: Conflict-Aware Harmonized Rotational Gradient for Multiscale Kinetic Regimes

• arxiv url: http://arxiv.org/abs/2604.24745v1
• Date: Mon, 27 Apr 2026 17:47:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:08.357229
• Title: Conflict-Aware Harmonized Rotational Gradient for Multiscale Kinetic Regimes
• Title（参考訳）: マルチスケール動画像用高調波回転勾配の競合認識
• Authors: Zhangyong Liang,
• Abstract要約: 本稿では,時間依存性の変動問題に同時に対処するための高調波回転勾配法HRGradを提案する。 これらのパラメータは、顕微鏡からマクロ物理学への遷移を示しており、全ての領域を同時に解決することは困難である。 この課題に対処するために、これらのパラメータの隠蔽表現を明示的に符号化し、対応する問題解決タスクが同時トレーニングのためにシリアライズされることを保証する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we propose a harmonized rotational gradient method, termed HRGrad, for simultaneously tackling multiscale time-dependent kinetic problems with varying small parameters. These parameters exhibit asymptotic transitions from microscopic to macroscopic physics, making it a challenging multi-task problem to solve over all ranges simultaneously. Solving tasks in different asymptotic regions often encounter gradient conflicts, which can lead to the failure of multi-task learning. To address this challenge, we explicitly encode a hidden representation of these parameters, ensuring that the corresponding solving tasks are serialized for simultaneous training. Furthermore, to mitigate gradient conflicts, we segment the prediction results to construct task losses and introduce a novel gradient alignment metric to ensure a positive dot product between the final update and each loss-specific gradient. This metric maintains consistent optimization rates for all task losses and dynamically adjusts gradient magnitudes based on conflict levels. Moreover, we provide a mathematical proof demonstrating the convergence of the HRGrad method, which is evaluated across a range of challenging asymptotic-preserving neural networks (APNNs) scenarios. We conduct an extensive set of experiments encompassing the Bhatnagar-Gross-Krook (BGK) equation and the linear transport equation in all ranges of Knudsen number. Our results indicate that HRGrad effectively overcomes the `failure modes' of APNNs in these problems.
• Abstract（参考訳）: 本稿では, HRGradと呼ばれる高調波回転勾配法を提案する。 これらのパラメータは、顕微鏡からマクロ物理学への漸近的な遷移を示しており、全ての領域を同時に解決することは困難である。 異なる漸近領域でのタスクの解決は、しばしば勾配の衝突に遭遇し、マルチタスク学習の失敗につながる。 この課題に対処するために、これらのパラメータの隠蔽表現を明示的に符号化し、対応する問題解決タスクが同時トレーニングのためにシリアライズされることを保証する。 さらに、勾配の衝突を軽減するために、予測結果を分割してタスクの損失を構成するとともに、最終更新と各損失固有の勾配との間に正の点積を確保するために、新しい勾配アライメント指標を導入する。 この指標は全てのタスクの損失に対して一貫した最適化率を維持し、競合レベルに基づいて勾配の等級を動的に調整する。 さらに, HRGrad法の収束を数学的に証明し, 難解な漸近保存型ニューラルネットワーク(APNN)のシナリオで評価する。 Bhatnagar-Gross-Krook(BGK)方程式とKnudsen数の全範囲における線形輸送方程式を含む広範な実験を行う。 HRGradはこれらの問題において,APNNの「障害モード」を効果的に克服することを示す。

関連論文リスト

• Gradient Similarity Surgery in Multi-Task Deep Learning [1.2299544525529198]
  本研究は、最適化過程を導くために、勾配等級類似度尺度に基づく新しい勾配手術法を導入する。 similarity-Aware Momentum Gradient Surgery (SAM-GS) は1次運動量の勾配等化と変調を採用する。
  論文  参考訳（メタデータ） (2025-06-06T14:40:50Z)
• Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
  分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。 非滑らかな正規化はしばしば機械学習タスクに組み込まれる。 本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T08:32:25Z)
• TensorGRaD: Tensor Gradient Robust Decomposition for Memory-Efficient Neural Operator Training [91.8932638236073]
  textbfTensorGRaDは,重み付けに伴うメモリ問題に直接対処する新しい手法である。 SparseGRaD は総メモリ使用量を 50% 以上削減し,同時に精度も向上することを示した。
  論文  参考訳（メタデータ） (2025-01-04T20:51:51Z)
• Differentiable DG with Neural Operator Source Term Correction [0.0]
  圧縮可能なNavier-Stokes方程式を解くためのエンドツーエンドの微分可能なフレームワークを提案する。 この統合アプローチは、微分可能不連続なガレルキン解法とニューラルネットワークのソース項を組み合わせる。 提案するフレームワークの性能を2つの例で示す。
  論文  参考訳（メタデータ） (2023-10-29T04:26:23Z)
• Convergence of mean-field Langevin dynamics: Time and space discretization, stochastic gradient, and variance reduction [49.66486092259376]
  平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。 近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。 有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
  論文  参考訳（メタデータ） (2023-06-12T16:28:11Z)
• Implicit Stochastic Gradient Descent for Training Physics-informed Neural Networks [51.92362217307946]
  物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。 PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。 本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
  論文  参考訳（メタデータ） (2023-03-03T08:17:47Z)
• Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
  Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。 差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。 我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
  論文  参考訳（メタデータ） (2021-07-21T17:10:14Z)
• Limiting Behaviors of Nonconvex-Nonconcave Minimax Optimization via Continuous-Time Systems [10.112779201155005]
  3つの古典的ミニマックスアルゴリズム(AGDA, AscentGDA, Exgradient Method, EGM)の制限挙動について検討する。 本稿では,GAN(Generative Adrial Networks)において,全ての制限行動が発生しうることを数値的に観察し,様々なGAN問題に対して容易に実演できることを示す。
  論文  参考訳（メタデータ） (2020-10-20T21:14:51Z)
• Total Deep Variation: A Stable Regularizer for Inverse Problems [71.90933869570914]
  本稿では,データ駆動型汎用全深度変動正規化器について紹介する。 コアでは、畳み込みニューラルネットワークが複数のスケールや連続したブロックで局所的な特徴を抽出する。 我々は多数の画像処理タスクに対して最先端の結果を得る。
  論文  参考訳（メタデータ） (2020-06-15T21:54:15Z)
• Stochastic gradient algorithms from ODE splitting perspective [0.0]
  我々は、ODEの近似解の分割スキームに遡る最適化に関する異なる見解を示す。 そこで本研究では, ODE の勾配一階分割方式と降下アプローチの関連性について述べる。 我々は、機械学習アプリケーションにインスパイアされた分割の特殊なケースを考察し、それに対するグローバルスプリッティングエラーに新たな上限を導出する。
  論文  参考訳（メタデータ） (2020-04-19T22:45:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。