論文の概要: Graph Neural Multilevel Preconditioners for Iterative Solvers
- arxiv url: http://arxiv.org/abs/2607.28456v1
- Date: Thu, 30 Jul 2026 16:19:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.657021
- Title: Graph Neural Multilevel Preconditioners for Iterative Solvers
- Title(参考訳): 反復解法のためのグラフニューラル多レベルプレコンディショナー
- Abstract要約: 本稿では、AMG階層を構造的事前として採用し、統一されたフレームワークにおけるスムーシング、制限、演算子を学習するグラフニューラル・マルチレベル・プレコンディショナー(GMP)を提案する。
本手法は一般的なスパースシステムを対象としており,標準クリロフのプリコンディショナーとしてインスタンス化されている。
- 参考スコア(独自算出の注目度): 4.805777654040642
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Solving large, sparse linear systems is a core task in scientific computing, and efficient iterative solvers rely critically on effective and robust preconditioning. While classical methods such as algebraic multigrid (AMG) are highly scalable, their robustness can degrade on indefinite or nonsymmetric systems where heuristics originally developed for elliptic PDEs are less reliable. Recently, Graph Neural Networks (GNNs) have emerged as data-driven preconditioners; yet, the practical impact of imposing an AMG-style hierarchy remains underexplored for general sparse matrices. In this work, we propose a Graph Neural Multilevel Preconditioner (GMP) that adopts an AMG hierarchy as a structural prior and learns smoothing, restriction, and interpolation operators in a unified framework. Our method targets general sparse systems and is instantiated as a drop-in preconditioner for standard Krylov solvers. On a benchmark of over 800 sparse matrices, we compare against classical AMG, single-level ILUT, and state-of-the-art GNN preconditioners, and characterize the regimes where multilevel graph neural preconditioning improves convergence or, conversely, introduces overhead relative to strong single-level baselines. These results highlight both the promise and the limitations of enforcing AMG-style multilevel structure in learned preconditioners for large-scale scientific simulations.
- Abstract(参考訳): 大規模でスパースな線形系を解くことは科学計算のコアタスクであり、効率的な反復解法は効果的で堅牢な事前条件に批判的に依存する。
代数的多重グリッド(AMG)のような古典的手法は非常にスケーラブルであるが、楕円型PDEのために開発されたヒューリスティックが信頼性が低い不定あるいは非対称なシステムでは、その堅牢性は劣化する。
近年,グラフニューラルネットワーク (GNN) がデータ駆動型プリコンディショナーとして登場したが,一般のスパース行列に対して,AMGスタイルの階層を適用した場合の実用的影響はいまだ過小評価されていない。
本研究では、AMG階層を構造的先行として採用し、統一されたフレームワークにおけるスムーシング、制限、補間演算子を学習するグラフニューラル・マルチレベル・プレコンディショナー(GMP)を提案する。
本手法は一般的なスパースシステムを対象としており,標準クリロフのプリコンディショナーとしてインスタンス化されている。
800以上のスパース行列のベンチマークでは、古典的なAMG、シングルレベルILUT、最先端のGNNプリコンディショナーと比較し、マルチレベルグラフニューラルプレコンディショニングが収束を改善したり、逆に強いシングルレベルベースラインに対するオーバーヘッドを導入したりした。
これらの結果は、大規模科学シミュレーションのための学習済みプレコンディショナーにおいて、AMGスタイルのマルチレベル構造を強制する可能性と限界の両方を強調した。
関連論文リスト
- The Role of Gradient Modification in Heavy-Tailed Nonconvex Stochastic Min-Max Optimization [50.59470683896735]
min-max最適化は、現代の機械学習に応用されているため、注目を集めている。
我々は、勾配降下(SGDA)の包括的理論を提供する。
我々は,Stoc-GDAMとStoc-TRmaxという新たなクリッピングフリーアルゴリズムを開発し,グラディエントクリッピングを使わずに,目標精度への最適依存を実現する。
論文 参考訳(メタデータ) (2026-09-05T12:49:28Z) - Beyond the Aggregation Dilemma: Prior-Retaining Decoupled Learning for Multimodal Graphs [69.56407708794845]
MultimodalAttributed Graph Learning (MAGL)はグラフアグリゲーションを通じてノード属性と構造トポロジーを統合する。
事前訓練されたエンコーダがLarge Foundation Models (LFM) へと進化するにつれて、MAGLのランドスケープは根本的に変化していく。
高信頼のLFM先行の下では、強制集約は、識別シグナルを圧倒するトポロジカル固有のノイズを導入する。
本稿では、分離されたデュアルパスパラダイムであるSUPRA(Shared-Unique Prior-Retaining Architecture)を提案する。
SUPRAは、トポロジ・アグノシクスによるモーダリティ特異的な特徴を処理し、軽量共有GNNを介して構造相乗効果を捉え、補助的な深層監視対策の勾配飢餓を発生させる。
論文 参考訳(メタデータ) (2026-05-23T17:42:25Z) - Position: Weight Space Should Be a First-Class Generative AI Modality [67.10702320971893]
本稿では、モデルチェックポイントを第一級データモダリティとして扱うべきであると論じる。
重み空間における生成的モデリングは、コア機械学習プリミティブとして標準化されるべきである、と論じている。
私たちのゴールは、コミュニティの既定の考え方を、タスクごとのモデルの最適化から、学習した重量分布からモデルのサンプリングにシフトさせることです。
論文 参考訳(メタデータ) (2026-05-18T16:38:26Z) - Towards The Implicit Bias on Multiclass Separable Data Under Norm Constraints [3.421126849736858]
核ノルム制約を通した低階構造を強制するために設計された幾何認識幾何学であるNucGDを紹介する。
スケーラブルなトレーニングを実現するため、非同期電力繰り返しによる効率的なSVDフリー更新ルールを導出する。
我々は、最小バッチサンプリングと運動量によって誘導される勾配ノイズの変動レベルが、期待される最大マージン解に対する収束をどう変調するかを特徴付ける、勾配最適化のダイナミクスの影響を実験的に分析する。
論文 参考訳(メタデータ) (2026-03-24T05:51:50Z) - HIPO: Instruction Hierarchy via Constrained Reinforcement Learning [57.40686733111483]
textscHIPOは、制約付きマルコフ決定プロセスとしてHIFを定式化する新しいアライメントフレームワークである。
textscHIPOはシステムプロンプトを単に入力コンテキストから厳密なアルゴリズム境界まで高める。
論文 参考訳(メタデータ) (2026-03-17T06:12:41Z) - Deep Hierarchical Learning with Nested Subspace Networks [53.71337604556311]
大規模ニューラルネットワークのためのNested Subspace Networks (NSN)を提案する。
NSNは、単一のモデルを連続した計算予算の範囲で動的かつきめ細かな調整を可能にする。
我々は,NSNを訓練済みのLLMに外科的に適用し,スムーズで予測可能な計算性能フロンティアを解き放つことができることを示した。
論文 参考訳(メタデータ) (2025-09-22T15:13:14Z) - Matrix-free Neural Preconditioner for the Dirac Operator in Lattice Gauge Theory [13.32375374102012]
本稿では,実効的な事前条件として線形マップを構築するために,演算子学習技術を活用したフレームワークを提案する。
時空次元 1+1 におけるシュウィンガーモデル U(1) ゲージ理論の文脈において、このプレコンディショニングスキームは線形系の条件数を効果的に減少させる。
論文 参考訳(メタデータ) (2025-09-12T16:10:18Z) - Towards Efficient General Feature Prediction in Masked Skeleton Modeling [59.46799426434277]
マスクスケルトンモデリングのための新しい汎用特徴予測フレームワーク(GFP)を提案する。
我々の重要な革新は、局所的な動きパターンからグローバルな意味表現にまたがる、従来の低レベルな再構築を高レベルな特徴予測に置き換えることです。
論文 参考訳(メタデータ) (2025-09-03T18:05:02Z) - Message-Passing GNNs Fail to Approximate Sparse Triangular Factorizations [3.868222899558346]
疎行列プレコンディショナを学習するためのツールとして,グラフニューラルネットワーク(GNN)が提案されている。
本稿では、メッセージパッシングGNNは、疎三角形の分解を近似できないことを論じる。
論文 参考訳(メタデータ) (2025-02-03T14:28:20Z) - Harnessing Scale and Physics: A Multi-Graph Neural Operator Framework for PDEs on Arbitrary Geometries [9.954826518381468]
本稿では、任意ジオメトリ上のPDEを効率的に解くために設計されたマルチグラフニューラル演算子であるAMG法を提案する。
AMGは、新しいGraphFormerアーキテクチャにおいて、高度なグラフベースの技術と動的アテンションメカニズムを活用する。
6つのベンチマークでAMGを総合的に評価し、既存の最先端モデルよりも一貫した優位性を示す。
論文 参考訳(メタデータ) (2024-11-18T12:35:03Z) - Language Models as Zero-shot Lossless Gradient Compressors: Towards General Neural Parameter Prior Models [56.00251589760559]
大型言語モデル(LLM)はゼロショット設定でグラデーション先行として振る舞うことができる。
本稿では,LSMと算術符号を統合する新しい手法であるLM-GCを紹介する。
実験により、LM-GCは既存の最先端のロスレス圧縮手法を超越していることが示された。
論文 参考訳(メタデータ) (2024-09-26T13:38:33Z) - Graph Neural Preconditioners for Iterative Solutions of Sparse Linear Systems [5.083469153675402]
汎用プリコンディショナーとしてグラフニューラルネットワークを提案する。
多くの問題に対して魅力的なパフォーマンスを示しており、メインストリームのプレコンディショナーがパフォーマンスが悪い場合にも使用できる。
論文 参考訳(メタデータ) (2024-06-02T17:18:41Z) - Learning from Linear Algebra: A Graph Neural Network Approach to Preconditioner Design for Conjugate Gradient Solvers [40.6591136324878]
我々は,従来のプリコンディショナーよりもシステムの条件数を大幅に削減するプリコンディショナーを得るために,GNNを訓練する。
本手法は、パラメトリック偏微分方程式の重要なクラスにおいて、古典的およびニューラルネットワークに基づく手法よりも優れている。
論文 参考訳(メタデータ) (2024-05-24T13:44:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。