論文の概要: BandPC: Learning Residual-Band Preconditioner Combinations for Flexible Conjugate Gradient Solvers

• arxiv url: http://arxiv.org/abs/2609.37140v1
• Date: Tue, 29 Sep 2026 09:40:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-18 21:02:54.431072
• Title: BandPC: Learning Residual-Band Preconditioner Combinations for Flexible Conjugate Gradient Solvers
• Title（参考訳）: BandPC: フレキシブル共役勾配解に対する残留バンドプレコンディショナーの組み合わせ学習
• Abstract要約: BandPCは、フレキシブル共役勾配法(FCG)のマルチステージプレコンディショニング戦略を予測するためのフレームワークである。 行列構造を直接有望なプレコンディショナーシーケンスにマッピングすることを学ぶ。 実験によると、BandPCはテスト行列の41.3%と33.1%で最適なイテレーション数と解時間を達成する。
• 参考スコア（独自算出の注目度）: 2.435797006705419
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The conjugate gradient (CG) method is a classical iterative solver for sparse symmetric positive definite (SPD) linear systems, but its convergence strongly depends on the spectral properties of the system matrix. Preconditioning can improve these properties; however, designing preconditioners that generalize across diverse and irregular sparsity patterns remains challenging. We propose BandPC (Band Preconditioner Combinations, where "Band" denotes residual-norm bands), a data-driven framework that leverages graph neural networks (GNNs) to predict multi-stage preconditioning strategies for the flexible conjugate gradient (FCG) method. BandPC partitions the FCG iteration into three residual-norm-based bands and defines a structured search space of 125 candidate combinations over five classical preconditioners. By exploiting FCG's ability to switch preconditioners across iterations, BandPC learns to map matrix structure directly to a promising preconditioner sequence. To improve training and generalization, we introduce a soft-labeling mechanism that retains near-optimal combinations and normalizes their scores into a label distribution, together with a hierarchical feature representation that captures node-level attributes, edge-level algebraic coupling strengths, and global matrix statistics. Experiments on a hybrid benchmark of synthetic SPD problems and diverse matrices from the SuiteSparse Collection show that BandPC achieves the best iteration count and solution time on 41.3% and 33.1% of test matrices, respectively, even when compared with each matrix's individually best traditional preconditioner. These results demonstrate that learned residual-band preconditioner scheduling can effectively accelerate flexible CG solvers.
• Abstract（参考訳）: 共役勾配(CG)法はスパース対称正定値(SPD)線形系に対する古典的反復解法であるが、その収束は系行列のスペクトル特性に強く依存する。 プレコンディショニングはこれらの特性を改善することができるが、多様で不規則な間隔パターンをまたいで一般化するプレコンディショナーの設計は依然として困難である。 そこで我々は,グラフニューラルネットワーク(GNN)を利用したデータ駆動フレームワークであるBandPC(Band Preconditioner Combination)を提案し,フレキシブル共役勾配(FCG)法における多段階プレコンディショニング戦略を予測する。 BandPCは、FCGイテレーションを3つの残留ノルムベースのバンドに分割し、5つの古典的プレコンディショナー上の125の候補組合せからなる構造化された検索空間を定義する。 イテレーション間でプリコンディショナを切り替えるFCGの機能を活用することで、BandPCはマトリックス構造を直接有望なプリコンディショナシーケンスにマッピングすることを学ぶ。 学習と一般化を改善するため,最適に近い組み合わせを維持し,スコアをラベル分布に正規化するソフトラベル機構を導入し,ノードレベルの属性,エッジレベルの代数的結合強度,大域的行列統計を捉える階層的特徴表現を導入する。 SuiteSparse Collectionによる合成SPD問題と多種多様な行列のハイブリッドベンチマークの実験により、BandPCは各行列の個々の最も優れたプリコンディショナーと比較しても、それぞれ41.3%と33.1%で最適なイテレーション数と解時間を達成することが示された。 これらの結果から,学習した残差帯域プレコンディショナスケジューリングにより,フレキシブルCGソルバを効果的に高速化できることが示唆された。

関連論文リスト

• Formulation-Level Auto-Tuning for QUBO-Based Machine Learning: A Case Study Across Multiple Quantum-Inspired Annealers [0.0]
  本稿では,サポートベクトルマシン(SVM)のためのOptunaベースの定式化レベル自動チューニングフレームワークを提案する。 連続双対変数は離散化され、2次非制約バイナリ最適化(QUBO)モデルに変換される。 0-20%のラベルノイズを持つ線形および非線形分類タスクの実験では, それぞれ0.8点と2.1点のグリッド探索よりも平均的なゲインが得られた。
  論文  参考訳（メタデータ） (2026-07-21T06:56:43Z)
• Equivariant Continuous Normalizing Flows with Offline Sampling for Fermionic Ground State Estimation [0.0]
  フローは置換同変ニューラルODEとして実装される。 調和に閉じ込められたスピンレス電子系のトレーニングは、CISD基準値以下の基底状態エネルギーを示す。 スケーリング実験では、NERSCのPerlmutterスーパーコンピュータの32のGPUノードを使用して、1～128のNVIDIA A100のほぼ理想的なスケーリングを実証している。
  論文  参考訳（メタデータ） (2026-07-20T20:17:13Z)
• Balanced Aggregation: Understanding and Fixing Aggregation Bias in GRPO [70.38763678943648]
  検証可能な報酬(RLVR)による強化学習は、大規模言語モデルにおける推論とコード生成を改善するための中心的なパラダイムとなっている。 標準的なGRPOはシーケンスアグリゲーションを使用し、最近の研究はトークンアグリゲーションをより良い代替手段として提唱している。 トークンアグリゲーションは符号長結合を導入し、シーケンスアグリゲーションは暗黙的にダウンウェイトを延長する。
  論文  参考訳（メタデータ） (2026-04-14T09:48:46Z)
• Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
  生成のための教師なし共形推論フレームワークを提案する。 我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。 その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
  論文  参考訳（メタデータ） (2025-09-26T23:40:47Z)
• Linear Convergence of Reshuffling Kaczmarz Methods With Sparse Constraints [7.936519714074615]
  カッツマルツ行列(英語版)(KZ)とその変種は、部分線型方程式系を解く際の単純さと効率性のために広く研究されている。 KHT に対する最初の理論的収束保証は、空間的制約のある系の解に線形に収束することを示すことである。
  論文  参考訳（メタデータ） (2023-04-20T07:14:24Z)
• Black Box Lie Group Preconditioners for SGD [13.30021794793606]
  勾配降下の収束を加速するために,行列自由および低階近似プレコンディショナーを提案する。 パラメータ更新の学習速度とプレコンディショナリングのステップサイズは自然に正規化され、デフォルト値はほとんどの状況でうまく機能する。
  論文  参考訳（メタデータ） (2022-11-08T18:07:08Z)
• Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
  本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。 6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-05-21T01:47:17Z)
• Sparse Quadratic Optimisation over the Stiefel Manifold with Application to Permutation Synchronisation [71.27989298860481]
  二次目的関数を最大化するスティーフェル多様体上の行列を求める非最適化問題に対処する。 そこで本研究では,支配的固有空間行列を求めるための,単純かつ効果的なスパーシティプロモーティングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-09-30T19:17:35Z)
• Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via GDPA Linearization [59.87663954467815]
  アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。 本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。 実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
  論文  参考訳（メタデータ） (2021-09-10T07:01:15Z)
• Consistency of regularized spectral clustering in degree-corrected mixed membership model [1.0965065178451106]
  正規化ラプラシア行列に基づく混合正規化スペクトルクラスタリング(Mixed-RSC,略してMixed-RSC)と呼ばれる効率的な手法を提案する。 混合RSCは、人口正規化ラプラシア行列の固有分解のための変種の理想的な錐構造に基づいて設計されている。 提案アルゴリズムは,各ノードの推定メンバシップベクトルに対する誤差境界を提供することにより,穏やかな条件下での整合性を示す。
  論文  参考訳（メタデータ） (2020-11-23T02:30:53Z)
• Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
  双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める 近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。 両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
  論文  参考訳（メタデータ） (2020-03-30T08:40:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。