論文の概要: Reinforcement Learning-Guided Graph Transformations for SpTRSV Optimization
- arxiv url: http://arxiv.org/abs/2609.40159v1
- Date: Wed, 30 Sep 2026 16:56:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:28.116121
- Title: Reinforcement Learning-Guided Graph Transformations for SpTRSV Optimization
- Title(参考訳): SpTRSV最適化のための強化学習型グラフ変換
- Abstract要約: Sparse triangular solve (SpTRSV) は、多くの科学的・工学的応用において基礎的なカーネルである。
近年のグラフ変換技術は, 並列実行を改善するために, 入力行列の依存性グラフを変更することで, これらの制限に対処している。
本研究では,SpTRSVのための強化学習誘導グラフ変換フレームワークを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sparse triangular solve (SpTRSV) is a fundamental kernel in numerous scientific and engineering applications. However, the data dependencies inherent in sparse triangular matrices significantly limit the available parallelism and make efficient workload distribution challenging. Recent graph transformation techniques address these limitations by modifying the dependency graph of the input matrix to improve parallel execution. Existing graph transformation strategies, however, rely on manually designed heuristics, making their development and adaptation to different optimization objectives challenging. This work proposes a reinforcement learning-guided graph transformation framework for SpTRSV, in which graph transformation is formulated as a sequential decision-making problem and an RL agent learns matrix-dependent transformation policies. Experimental results on real-world sparse matrices demonstrate level reductions of up to 94% and reductions of up to 80% in the coefficient of variation of level costs, while modifying only 1.50% of the rows in the highest case. On average, the RL- guided graph transformation achieves a 23% reduction in the number of levels and a 29% reduction in the coefficient of variation of level costs while rewriting only 0.82% of the matrix rows. Although the heuristic strategies generally achieve more aggressive level reduction(between 31% and 46%), the RL-based approach achieves the largest average reduction in the coefficient of variation of level costs, demonstrating its ability to balance competing graph transformation objectives. The results further show that the learned policies can be transferred to previously unseen matrices through curriculum learning and fine-tuning, while zero-shot experiments provide insights into the limitations of generalizing graph transformation policies across different sparsity patterns.
- Abstract(参考訳): Sparse triangular solve (SpTRSV) は、多くの科学的・工学的応用において基礎的なカーネルである。
しかし、疎三角行列に固有のデータ依存関係は、利用可能な並列性を著しく制限し、効率的なワークロード分散を困難にしている。
近年のグラフ変換技術は, 並列実行を改善するために, 入力行列の依存性グラフを変更することで, これらの制限に対処している。
しかし、既存のグラフ変換戦略は、手動で設計されたヒューリスティックに依存しており、その開発と異なる最適化目標への適応は困難である。
本研究では,グラフ変換を逐次決定問題として定式化し,RLエージェントが行列依存型変換ポリシーを学習する,SpTRSVのための強化学習誘導グラフ変換フレームワークを提案する。
実世界のスパース行列の実験結果は、最大94%のレベル低下と、最大80%のレベルコストの変動係数の低下を示し、最も高いケースでは1.50%の行だけを修正した。
平均して、RL誘導グラフ変換は、行列列の0.82%しか書き換えることなく、レベル数の23%の削減と、レベルコストの変動係数の29%の削減を達成する。
ヒューリスティック戦略は一般により攻撃的なレベル削減(31%と46%の間)を達成するが、RLベースのアプローチは、レベルコストの変動係数の最大平均化を実現し、競合するグラフ変換目標のバランスをとる能力を示している。
さらに、学習したポリシーはカリキュラム学習や微調整を通じて、未確認の行列に変換可能であることを示し、ゼロショット実験は、異なる疎性パターンにわたるグラフ変換ポリシーの一般化の限界に関する洞察を提供する。
関連論文リスト
- Bridging Graph Drawing and Dimensionality Reduction with Stochastic Stress Optimization [0.22940141855172028]
次元削減(DR)とグラフ描画(GD)は抽象的で非線形な構造を視覚化することを目的としているが、異なる最適化パラダイムに依存している。
グラフ描画からベクトルデータ埋め込みへのグラディエント・Descent(SGD)技術の適用により,これらの領域をブリッジする。
論文 参考訳(メタデータ) (2026-05-01T13:22:56Z) - A Variational Framework for Residual-Based Adaptivity in Neural PDE Solvers and Operator Learning [3.758814046658822]
残差ベースの適応戦略は機械学習で広く使われているが、多くは残っている。
残差の凸変換を統合することにより,これらの手法を形式化する統一的変分フレームワークを導入する。
本結果は,残差に基づく適応性の理論的正当性を提供し,原理的離散化と訓練戦略の基礎を確立した。
論文 参考訳(メタデータ) (2025-09-17T17:34:03Z) - A Simplified Analysis of SGD for Linear Regression with Weight Averaging [64.2393952273612]
最近の研究は、定常学習率を用いた線形回帰におけるSGD最適化のためのシャープレートを提供する。
簡単な線形代数ツールを用いて,2021ベニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグナグニグニグニグニグニグニグニグニグニグニグネグニグニグニグニグネグニグニグネグニ
我々の研究は線形回帰の勾配勾配を非常に容易に解析し、ミニバッチと学習率のスケジューリングのさらなる分析に役立てることができると信じている。
論文 参考訳(メタデータ) (2025-06-18T15:10:38Z) - Flow-GRPO: Training Flow Matching Models via Online RL [80.62659379624867]
本稿では,オンライン政策強化学習をフローマッチングモデルに統合する最初の方法であるFlow-GRPOを提案する。
提案手法では,(1)決定論的正規微分方程式を同値な微分方程式に変換するODE-to-SDE変換と,(2)推論ステップの数を維持しながらトレーニングの段階を短縮するDenoising Reduction戦略の2つの主要な戦略を用いる。
論文 参考訳(メタデータ) (2025-05-08T17:58:45Z) - Efficient Adaptation of Pre-trained Vision Transformer via Householder Transformation [53.88562288388169]
一般的な戦略である。
事前訓練された視覚変換器(ViT)のPEFT(Efficient Fine-Tuning)は、下流タスクにモデルを適応させる。
適応行列を表現するために,Singular Value Decomposition (SVD) にインスパイアされた新しいPEFT手法を提案する。
SVDは行列を左ユニタリ行列、スケーリング値の対角行列、右ユニタリ行列の積に分解する。
論文 参考訳(メタデータ) (2024-10-30T12:08:30Z) - Improving Generalization on the ProcGen Benchmark with Simple Architectural Changes and Scale [11.373533329811023]
近年の強化学習(RL)と単純なアーキテクチャ変更が組み合わさって、ProcGenベンチマークの一般化が大幅に改善されている。
2次元の畳み込みレイヤを3次元の畳み込みレイヤに置き換え、レイヤ毎の畳み込みカーネル数をスケールアップする。
論文 参考訳(メタデータ) (2024-10-13T19:28:41Z) - Cogradient Descent for Dependable Learning [64.02052988844301]
双線形最適化問題に対処するために,CoGDアルゴリズムに基づく信頼度の高い学習法を提案する。
CoGDは、ある変数がスパーシティ制約を持つ場合の双線形問題を解くために導入された。
また、特徴と重みの関連を分解するためにも使用できるため、畳み込みニューラルネットワーク(CNN)をより良く訓練するための我々の手法をさらに一般化することができる。
論文 参考訳(メタデータ) (2021-06-20T04:28:20Z) - Transferable Graph Optimizers for ML Compilers [18.353830282858834]
計算グラフ最適化(GO)のためのエンドツーエンドで転送可能な深層強化学習法を提案する。
GOは個々のノードに対して自動回帰ではなく,グラフ全体の決定を生成する。
GOは、人間の専門家よりも21%改善し、先行技術よりも18%改善し、15倍早く収束する。
論文 参考訳(メタデータ) (2020-10-21T20:28:33Z) - Cogradient Descent for Bilinear Optimization [124.45816011848096]
双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。
一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。
本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
論文 参考訳(メタデータ) (2020-06-16T13:41:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。