Fugu-MT 論文翻訳(概要): Accelerating Matrix Diagonalization through Decision Transformers with Epsilon-Greedy Optimization

論文の概要: Accelerating Matrix Diagonalization through Decision Transformers with Epsilon-Greedy Optimization

arxiv url: http://arxiv.org/abs/2406.16191v1
Date: Sun, 23 Jun 2024 18:56:46 GMT
ステータス: 処理完了
システム内更新日: 2024-06-25 18:34:57.492466
Title: Accelerating Matrix Diagonalization through Decision Transformers with Epsilon-Greedy Optimization
Title（参考訳）: Epsilon-Greedy最適化を用いた決定変換器による行列対角化の高速化
Authors: Kshitij Bhatta, Geigh Zollicoffer, Manish Bhattarai, Phil Romero, Christian F. A. Negre, Anders M. N. Niklasson, Adetokunbo Adedoyin,
Abstract要約: 本稿では,行列対角化を逐次決定問題として再放送し,決定変換器(DT)のパワーを適用した。提案手法は,ジャコビアルゴリズムによる対角化時の最適ピボット選択を決定する。
参考スコア（独自算出の注目度）: 1.0051474951635875
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper introduces a novel framework for matrix diagonalization, recasting it as a sequential decision-making problem and applying the power of Decision Transformers (DTs). Our approach determines optimal pivot selection during diagonalization with the Jacobi algorithm, leading to significant speedups compared to the traditional max-element Jacobi method. To bolster robustness, we integrate an epsilon-greedy strategy, enabling success in scenarios where deterministic approaches fail. This work demonstrates the effectiveness of DTs in complex computational tasks and highlights the potential of reimagining mathematical operations through a machine learning lens. Furthermore, we establish the generalizability of our method by using transfer learning to diagonalize matrices of smaller sizes than those trained.
Abstract（参考訳）: 本稿では,行列対角化のための新しいフレームワークを提案し,それを逐次決定問題として再キャストし,決定変換器(DT)のパワーを適用した。提案手法は,ジャコビアルゴリズムによる対角化時の最適ピボット選択を決定する。堅牢性を高めるために、エプシロン・グレーディ戦略を統合し、決定論的アプローチが失敗するシナリオでの成功を可能にする。この研究は、複雑な計算タスクにおけるDTの有効性を示し、機械学習レンズによる数学的操作を再現する可能性を強調する。さらに, トランスファー学習を用いて, トレーニングした行列よりも小さい行列を対角化することにより, 本手法の一般化性を確立した。

関連論文リスト

Diagonalization without Diagonalization: A Direct Optimization Approach for Solid-State Density Functional Theory [8.922374095111797]
本稿では,密度汎関数論の直接最適化における変数占有数の問題に対処する新しい手法を提案する。本手法は固有関数と職業の両方の物理的制約をパラメータ化に組み込む。これは、占有数の正しいフェルミ・ディラック分布を生成し、量子エスプレッソのSCF法で得られたバンド構造と一致する。
論文参考訳（メタデータ） (2024-11-06T11:03:40Z)
Efficient Adaptation of Pre-trained Vision Transformer via Householder Transformation [53.88562288388169]
一般的な戦略である。事前訓練された視覚変換器(ViT)のPEFT(Efficient Fine-Tuning)は、下流タスクにモデルを適応させる。適応行列を表現するために,Singular Value Decomposition (SVD) にインスパイアされた新しいPEFT手法を提案する。 SVDは行列を左ユニタリ行列、スケーリング値の対角行列、右ユニタリ行列の積に分解する。
論文参考訳（メタデータ） (2024-10-30T12:08:30Z)
Towards Faster Matrix Diagonalization with Graph Isomorphism Networks and the AlphaZero Framework [1.0051474951635875]
行列対角化のためのヤコビ法を高速化するための革新的なアプローチを導入する。異なるサイズの行列間でスケーラブルなアーキテクチャを活用する可能性について検討する。
論文参考訳（メタデータ） (2024-06-30T17:45:01Z)
Analyzing and Enhancing the Backward-Pass Convergence of Unrolled Optimization [50.38518771642365]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。 Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
論文参考訳（メタデータ） (2023-12-28T23:15:18Z)
Matrix Diagonalization as a Board Game: Teaching an Eigensolver the Fastest Path to Solution [2.239917051803692]
行列対角化は科学計算の多くの分野の基盤となっている。我々は,AlphaZeroフレームワークを用いた強化学習がヤコビ行列対角化を加速することを示す。本研究は,数値線形代数の性能向上のために,機械学習を有望なツールとして活用する機会を浮き彫りにした。
論文参考訳（メタデータ） (2023-06-16T03:31:58Z)
Fast Projected Newton-like Method for Precision Matrix Estimation under Total Positivity [15.023842222803058]
現在のアルゴリズムはブロック座標降下法や近点アルゴリズムを用いて設計されている。本稿では,2次元投影法に基づく新しいアルゴリズムを提案し,慎重に設計された探索方向と変数分割方式を取り入れた。合成および実世界のデータセットに対する実験結果から,提案アルゴリズムは最先端の手法と比較して計算効率を著しく向上させることを示した。
論文参考訳（メタデータ） (2021-12-03T14:39:10Z)
ES-Based Jacobian Enables Faster Bilevel Optimization [53.675623215542515]
バイレベル最適化(BO)は多くの現代の機械学習問題を解決する強力なツールとして生まれてきた。既存の勾配法では、ヤコビアンあるいはヘッセンベクトル計算による二階微分近似が必要となる。本稿では,進化戦略(ES)に基づく新しいBOアルゴリズムを提案し,BOの過勾配における応答ヤコビ行列を近似する。
論文参考訳（メタデータ） (2021-10-13T19:36:50Z)
OASIS: An Active Framework for Set Inversion [4.014524824655106]
本稿では,二項分類問題として定式化することで,集合反転問題の解法を提案する。従来の学習手法に比べて少ないデータポイントで同じレベルの精度を達成できる、新しい強力なテクニックのファミリーであるアクティブラーニングに重点を置いている。
論文参考訳（メタデータ） (2021-05-31T15:04:43Z)
Adversarially-Trained Nonnegative Matrix Factorization [77.34726150561087]
非負行列ファクタリゼーションの逆学習版を検討する。我々の定式化では、攻撃者は与えられたデータ行列に有界ノルムの任意の行列を追加する。辞書と係数行列を最適化するために, 逆学習に触発された効率的なアルゴリズムを設計する。
論文参考訳（メタデータ） (2021-04-10T13:13:17Z)
Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。 Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文参考訳（メタデータ） (2020-10-15T18:09:48Z)
Effective Dimension Adaptive Sketching Methods for Faster Regularized Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文参考訳（メタデータ） (2020-06-10T15:00:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。