Fugu-MT 論文翻訳(概要): On the Optimal Linear Contraction Order of Tree Tensor Networks, and Beyond

論文の概要: On the Optimal Linear Contraction Order of Tree Tensor Networks, and Beyond

arxiv url: http://arxiv.org/abs/2209.12332v5
Date: Wed, 09 Oct 2024 11:04:07 GMT
ステータス: 翻訳完了
システム内更新日: 2024-10-10 14:25:18.731350
Title: On the Optimal Linear Contraction Order of Tree Tensor Networks, and Beyond
Title（参考訳）: ツリーテンソルネットワークの最適線形縮約順序について
Authors: Mihail Stoian, Richard Milbradt, Christian B. Mendl,
Abstract要約: 木テンソルネットワークに対する線形縮退順序付け問題には,特定時間アルゴリズムが存在することを示す。その結果、契約コストの隣接するシーケンス特性に依存し、契約順序のグローバルな決定を可能にする。我々はこのアルゴリズムをテンソルとして一般的な収縮順序や任意のネットワークトポロジに拡張する。
参考スコア（独自算出の注目度）: 7.557957450498644
License:
Abstract: The contraction cost of a tensor network depends on the contraction order. However, the optimal contraction ordering problem is known to be NP-hard. We show that the linear contraction ordering problem for tree tensor networks admits a polynomial-time algorithm, by drawing connections to database join ordering. The result relies on the adjacent sequence interchange property of the contraction cost, which enables a global decision of the contraction order based on local comparisons. Based on that, we specify a modified version of the IKKBZ database join ordering algorithm to find the optimal tree tensor network linear contraction order. Finally, we extend our algorithm as a heuristic to general contraction orders and arbitrary tensor network topologies.
Abstract（参考訳）: テンソルネットワークの収縮コストは、収縮順序に依存する。しかし、最適収縮順序付け問題はNPハードであることが知られている。木テンソルネットワークに対する線形縮退順序付け問題は,データベース結合順序付けへの接続を描画することにより多項式時間アルゴリズムを許容することを示した。この結果は, 契約コストの隣接シーケンス交換特性に依存し, 局所比較に基づく契約順序の大域的決定を可能にする。そこで我々は,木テンソルネットワークの線形縮合順序を求めるために,IKKBZデータベース結合順序付けアルゴリズムの修正版を指定する。最後に,本アルゴリズムを一般縮約順序と任意のテンソルネットワークトポロジとして拡張する。

関連論文リスト

Approximate Contraction of Arbitrary Tensor Networks with a Flexible and Efficient Density Matrix Algorithm [8.329034093208826]
低ランク近似を用いてテンソルネットワークの収縮を効率的に近似する手法を提案する。提案アルゴリズムは,低ランク近似を行う場合,環境の大部分を組み込む柔軟性を有する。
論文参考訳（メタデータ） (2024-06-14T07:13:52Z)
Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文参考訳（メタデータ） (2023-10-20T12:45:12Z)
AskewSGD : An Annealed interval-constrained Optimisation method to train Quantized Neural Networks [12.229154524476405]
我々は、深層ニューラルネットワーク(DNN)を量子化重みでトレーニングするための新しいアルゴリズム、Annealed Skewed SGD - AskewSGDを開発した。アクティブなセットと実行可能な方向を持つアルゴリズムとは異なり、AskewSGDは実行可能な全セットの下でのプロジェクションや最適化を避けている。実験結果から,AskewSGDアルゴリズムは古典的ベンチマークの手法と同等以上の性能を示した。
論文参考訳（メタデータ） (2022-11-07T18:13:44Z)
Reinforcement Learning Based Query Vertex Ordering Model for Subgraph Matching [58.39970828272366]
グラフマッチングアルゴリズムは、クエリグラフの埋め込みをデータグラフGに列挙する。マッチング順序は、これらのバックトラックに基づくサブグラフマッチングアルゴリズムの時間効率において重要な役割を果たす。本稿では,Reinforcement Learning (RL) と Graph Neural Networks (GNN) 技術を適用して,グラフマッチングアルゴリズムの高品質なマッチング順序を生成する。
論文参考訳（メタデータ） (2022-01-25T00:10:03Z)
Discovering Non-monotonic Autoregressive Orderings with Variational Inference [67.27561153666211]
我々は、訓練データから高品質な生成順序を純粋に検出する、教師なし並列化可能な学習装置を開発した。エンコーダを非因果的注意を持つトランスフォーマーとして実装し、1つのフォワードパスで置換を出力する。言語モデリングタスクにおける経験的結果から,我々の手法は文脈認識であり,一定の順序と競合する,あるいはより優れた順序を見つけることができる。
論文参考訳（メタデータ） (2021-10-27T16:08:09Z)
Layer Adaptive Node Selection in Bayesian Neural Networks: Statistical Guarantees and Implementation Details [0.5156484100374059]
スパースディープニューラルネットワークは、大規模研究において予測モデル構築に効率的であることが証明されている。本稿では,スパイク・アンド・スラブ型ガウス先行法を用いて,訓練中のノード選択を可能にするベイズスパース解を提案する。本研究は, 先行パラメータのキャラクタリゼーションとともに, 変動的後続一貫性の基本的な結果を確立する。
論文参考訳（メタデータ） (2021-08-25T00:48:07Z)
Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。新規な構造化融合正規化に基づく一般グラフ推定器を提案する。提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
論文参考訳（メタデータ） (2021-03-05T04:42:32Z)
A Convergence Theory Towards Practical Over-parameterized Deep Neural Networks [56.084798078072396]
ネットワーク幅と収束時間の両方で既知の理論境界を大幅に改善することにより、理論と実践のギャップを埋める一歩を踏み出します。本研究では, サンプルサイズが2次幅で, 両者の時間対数で線形なネットワークに対して, 地球最小値への収束が保証されていることを示す。私たちの分析と収束境界は、いつでも合理的なサイズの同等のRELUネットワークに変換できる固定アクティベーションパターンを備えたサロゲートネットワークの構築によって導出されます。
論文参考訳（メタデータ） (2021-01-12T00:40:45Z)
Supervised Learning for Non-Sequential Data: A Canonical Polyadic Decomposition Approach [85.12934750565971]
特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
論文参考訳（メタデータ） (2020-01-27T22:38:40Z)
Algorithms for Tensor Network Contraction Ordering [0.0]
十分に設計された収縮シーケンスは、収縮コストを劇的に削減することができる。この順序付け問題に対して、2つの一般的な離散最適化手法をベンチマークする。検討するアルゴリズムは、同等の計算資源を与えられた欲求探索を一貫して上回っていることがわかった。
論文参考訳（メタデータ） (2020-01-15T19:00:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。