Fugu-MT 論文翻訳(概要): Comb Tensor Networks vs. Matrix Product States: Enhanced Efficiency in High-Dimensional Spaces

論文の概要: Comb Tensor Networks vs. Matrix Product States: Enhanced Efficiency in High-Dimensional Spaces

arxiv url: http://arxiv.org/abs/2412.06857v1
Date: Sun, 08 Dec 2024 20:28:49 GMT
ステータス: 翻訳完了
システム内更新日: 2024-12-11 14:38:20.605078
Title: Comb Tensor Networks vs. Matrix Product States: Enhanced Efficiency in High-Dimensional Spaces
Title（参考訳）: Comb Tensor Networks vs. Matrix Product States:高次元空間における高効率化
Authors: Danylo Kolesnyk, Yelyzaveta Vodovozova,
Abstract要約: コーム型テンソルネットワークアーキテクチャにより,MPSよりも効率的な収縮が得られることを示す。この結果から,MPSからコムテンソルネットワークへ遷移する連続的および高次元データ分布は,精度を保ちながら計算オーバーヘッドを大幅に減少させる可能性が示唆された。
参考スコア（独自算出の注目度）: 0.0
License:
Abstract: Modern approaches to generative modeling of continuous data using tensor networks incorporate compression layers to capture the most meaningful features of high-dimensional inputs. These methods, however, rely on traditional Matrix Product States (MPS) architectures. Here, we demonstrate that beyond a certain threshold in data and bond dimensions, a comb-shaped tensor network architecture can yield more efficient contractions than a standard MPS. This finding suggests that for continuous and high-dimensional data distributions, transitioning from MPS to a comb tensor network representation can substantially reduce computational overhead while maintaining accuracy.
Abstract（参考訳）: テンソルネットワークを用いた連続データ生成モデルへの現代のアプローチは、高次元入力の最も有意義な特徴を捉えるために圧縮層を取り入れている。しかし、これらの手法は従来のマトリックス製品状態(MPS)アーキテクチャに依存している。ここでは,データおよび結合次元の一定のしきい値を超えると,コム型テンソルネットワークアーキテクチャは標準MPSよりも効率の良い収縮が得られることを示す。この結果から,MPSからコムテンソルネットワークへ遷移する連続的および高次元データ分布は,精度を保ちながら計算オーバーヘッドを大幅に減少させる可能性が示唆された。

関連論文リスト

SpaceMesh: A Continuous Representation for Learning Manifold Surface Meshes [61.110517195874074]
本稿では,ニューラルネットワークの出力として,複雑な接続性を持つ多様体多角形メッシュを直接生成する手法を提案する。私たちの重要なイノベーションは、各メッシュで連続的な遅延接続空間を定義することです。アプリケーションでは、このアプローチは生成モデルから高品質な出力を得るだけでなく、メッシュ修復のような挑戦的な幾何処理タスクを直接学習することを可能にする。
論文参考訳（メタデータ） (2024-09-30T17:59:03Z)
Adaptive Error-Bounded Hierarchical Matrices for Efficient Neural Network Compression [0.0]
本稿では,物理インフォームドニューラルネットワーク(PINN)に適した動的,エラーバウンドな階層行列 (H-matrix) 圧縮手法を提案する。提案手法は,ニューラル・タンジェント・カーネル(NTK)の本質的性質を保ちながら,大規模物理モデルにおける計算複雑性とメモリ要求を低減させる。実験により, この手法は, 高精度を維持し, 一般化能力を向上させることにより, Singular Value Decomposition (SVD) やプルーニング, 量子化などの従来の圧縮手法よりも優れていることを示した。
論文参考訳（メタデータ） (2024-09-11T05:55:51Z)
TCCT-Net: Two-Stream Network Architecture for Fast and Efficient Engagement Estimation via Behavioral Feature Signals [58.865901821451295]
本稿では,新しい2ストリーム機能融合 "Tensor-Convolution and Convolution-Transformer Network" (TCCT-Net) アーキテクチャを提案する。時間空間領域における意味のあるパターンをよりよく学習するために、ハイブリッド畳み込み変換器を統合する「CT」ストリームを設計する。並行して、時間周波数領域からリッチなパターンを効率的に抽出するために、連続ウェーブレット変換(CWT)を用いて情報を2次元テンソル形式で表現する「TC」ストリームを導入する。
論文参考訳（メタデータ） (2024-04-15T06:01:48Z)
Heterogenous Memory Augmented Neural Networks [84.29338268789684]
ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。 In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
論文参考訳（メタデータ） (2023-10-17T01:05:28Z)
Towards Long-Term Time-Series Forecasting: Feature, Pattern, and Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。 LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文参考訳（メタデータ） (2023-01-05T13:59:29Z)
Optimising for Interpretability: Convolutional Dynamic Alignment Networks [108.83345790813445]
我々は、畳み込み動的アライメントネットワーク(CoDA Nets)と呼ばれる新しいニューラルネットワークモデルを紹介する。彼らの中核となるビルディングブロックは動的アライメントユニット(DAU)であり、タスク関連パターンに合わせて動的に計算された重みベクトルで入力を変換するように最適化されている。 CoDAネットは一連の入力依存線形変換を通じて分類予測をモデル化し、出力を個々の入力コントリビューションに線形分解することができる。
論文参考訳（メタデータ） (2021-09-27T12:39:46Z)
Quantum-inspired event reconstruction with Tensor Networks: Matrix Product States [0.0]
ニューラルネットワークは量子力学の概念を機械学習技術に結びつけるのに理想的な手段であることを示す。エンタングルメントのエントロピーは,ネットワークの学習内容の解釈に有効であることを示す。
論文参考訳（メタデータ） (2021-06-15T18:00:02Z)
On Infinite-Width Hypernetworks [101.03630454105621]
我々は、ハイパーネットワークが、下降中のグローバルなミニマを保証していないことを示す。我々は,これらのアーキテクチャの機能的先行を,対応するGPカーネルとNTKカーネルを導出することによって同定する。この研究の一環として、標準完全連結ReLUネットワークの高次テイラー項の厳密な境界を導出した数学的貢献を行う。
論文参考訳（メタデータ） (2020-03-27T00:50:29Z)
EPINE: Enhanced Proximity Information Network Embedding [2.257737378757467]
本研究では,隣接行列における貴重な情報をより深く掘り下げることに尽力した。同じ目的のもと、多くのNE法は隣接行列のパワーによって高次近接を計算する。より直感的に高次近接性を再定義することを提案する。
論文参考訳（メタデータ） (2020-03-04T15:57:17Z)
Efficient Structure-preserving Support Tensor Train Machine [0.0]
列車マルチウェイマルチレベルカーネル(TT-MMK) 我々は,ポリアディック分解の単純さ,デュアル構造保存支援機の分類能力,およびTrain Vector近似の信頼性を組み合わせたTrain Multi-way Multi-level Kernel(TT-MMK)を開発した。実験により,TT-MMK法は通常より信頼性が高く,チューニングパラメータに敏感で,他の最先端技術と比較した場合のSVM分類において高い予測精度が得られた。
論文参考訳（メタデータ） (2020-02-12T16:35:10Z)
A Multi-Scale Tensor Network Architecture for Classification and Regression [0.0]
テンソルネットワークを用いた教師あり学習のためのアルゴリズムを提案する。我々はウェーブレット変換の連続を通して粗粒化によってデータを前処理するステップを採用する。ネットワークを通しての細粒化がモデルの初期化にどのように利用されるかを示す。
論文参考訳（メタデータ） (2020-01-22T21:26:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。