論文の概要: Deep tensor networks with matrix product operators
- arxiv url: http://arxiv.org/abs/2209.09098v1
- Date: Fri, 16 Sep 2022 09:09:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-20 20:04:54.199676
- Title: Deep tensor networks with matrix product operators
- Title(参考訳): 行列積作用素を用いた深層テンソルネットワーク
- Authors: Bojan \v{Z}unkovi\v{c}
- Abstract要約: 重み行列のテンソルネットワーク表現に基づく指数関数的に広いニューラルネットワークであるディープテンソルネットワークを導入する。
画像分類(MNIST, FashionMNIST)とシーケンス予測(セルオートマトン)の課題について検討した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce deep tensor networks, which are exponentially wide neural
networks based on the tensor network representation of the weight matrices. We
evaluate the proposed method on the image classification (MNIST, FashionMNIST)
and sequence prediction (cellular automata) tasks. In the image classification
case, deep tensor networks improve our matrix product state baselines and
achieve 0.49% error rate on MNIST and 8.3% error rate on FashionMNIST. In the
sequence prediction case, we demonstrate an exponential improvement in the
number of parameters compared to the one-layer tensor network methods. In both
cases, we discuss the non-uniform and the uniform tensor network models and
show that the latter generalizes well to different input sizes.
- Abstract(参考訳): 本稿では,重み行列のテンソルネットワーク表現に基づく指数関数的に広いニューラルネットワークであるディープテンソルネットワークを紹介する。
提案手法は画像分類(mnist, fashionmnist)とシーケンス予測(cellal automata)である。
画像分類の場合、ディープテンソルネットワークは行列生成物の状態ベースラインを改善し、MNISTでは0.49%、FashionMNISTでは8.3%の誤差率を達成する。
シーケンス予測では, 1層テンソルネットワーク法と比較してパラメータ数が指数関数的に向上したことを示す。
いずれの場合も、非一様および一様テンソルネットワークモデルについて議論し、後者が異なる入力サイズによく一般化することを示す。
関連論文リスト
- Enhancing lattice kinetic schemes for fluid dynamics with Lattice-Equivariant Neural Networks [79.16635054977068]
我々はLattice-Equivariant Neural Networks (LENNs)と呼ばれる新しい同変ニューラルネットワークのクラスを提案する。
我々の手法は、ニューラルネットワークに基づく代理モデルLattice Boltzmann衝突作用素の学習を目的とした、最近導入されたフレームワーク内で開発されている。
本研究は,実世界のシミュレーションにおける機械学習強化Lattice Boltzmann CFDの実用化に向けて展開する。
論文 参考訳(メタデータ) (2024-05-22T17:23:15Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T18:01:01Z) - Variational Neural Networks [88.24021148516319]
本稿では,変分ニューラルネットワーク(VNN)と呼ばれるニューラルネットワークにおける不確実性推定手法を提案する。
VNNは、学習可能なサブレイヤで入力を変換することで、レイヤの出力分布のパラメータを生成する。
不確実性評価実験において、VNNはモンテカルロ・ドロップアウトやベイズ・バイ・バックプロパゲーション法よりも優れた不確実性が得られることを示す。
論文 参考訳(メタデータ) (2022-07-04T15:41:02Z) - Optimising for Interpretability: Convolutional Dynamic Alignment
Networks [108.83345790813445]
我々は、畳み込み動的アライメントネットワーク(CoDA Nets)と呼ばれる新しいニューラルネットワークモデルを紹介する。
彼らの中核となるビルディングブロックは動的アライメントユニット(DAU)であり、タスク関連パターンに合わせて動的に計算された重みベクトルで入力を変換するように最適化されている。
CoDAネットは一連の入力依存線形変換を通じて分類予測をモデル化し、出力を個々の入力コントリビューションに線形分解することができる。
論文 参考訳(メタデータ) (2021-09-27T12:39:46Z) - Patch-based medical image segmentation using Quantum Tensor Networks [1.5899411215927988]
テンソルネットワークを用いた教師付き設定で画像分割を定式化する。
鍵となるアイデアは、まず画像パッチのピクセルを指数関数的に高次元の特徴空間に引き上げることである。
提案モデルの性能を3つの2次元および1つの3次元バイオメディカルイメージングデータセットで評価した。
論文 参考訳(メタデータ) (2021-09-15T07:54:05Z) - Segmenting two-dimensional structures with strided tensor networks [1.952097552284465]
教師付き画像分割のためのテンソルネットワークの新規な定式化を提案する。
提案モデルはバックプロパゲーションを用いてエンドツーエンドでトレーニング可能である。
評価の結果,ストレートテンソルネットワークはcnnモデルに比べて競争性が高いことがわかった。
論文 参考訳(メタデータ) (2021-02-13T11:06:34Z) - Tensor-Train Networks for Learning Predictive Modeling of
Multidimensional Data [0.0]
有望な戦略は、物理的および化学的用途で非常に成功したテンソルネットワークに基づいています。
本研究では, 多次元回帰モデルの重みをテンソルネットワークを用いて学習し, 強力なコンパクト表現を実現することを示した。
TT形式の重みを計算力の低減で近似するための最小二乗を交互に行うアルゴリズムが提案されている。
論文 参考訳(メタデータ) (2021-01-22T16:14:38Z) - ACDC: Weight Sharing in Atom-Coefficient Decomposed Convolution [57.635467829558664]
我々は,CNNにおいて,畳み込みカーネル間の構造正則化を導入する。
我々はCNNがパラメータや計算量を劇的に減らして性能を維持していることを示す。
論文 参考訳(メタデータ) (2020-09-04T20:41:47Z) - T-Basis: a Compact Representation for Neural Networks [89.86997385827055]
テンソルの集合をコンパクトに表現するための概念である T-Basis をニューラルネットワークでよく見られる任意の形状で導入する。
ニューラルネットワーク圧縮の課題に対する提案手法の評価を行い, 許容性能低下時に高い圧縮速度に達することを示す。
論文 参考訳(メタデータ) (2020-07-13T19:03:22Z) - Anomaly Detection with Tensor Networks [2.3895981099137535]
テンソルネットワークのメモリと計算効率を利用して、原特徴数の次元指数で空間上の線形変換を学習する。
画像の局所性を利用していないにもかかわらず、画像データセット上で競合する結果を生成する。
論文 参考訳(メタデータ) (2020-06-03T20:41:30Z) - Tensor Networks for Medical Image Classification [0.456877715768796]
我々は、量子多体システムを分析するために、過去20年間、物理学者のための仕事場であったネットワークのクラスに焦点を当てている。
医療画像解析に有用なマトリックス製品状態テンソルネットワークを拡張した。
テンソルネットワークは最先端のディープラーニング手法に匹敵する性能が得られることを示す。
論文 参考訳(メタデータ) (2020-04-21T15:02:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。