論文の概要: Tensor Networks Meet Neural Networks: A Survey
- arxiv url: http://arxiv.org/abs/2302.09019v1
- Date: Sun, 22 Jan 2023 17:35:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2023-02-26 14:53:48.670242
- Title: Tensor Networks Meet Neural Networks: A Survey
- Title（参考訳）: ニューラルネットワークを満たすテンソルネットワーク:調査
- Authors: Maolin Wang, Yu Pan, Xiangli Yang, Guangxi Li, Zenglin Xu
- Abstract要約: テンソルネットワーク(TN)とニューラルネットワーク(NN)は、データモデリングアプローチの基本的な2つのタイプである。
TNは、大規模テンソルツールボックスが直面する次元の呪いの解として提案されている。
NNは生物学的NNにインスパイアされたコンピュータシステムであり、人間の脳を構成する。
- 参考スコア（独自算出の注目度）: 15.07256683547702
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tensor networks (TNs) and neural networks (NNs) are two fundamental types of
data modeling approaches. TNs have been proposed as a solution to the curse of
dimensionality faced by large-scale tensors by converting an exponential number
of dimensions to polynomial complexity. Thus, they have attracted many studies
in the fields of quantum physics and machine learning. On the other hand, NNs
are computing systems inspired by the biological NNs that constitute human
brains. Recently, NNs and their variants have achieved outstanding performance
in various applications, e.g., computer vision, natural language processing,
and robotics research. Interestingly, although these two types of networks come
from different observations, they are inextricably linked via the common
intrinsic multilinearity structure underlying both TNs and NNs. Consequently, a
significant number of intellectual sparks regarding combinations of TNs and NNs
have burst out. The combinations described as ``tensor networks meet neural
networks'' are termed tensorial neural networks (TNNs) in this paper. This
survey introduces TNNs based on three aspects. This survey also investigates
methods for improving TNNs, examines useful toolboxes for implementing TNNs,
and attempts to document TNN development and highlight its potential future
directions. To the best of our knowledge, this is the first comprehensive
survey to bridge the connections among NNs, TNs, and quantum circuits. We
provide a curated list of TNNs at
https://github.com/tnbar/awesome-tensorial-neural-networks.
- Abstract（参考訳）: テンソルネットワーク(tns)とニューラルネットワーク(nns)は、2つの基本的なデータモデリングアプローチである。
TNは指数数次元を多項式複雑性に変換することによって、大規模テンソルが直面する次元の呪いの解として提案されている。
そのため、量子物理学や機械学習の分野で多くの研究を惹きつけてきた。
一方、NNは人間の脳を構成する生物学的NNにインスパイアされたコンピュータシステムである。
近年、nnとその変種は、コンピュータビジョン、自然言語処理、ロボット工学研究など、様々な応用において優れた性能を達成している。
興味深いことに、これらの2つのタイプのネットワークは異なる観測からもたらされるが、それらはtnsとnnsの両方の基盤となる共通の本質的多線型構造によって不可分に結びついている。
その結果、TNとNNの組み合わせに関するかなりの数の知的な火花が噴出した。
本稿では,'tensor networks meet neural networks' と表現される組み合わせをテンソルニューラルネットワーク (tnn) と呼ぶ。
本調査は,3つの側面に基づくtnnを紹介する。
本調査では,TNNの改善手法,TNNの実装に有用なツールボックス,TNN開発の文書化,今後の方向性の明確化などについても検討する。
私たちの知る限りでは、NN、TN、量子回路間の接続を橋渡しする、初めての総合的な調査である。
我々は、https://github.com/tnbar/awesome-tensorial-neural-networksでtnnのキュレーションリストを提供する。
関連論文リスト
- On the Design Space Between Transformers and Recursive Neural Nets [64.862738244735]
連続再帰型ニューラルネットワーク(CRvNN)とニューラルデータルータ(NDR)について検討した。
CRvNNは従来のRvNNの境界を押し上げ、その離散的な構造的な構成を緩和し、最終的にTransformerのような構造になる。
NDRはオリジナルのTransformerを制約し、より優れた構造的帰納バイアスを誘発し、CRvNNに近いモデルに終止符を打つ。
論文 参考訳（メタデータ） (2024-09-03T02:03:35Z) - CTRQNets & LQNets: Continuous Time Recurrent and Liquid Quantum Neural Networks [76.53016529061821]
Liquid Quantum Neural Network (LQNet) とContinuous Time Recurrent Quantum Neural Network (CTRQNet) を開発した。
LQNetとCTRQNetは、バイナリ分類によってCIFAR 10で40%の精度向上を実現している。
論文 参考訳（メタデータ） (2024-08-28T00:56:03Z) - From Graphs to Qubits: A Critical Review of Quantum Graph Neural Networks [56.51893966016221]
量子グラフニューラルネットワーク(QGNN)は、量子コンピューティングとグラフニューラルネットワーク(GNN)の新たな融合を表す。
本稿では,QGNNの現状を批判的にレビューし,様々なアーキテクチャを探求する。
我々は、高エネルギー物理学、分子化学、ファイナンス、地球科学など多種多様な分野にまたがる応用について論じ、量子的優位性の可能性を強調した。
論文 参考訳（メタデータ） (2024-08-12T22:53:14Z) - Direct Training High-Performance Deep Spiking Neural Networks: A Review of Theories and Methods [33.377770671553336]
スパイキングニューラルネットワーク(SNN)は、人工ニューラルネットワーク(ANN)の代替として有望なエネルギー効率を提供する
本稿では,より深いSNNを高い性能で訓練するための理論と手法を要約する新しい視点を提供する。
論文 参考訳（メタデータ） (2024-05-06T09:58:54Z) - CNN2GNN: How to Bridge CNN with GNN [59.42117676779735]
蒸留によりCNNとGNNを統一する新しいCNN2GNNフレームワークを提案する。
Mini-ImageNetにおける蒸留ブースターの2層GNNの性能は、ResNet152のような数十層を含むCNNよりもはるかに高い。
論文 参考訳（メタデータ） (2024-04-23T08:19:08Z) - Deep Neural Networks via Complex Network Theory: a Perspective [3.1023851130450684]
ディープニューラルネットワーク(DNN)は、リンクと頂点が反復的にデータを処理し、タスクを亜最適に解くグラフとして表現することができる。複雑なネットワーク理論(CNT)は、統計物理学とグラフ理論を融合させ、その重みとニューロン構造を分析してニューラルネットワークを解釈する方法を提供する。
本研究では,DNNのトレーニング分布から抽出した測定値を用いて既存のCNTメトリクスを拡張し,純粋なトポロジカル解析からディープラーニングの解釈可能性へ移行する。
論文 参考訳（メタデータ） (2024-04-17T08:42:42Z) - Transferability of coVariance Neural Networks and Application to
Interpretable Brain Age Prediction using Anatomical Features [119.45320143101381]
グラフ畳み込みネットワーク(GCN)は、トポロジー駆動のグラフ畳み込み演算を利用して、推論タスクのためにグラフをまたいだ情報を結合する。
我々は、共分散行列をグラフとして、共分散ニューラルネットワーク(VNN)の形でGCNを研究した。
VNNは、GCNからスケールフリーなデータ処理アーキテクチャを継承し、ここでは、共分散行列が極限オブジェクトに収束するデータセットに対して、VNNが性能の転送可能性を示すことを示す。
論文 参考訳（メタデータ） (2023-05-02T22:15:54Z) - Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a
Polynomial Net Study [55.12108376616355]
NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。
本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。
我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
論文 参考訳（メタデータ） (2022-09-16T06:36:06Z) - Deep Neural Networks as Complex Networks [1.704936863091649]
我々は、重み付きグラフとしてディープニューラルネットワーク(DNN)を表現するために複雑ネットワーク理論を用いる。
我々は、DNNを動的システムとして研究するためのメトリクスを導入し、その粒度は、重みから神経細胞を含む層まで様々である。
我々の測定値が低性能ネットワークと高パフォーマンスネットワークを区別していることが示される。
論文 参考訳（メタデータ） (2022-09-12T16:26:04Z) - Universal approximation property of invertible neural networks [76.95927093274392]
Invertible Neural Network (INN) は、設計によって可逆性を持つニューラルネットワークアーキテクチャである。
その可逆性とヤコビアンのトラクタビリティのおかげで、IGNは確率的モデリング、生成的モデリング、表現的学習など、さまざまな機械学習応用がある。
論文 参考訳（メタデータ） (2022-04-15T10:45:26Z) - Deep Reinforcement Learning Guided Graph Neural Networks for Brain
Network Analysis [61.53545734991802]
本稿では,各脳ネットワークに最適なGNNアーキテクチャを探索する新しい脳ネットワーク表現フレームワークBN-GNNを提案する。
提案するBN-GNNは,脳ネットワーク解析タスクにおける従来のGNNの性能を向上させる。
論文 参考訳（メタデータ） (2022-03-18T07:05:27Z) - Quantum-inspired Complex Convolutional Neural Networks [17.65730040410185]
我々は、より豊かな表現能力とより良い非線形性を持つ複素数値重みを利用することにより、量子刺激ニューロンを改善した。
我々は、高次元データを処理できる量子インスパイアされた畳み込みニューラルネットワーク(QICNN)のモデルを描く。
5つのQICNNの分類精度をMNISTとCIFAR-10データセットで検証した。
論文 参考訳（メタデータ） (2021-10-31T03:10:48Z) - Explore the Knowledge contained in Network Weights to Obtain Sparse
Neural Networks [2.649890751459017]
本稿では,ニューラルネットワーク(NN)における疎結合層の自動獲得のための新しい学習手法を提案する。
タスクニューラルネットワーク(TNN)の構造を最適化するためにスイッチングニューラルネットワーク(SNN)を設計する。
論文 参考訳（メタデータ） (2021-03-26T11:29:40Z) - Spiking Neural Networks -- Part I: Detecting Spatial Patterns [38.518936229794214]
Spiking Neural Networks(SNN)は生物学的にインスパイアされた機械学習モデルで、バイナリとスパーススパイキング信号をイベント駆動のオンラインな方法で処理する動的ニューラルモデルに基づいている。
SNNは、学習と推論のためのエネルギー効率の良いコプロセッサとして出現しているニューロモルフィックコンピューティングプラットフォーム上で実装することができる。
論文 参考訳（メタデータ） (2020-10-27T11:37:22Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳（メタデータ） (2020-07-02T15:38:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。