論文の概要: Tensor Networks Meet Neural Networks: A Survey and Future Perspectives
- arxiv url: http://arxiv.org/abs/2302.09019v2
- Date: Mon, 8 May 2023 06:06:32 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-09 23:01:55.947377
- Title: Tensor Networks Meet Neural Networks: A Survey and Future Perspectives
- Title(参考訳): ニューラルネットワークを満たすテンソルネットワーク:調査と今後の展望
- Authors: Maolin Wang, Yu Pan, Zenglin Xu, Xiangli Yang, Guangxi Li, Andrzej
Cichocki
- Abstract要約: テンソルニューラルネットワーク(TNN)とニューラルネットワーク(NN)は2つの基本的なデータモデリングアプローチである。
TNは指数的な数の次元を複雑さに変換することによって、大規模テンソルの次元性の呪いを解決する。
NNは、コンピュータビジョン、自然言語処理、ロボット工学の研究など、様々な応用において優れたパフォーマンスを示している。
- 参考スコア(独自算出の注目度): 27.878669143107885
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tensor networks (TNs) and neural networks (NNs) are two fundamental data
modeling approaches. TNs were introduced to solve the curse of dimensionality
in large-scale tensors by converting an exponential number of dimensions to
polynomial complexity. As a result, they have attracted significant attention
in the fields of quantum physics and machine learning. Meanwhile, NNs have
displayed exceptional performance in various applications, e.g., computer
vision, natural language processing, and robotics research. Interestingly,
although these two types of networks originate from different observations,
they are inherently linked through the common multilinearity structure
underlying both TNs and NNs, thereby motivating a significant number of
intellectual developments regarding combinations of TNs and NNs. In this paper,
we refer to these combinations as tensorial neural networks (TNNs), and present
an introduction to TNNs in three primary aspects: network compression,
information fusion, and quantum circuit simulation. Furthermore, this survey
also explores methods for improving TNNs, examines flexible toolboxes for
implementing TNNs, and documents TNN development while highlighting potential
future directions. To the best of our knowledge, this is the first
comprehensive survey that bridges the connections among NNs, TNs, and quantum
circuits. We provide a curated list of TNNs at
\url{https://github.com/tnbar/awesome-tensorial-neural-networks}.
- Abstract(参考訳): テンソルネットワーク(TN)とニューラルネットワーク(NN)は2つの基本的なデータモデリングアプローチである。
TNは指数数次元を多項式複雑性に変換することによって、大規模テンソルの次元性の呪いを解決するために導入された。
その結果、量子物理学や機械学習の分野に大きな注目を集めた。
一方、nnはコンピュータビジョン、自然言語処理、ロボティクス研究など、様々なアプリケーションで例外的な性能を示している。
興味深いことに、これらの2種類のネットワークは異なる観測結果から生まれたものであるが、本質的にはTNとNNの両方の基礎となる共通多線形構造を通してリンクされており、TNとNNの組み合わせに関するかなりの数の知的発達を動機付けている。
本稿では、これらの組み合わせをテンソルニューラルネットワーク(TNN)と呼び、ネットワーク圧縮、情報融合、量子回路シミュレーションの3つの主要な側面でTNNを紹介する。
さらに、TNNの改善方法、TNNの実装のための柔軟なツールボックス、将来的な方向性を強調しつつTNN開発を文書化する方法について検討する。
私たちの知る限りでは、NN、TN、量子回路間の接続を橋渡しする、初めての総合的な調査である。
我々は、url{https://github.com/tnbar/awesome-tensorial-neural-networks}でtnnのキュレーションリストを提供する。
関連論文リスト
- A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a
Polynomial Net Study [55.12108376616355]
NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。
本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。
我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
論文 参考訳(メタデータ) (2022-09-16T06:36:06Z) - Deep Neural Networks as Complex Networks [1.704936863091649]
我々は、重み付きグラフとしてディープニューラルネットワーク(DNN)を表現するために複雑ネットワーク理論を用いる。
我々は、DNNを動的システムとして研究するためのメトリクスを導入し、その粒度は、重みから神経細胞を含む層まで様々である。
我々の測定値が低性能ネットワークと高パフォーマンスネットワークを区別していることが示される。
論文 参考訳(メタデータ) (2022-09-12T16:26:04Z) - Universal approximation property of invertible neural networks [76.95927093274392]
Invertible Neural Network (INN) は、設計によって可逆性を持つニューラルネットワークアーキテクチャである。
その可逆性とヤコビアンのトラクタビリティのおかげで、IGNは確率的モデリング、生成的モデリング、表現的学習など、さまざまな機械学習応用がある。
論文 参考訳(メタデータ) (2022-04-15T10:45:26Z) - Deep Reinforcement Learning Guided Graph Neural Networks for Brain
Network Analysis [61.53545734991802]
本稿では,各脳ネットワークに最適なGNNアーキテクチャを探索する新しい脳ネットワーク表現フレームワークBN-GNNを提案する。
提案するBN-GNNは,脳ネットワーク解析タスクにおける従来のGNNの性能を向上させる。
論文 参考訳(メタデータ) (2022-03-18T07:05:27Z) - The Spectral Bias of Polynomial Neural Networks [63.27903166253743]
PNN(Polynomial Neural Network)は、高頻度情報を重要視する画像生成と顔認識に特に有効であることが示されている。
これまでの研究では、ニューラルネットワークが低周波関数に対して$textitspectral bias$を示しており、トレーニング中に低周波成分のより高速な学習をもたらすことが示されている。
このような研究に触発されて、我々はPNNのTangent Kernel(NTK)のスペクトル分析を行う。
我々は、最近提案されたPNNのパラメトリゼーションである$Pi$-Netファミリがスピードアップすることを発見した。
論文 参考訳(メタデータ) (2022-02-27T23:12:43Z) - Quantum-inspired Complex Convolutional Neural Networks [17.65730040410185]
我々は、より豊かな表現能力とより良い非線形性を持つ複素数値重みを利用することにより、量子刺激ニューロンを改善した。
我々は、高次元データを処理できる量子インスパイアされた畳み込みニューラルネットワーク(QICNN)のモデルを描く。
5つのQICNNの分類精度をMNISTとCIFAR-10データセットで検証した。
論文 参考訳(メタデータ) (2021-10-31T03:10:48Z) - Explore the Knowledge contained in Network Weights to Obtain Sparse
Neural Networks [2.649890751459017]
本稿では,ニューラルネットワーク(NN)における疎結合層の自動獲得のための新しい学習手法を提案する。
タスクニューラルネットワーク(TNN)の構造を最適化するためにスイッチングニューラルネットワーク(SNN)を設計する。
論文 参考訳(メタデータ) (2021-03-26T11:29:40Z) - Spiking Neural Networks -- Part I: Detecting Spatial Patterns [38.518936229794214]
Spiking Neural Networks(SNN)は生物学的にインスパイアされた機械学習モデルで、バイナリとスパーススパイキング信号をイベント駆動のオンラインな方法で処理する動的ニューラルモデルに基づいている。
SNNは、学習と推論のためのエネルギー効率の良いコプロセッサとして出現しているニューロモルフィックコンピューティングプラットフォーム上で実装することができる。
論文 参考訳(メタデータ) (2020-10-27T11:37:22Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。