論文の概要: Grokking as an entanglement transition in tensor network machine learning

• arxiv url: http://arxiv.org/abs/2503.10483v1
• Date: Thu, 13 Mar 2025 15:51:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-14 15:52:10.882303
• Title: Grokking as an entanglement transition in tensor network machine learning
• Title（参考訳）: テンソルネットワーク機械学習における絡み合い遷移としてのグロッキング
• Authors: Domenico Pomarico, Alfonso Monaco, Giuseppe Magnifico, Antonio Lacalamita, Ester Pantaleo, Loredana Bellantuono, Sabina Tangaro, Tommaso Maggipinto, Marianna La Rocca, Ernesto Picardi, Nicola Amoroso, Graziano Pesole, Sebastiano Stramaglia, Roberto Bellotti,
• Abstract要約: 我々は、グラッキング現象が、基礎となる量子多体系における絡み合いの動的遷移と関係があることを数値的に証明する。 本研究では,有意義で関連する遺伝子サブコミュニティを識別するためのツールとして,マトリックス製品状態ネットワークにおける量子化と相関関数の測定を利用する。
• 参考スコア（独自算出の注目度）: 0.608657548424657
• License:
• Abstract: Grokking is a intriguing phenomenon in machine learning where a neural network, after many training iterations with negligible improvement in generalization, suddenly achieves high accuracy on unseen data. By working in the quantum-inspired machine learning framework based on tensor networks, we numerically prove that grokking phenomenon can be related to an entanglement dynamical transition in the underlying quantum many-body systems, consisting in a one-dimensional lattice with each site hosting a qubit. Two datasets are considered as use case scenarios, namely fashion MNIST and gene expression communities of hepatocellular carcinoma. In both cases, we train Matrix Product State (MPS) to perform binary classification tasks, and we analyse the learning dynamics. We exploit measurement of qubits magnetization and correlation functions in the MPS network as a tool to identify meaningful and relevant gene subcommunities, verified by means of enrichment procedures.
• Abstract（参考訳）: グロキングは機械学習において興味深い現象であり、ニューラルネットワークは、一般化において無視できない改善を伴う訓練を繰り返した後、突然、目に見えないデータに対して高い精度を達成する。 テンソルネットワークに基づく量子インスパイアされた機械学習フレームワークの開発により、グラッキング現象が量子多体系の絡み合い動的遷移と関係があることを数値的に証明する。 2つのデータセットは、MNISTのファッションと、肝細胞癌の遺伝子発現コミュニティのユースケースとして考慮されている。 いずれの場合も、バイナリ分類タスクを実行するためにMatrix Product State (MPS) を訓練し、学習ダイナミクスを分析します。 我々は,MPSネットワークにおける量子ビットの磁化と相関関数の測定を,エンリッチメント法を用いて検証し,有意義で関連する遺伝子サブコミュニティを同定するツールとして活用する。

関連論文リスト

• Dissipation-driven quantum generative adversarial networks [11.833077116494929]
  本稿では,従来のデータ生成に適した,分散駆動型量子生成逆数ネットワーク(DQGAN)アーキテクチャを提案する。 古典データは、強い調整された散逸過程を通じて入力層の入力量子ビットに符号化される。 出力量子ビットの定常状態の可観測値を測定することにより、生成されたデータと分類結果の両方を抽出する。
  論文  参考訳（メタデータ） (2024-08-28T07:41:58Z)
• A Matrix Product State Model for Simultaneous Classification and Generation [0.8192907805418583]
  量子機械学習(Quantum Machine Learning, QML)は、量子コンピューティングの原理と機械学習の技法を融合させる、急速に拡大する分野である。 本稿では,MPSが分類器と生成器の両方として機能する新しい行列積状態(MPS)モデルを提案する。 我々のコントリビューションは、生成タスクのためのテンソルネットワークメソッドのメカニズムに関する洞察を提供する。
  論文  参考訳（メタデータ） (2024-06-25T10:23:36Z)
• Assessing Neural Network Representations During Training Using Noise-Resilient Diffusion Spectral Entropy [55.014926694758195]
  ニューラルネットワークにおけるエントロピーと相互情報は、学習プロセスに関する豊富な情報を提供する。 データ幾何を利用して基礎となる多様体にアクセスし、これらの情報理論測度を確実に計算する。 本研究は,高次元シミュレーションデータにおける固有次元と関係強度の耐雑音性の測定結果である。
  論文  参考訳（メタデータ） (2023-12-04T01:32:42Z)
• Heterogenous Memory Augmented Neural Networks [84.29338268789684]
  ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。 学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。 In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
  論文  参考訳（メタデータ） (2023-10-17T01:05:28Z)
• Unsupervised Learning of Invariance Transformations [105.54048699217668]
  近似グラフ自己同型を見つけるためのアルゴリズムフレームワークを開発する。 重み付きグラフにおける近似自己同型を見つけるために、このフレームワークをどのように利用できるかについて議論する。
  論文  参考訳（メタデータ） (2023-07-24T17:03:28Z)
• Fluctuation based interpretable analysis scheme for quantum many-body snapshots [0.0]
  物質の微視的理解と分類は、強相関量子物理学の中心にある。 ここでは、混乱学習と相関畳み込みニューラルネットワークを組み合わせることで、完全に解釈可能な位相検出を行う。 我々の研究は、解釈可能な量子画像処理における新しい方向を、長距離の順序に相応しいものに開放する。
  論文  参考訳（メタデータ） (2023-04-12T17:59:59Z)
• A didactic approach to quantum machine learning with a single qubit [68.8204255655161]
  我々は、データ再ロード技術を用いて、単一のキュービットで学習するケースに焦点を当てる。 我々は、Qiskit量子コンピューティングSDKを用いて、おもちゃと現実世界のデータセットに異なる定式化を実装した。
  論文  参考訳（メタデータ） (2022-11-23T18:25:32Z)
• Deep learning of spatial densities in inhomogeneous correlated quantum systems [0.0]
  ランダムポテンシャルに基づいてトレーニングされた畳み込みニューラルネットワークを用いて,密度の予測が可能であることを示す。 我々は,不均一な状況下での干渉と相互作用の相互作用と相転移を伴うモデルの挙動をうまく扱えることを示す。
  論文  参考訳（メタデータ） (2022-11-16T17:10:07Z)
• Decomposing neural networks as mappings of correlation functions [57.52754806616669]
  本研究では,ディープフィードフォワードネットワークによって実装された確率分布のマッピングについて検討する。 ニューラルネットワークで使用できる異なる情報表現と同様に、データに不可欠な統計を識別する。
  論文  参考訳（メタデータ） (2022-02-10T09:30:31Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• Quantum-inspired event reconstruction with Tensor Networks: Matrix Product States [0.0]
  ニューラルネットワークは量子力学の概念を機械学習技術に結びつけるのに理想的な手段であることを示す。 エンタングルメントのエントロピーは,ネットワークの学習内容の解釈に有効であることを示す。
  論文  参考訳（メタデータ） (2021-06-15T18:00:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。