論文の概要: Do Neural Networks Learn Structure-Preserving Maps? A Case Study in Latent-to-Hilbert Embeddings
- arxiv url: http://arxiv.org/abs/2610.05297v1
- Date: Sun, 04 Oct 2026 15:19:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 21:56:15.18232
- Title: Do Neural Networks Learn Structure-Preserving Maps? A Case Study in Latent-to-Hilbert Embeddings
- Title（参考訳）: ニューラルネットワークは構造保存マップを学習するか?
- Abstract要約: ニューラルネットワークが圧縮された潜在空間から表現への構造保存マップを学習できるかどうかを問う。
MNISTの8次元オートエンコーダボトルネックとPCAによる角度符号化による$n-qubitの製品状態目標を用いて,4つの知見を報告する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We ask whether a neural network can learn a structure-preserving map from a compressed latent space to a Hilbert-space representation. Using an 8-dimensional autoencoder bottleneck on MNIST and $n$-qubit product-state targets from PCA-based angle encoding, we report four findings. Although the target angles are generated by a nonlinear sigmoid transformation of the latent projections, the resulting mapping is well approximated by a linear function over the observed latent distribution: linear regression from $z$ to the true target angles achieves $R^{2} = 0.98$, while regression to the MLP's recovered angles achieves $R^{2} = 0.91$. The learned map's primary direction is strongly aligned with the target-induced direction, with cosine similarity $0.989$, while remaining nearly orthogonal to the input's principal direction, with cosine similarity $0.002$. The map is genuinely rank-4: removing any singular direction degrades inner-product preservation by $2.5$--$5.9\times$ despite a singular-value spectrum with two dominant and two small values. The learned subspace does not coincide with the PCA basis used to construct the target, and different random seeds recover the same primary direction but diverge in higher ranks. Finally, kernel ridge regression with an RBF kernel outperforms a tuned MLP (IP error $0.0144$ vs.\ $0.0197$), suggesting that for approximately linear structure-preserving mappings, classical kernel methods may be a simpler and more effective alternative.
- Abstract（参考訳）: ニューラルネットワークが圧縮された潜在空間からヒルベルト空間表現への構造保存マップを学習できるかどうかを問う。
MNISTの8次元オートエンコーダボトルネックとPCAによるアングルエンコーディングによる$n$-qubitの製品状態ターゲットを用いて,4つの知見を報告する。
対象角は、潜在射影の非線形シグモイド変換によって生成されるが、結果として得られる写像は、観測された潜在射影分布上の線型関数によってよく近似される:$z$から真の目標角への線型回帰は$R^{2} = 0.98$、MLPの回復角への回帰は$R^{2} = 0.91$である。
学習された地図の主方向は、目標誘導方向と強く一致し、コサイン類似度は0.989$だが、入力の主方向とほぼ直交し、コサイン類似度は0.002$である。
この写像は真にランク4であり、任意の特異方向を除去すると、2つの支配値と2つの小さな値を持つ特異値スペクトルにもかかわらず、内積保存が2.5$-$5.9\times$に低下する。
学習されたサブスペースは、ターゲットを構成するのに使用されるPCAベースと一致せず、異なるランダムなシードは同じ一次方向を回復するが、より高いランクで分岐する。
最後に、RBFカーネルによるカーネルリッジレグレッションは、チューニングされたMLP(IPエラー$0.0144$ vs。
およそ線形構造保存写像の場合、古典的なカーネルメソッドはよりシンプルで効果的な代替手段である可能性があることを示唆する0.0197$(英語版)。
関連論文リスト
- Root-system structure of sloppiness in passive Gaussian metrology [0.0]
量子フィッシャー行列がランクを失うと、$n$モードの圧縮プローブの受動的変換は局所的に識別不可能になる。
我々は、$mathrmSp(2n,mathbbR)/mathrmU(n)$の$C_n$制限根系が、この厳密性を支配することを示す。
標準ベースで等級が$r_1,ldots,r_n$の場合、根は$r_j$と$r_jpm r_kである。
論文 参考訳（メタデータ） (2026-09-29T02:56:42Z) - Efficient Mean Curvature Computation on High-Dimensional Data Manifolds [52.452902154360565]
高次元データセットの各点における局所的な平均曲率の推定は、機械学習アルゴリズムの重要な要素である。
本稿では,このコストを桁違いに削減する2つの補完的貢献を紹介する。
実世界のデータセットの実験では、オリジナルの実装と比較して50倍から300倍のスピードアップが確認されている。
論文 参考訳（メタデータ） (2026-06-04T16:04:31Z) - Information Routing in Atomistic Foundation Models: How Task Alignment and Equivariance Shape Linear Disentanglement [0.0]
本稿では,合成信号を線形に投影し,リッジプローブへの幾何的情報アクセス量を測定する合成プローブ分解(CPD)について紹介する。
モデルは、合成除去後にアクセス可能な幾何学的情報で6.6倍の差がある。
また, 非線形プローブは, 残留化表現に対して誤った導出結果をもたらし, 純合成対象に対して$R2 = 0.68$--0.95$を回収し, この設定に対して線形プローブを推奨することを示した。
論文 参考訳（メタデータ） (2026-03-03T16:52:06Z) - Sharp Generalization for Nonparametric Regression in Interpolation Space by Over-Parameterized Neural Networks Trained with Preconditioned Gradient Descent and Early Stopping [15.975065054204753]
アルゴリズムによる保証を訓練した過パラメトリック化された2層ニューラルネットワークを用いて,非回帰について検討する。
我々は,早期停止機能を備えた新しいプレコンディショニンググレーディエント・ディフレッシュ(PGD)アルゴリズムを用いてニューラルネットワークをトレーニングすることにより,高い回帰率が得られることを示した。
論文 参考訳（メタデータ） (2024-07-16T03:38:34Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳（メタデータ） (2024-04-29T15:04:07Z) - Improved Algorithm for Adversarial Linear Mixture MDPs with Bandit
Feedback and Unknown Transition [71.33787410075577]
線形関数近似,未知遷移,および逆損失を用いた強化学習について検討した。
我々は高い確率で$widetildeO(dsqrtHS3K + sqrtHSAK)$ regretを実現する新しいアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-03-07T15:03:50Z) - Bounding the Width of Neural Networks via Coupled Initialization -- A
Worst Case Analysis [121.9821494461427]
2層ReLUネットワークに必要なニューロン数を著しく削減する方法を示す。
また、事前の作業を改善するための新しい下位境界を証明し、ある仮定の下では、最善を尽くすことができることを証明します。
論文 参考訳（メタデータ） (2022-06-26T06:51:31Z) - Provably Efficient Reinforcement Learning for Discounted MDPs with
Feature Mapping [99.59319332864129]
本稿では,割引決定(MDP)のための強化学習について検討する。
本稿では,特徴写像を利用した新しいアルゴリズムを提案し,$tilde O(dsqrtT/ (1-gamma)2)$ regretを求める。
以上の結果から,提案した強化学習アルゴリズムは,最大1-γ-0.5$の係数でほぼ最適であることが示唆された。
論文 参考訳（メタデータ） (2020-06-23T17:08:54Z) - Linear Time Sinkhorn Divergences using Positive Features [51.50788603386766]
エントロピー正則化で最適な輸送を解くには、ベクトルに繰り返し適用される$ntimes n$ kernel matrixを計算する必要がある。
代わりに、$c(x,y)=-logdotpvarphi(x)varphi(y)$ ここで$varphi$は、地上空間から正のorthant $RRr_+$への写像であり、$rll n$である。
論文 参考訳（メタデータ） (2020-06-12T10:21:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。