論文の概要: Information-Theoretic Guarantees for Recovering Low-Rank Tensors from Symmetric Rank-One Measurements
- arxiv url: http://arxiv.org/abs/2502.05134v1
- Date: Fri, 07 Feb 2025 18:12:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-10 14:55:34.111145
- Title: Information-Theoretic Guarantees for Recovering Low-Rank Tensors from Symmetric Rank-One Measurements
- Title(参考訳): 対称ランクワン測定から低ランクテンソルを復元するための情報理論的保証
- Authors: Eren C. Kızıldağ,
- Abstract要約: 対称階数1の測定値から低対称階数テンソルを回収する際のサンプル複雑性について検討した。
ファノの不等式に基づくサンプル複雑性を提供し、2層ネットワークにおける結果に対するより広範な影響について論じる。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: In this paper, we investigate the sample complexity of recovering tensors with low symmetric rank from symmetric rank-one measurements. This setting is particularly motivated by the study of higher-order interactions and the analysis of two-layer neural networks with polynomial activations (polynomial networks). Using a covering numbers argument, we analyze the performance of the symmetric rank minimization program and establish near-optimal sample complexity bounds when the underlying distribution is log-concave. Our measurement model involves random symmetric rank-one tensors, which lead to involved probability calculations. To address these challenges, we employ the Carbery-Wright inequality, a powerful tool for studying anti-concentration properties of random polynomials, and leverage orthogonal polynomials. Additionally, we provide a sample complexity lower bound based on Fano's inequality, and discuss broader implications of our results for two-layer polynomial networks.
- Abstract(参考訳): 本稿では,対称階数1の測定値から低対称階数テンソルを復元する際のサンプル複雑性について検討する。
この設定は特に高次相互作用の研究と多項式活性化を伴う2層ニューラルネットワーク(ポリノミカルネットワーク)の解析によって動機づけられる。
被覆数引数を用いて、対称階数最小化プログラムの性能を解析し、基礎となる分布が対数凹である場合に、ほぼ最適サンプル複雑性境界を確立する。
我々の測定モデルはランダム対称ランク1テンソルを伴い、これは確率計算に繋がる。
これらの問題に対処するために、ランダム多項式の反集中性を研究する強力なツールであるカーベリー・ライト不等式を使用し、直交多項式を利用する。
さらに、ファノの不等式に基づいて、サンプルの複雑さを低くし、2層多項式ネットワークに対する結果のより広範な意味について論じる。
関連論文リスト
- Invariant Kernels: Rank Stabilization and Generalization Across Dimensions [7.154556482351604]
対称性がカーネル行列のランクに顕著な影響を与えることを示す。
具体的には、その2つの引数に対して独立に作用する様々な群の下で不変な固定次数の核のランクを計算する。
上記の3つの例を含む具体的状況において、対称性はデータ次元から独立させるランクを劇的に減少させる。
論文 参考訳(メタデータ) (2025-02-03T23:37:43Z) - Predicting symmetries of quantum dynamics with optimal samples [41.42817348756889]
量子力学における対称性の同定は、量子技術に深く影響する重要な課題である。
グループ表現理論とサブグループ仮説テストを組み合わせた統合フレームワークを導入し,これらの対称性を最適効率で予測する。
我々は,並列戦略が適応プロトコルや不定値順序プロトコルと同じ性能を達成することを証明した。
論文 参考訳(メタデータ) (2025-02-03T15:57:50Z) - Scheme to Detect the Strong-to-weak Symmetry Breaking via Randomized Measurements [11.213906010203264]
最近の進歩は、新しい対称性を破るパターンを強調している。
強弱対称性の破れは、典型的にはR'enyi-2相関器のような多重レプリカ相関関数を用いて検出される。
本稿では,ランダム化計測ツールボックスを用いた実験において,強弱対称性の破れを検出するための実用的なプロトコルを提案する。
論文 参考訳(メタデータ) (2024-12-24T12:41:38Z) - Tensor cumulants for statistical inference on invariant distributions [49.80012009682584]
我々は,PCAが信号の大きさの臨界値で計算的に困難になることを示す。
我々は、与えられた次数の不変量に対して明示的でほぼ直交的な基底を与える新しい対象の集合を定義する。
また、異なるアンサンブルを区別する新しい問題も分析できます。
論文 参考訳(メタデータ) (2024-04-29T14:33:24Z) - Mixed Matrix Completion in Complex Survey Sampling under Heterogeneous
Missingness [6.278498348219109]
サブ線形収束を実現する高速でスケーラブルな推定アルゴリズムを提案する。
本手法は,全国保健栄養検査調査データの分析に応用される。
論文 参考訳(メタデータ) (2024-02-06T12:26:58Z) - Symmetry Breaking and Equivariant Neural Networks [17.740760773905986]
我々は「緩和された同注入」という新しい概念を導入する。
我々は、この緩和を同変多層パーセプトロン(E-MLP)に組み込む方法を示す。
対称性の破れの関連性は、様々な応用領域で議論される。
論文 参考訳(メタデータ) (2023-12-14T15:06:48Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - The Interplay Between Implicit Bias and Benign Overfitting in Two-Layer
Linear Networks [51.1848572349154]
ノイズの多いデータに完全に適合するニューラルネットワークモデルは、見当たらないテストデータにうまく一般化できる。
我々は,2層線形ニューラルネットワークを2乗損失の勾配流で補間し,余剰リスクを導出する。
論文 参考訳(メタデータ) (2021-08-25T22:01:01Z) - Stochastic Approximation for Online Tensorial Independent Component
Analysis [98.34292831923335]
独立成分分析(ICA)は統計機械学習や信号処理において一般的な次元削減ツールである。
本稿では,各独立成分を推定する副産物オンライン時系列アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-28T18:52:37Z) - Sampling asymmetric open quantum systems for artificial neural networks [77.34726150561087]
非対称な開系に対する高速収束時間と高いスケーラビリティを実現し,非対称性を考慮したハイブリッドサンプリング戦略を提案する。
我々は、ニューラルネットワークの普遍的適用性を強調し、ニューラルネットワークの普遍的適用性を概説する。
論文 参考訳(メタデータ) (2020-12-20T18:25:29Z) - Semiparametric Nonlinear Bipartite Graph Representation Learning with
Provable Guarantees [106.91654068632882]
半パラメトリック指数族分布におけるパラメータの統計的推定問題として、両部グラフを考察し、その表現学習問題を定式化する。
提案手法は, 地中真理付近で強い凸性を示すため, 勾配降下法が線形収束率を達成できることを示す。
我々の推定器は指数族内の任意のモデル誤特定に対して頑健であり、広範な実験で検証されている。
論文 参考訳(メタデータ) (2020-03-02T16:40:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。