論文の概要: Sharp Reconstruction Bounds for Autoencoders Using the Same Forward Map
- arxiv url: http://arxiv.org/abs/2609.20333v1
- Date: Thu, 17 Sep 2026 13:04:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:54.281219
- Title: Sharp Reconstruction Bounds for Autoencoders Using the Same Forward Map
- Title(参考訳): 同一フォワードマップを用いたオートエンコーダのシャープ再構成境界
- Abstract要約: 観測された座標を0に設定した前後で同じ前方マップを適用したオートエンコーダの再構成について検討した。
最も均一な再構成導出誤差は$max1-M(M-m)/2,0$であり、アフィン写像は所定の深さでこのシャープな境界に達する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study reconstruction in autoencoders that apply the same forward map before and after setting the observed coordinates to zero. For equal odd input and hidden dimensions $d\geq 3$, among orientation-preserving diffeomorphisms whose Jacobian singular values lie in $[m,M]$, we show that the least uniform reconstruction-derivative error is $\max\{1-M(M-m)/2,0\}$, with affine maps attaining this sharp bound at every prescribed depth. A translated radial rotation can nevertheless reconstruct any prescribed ball exactly with singular values arbitrarily close to one, motivating additional conditions for a finite-data bound. We test this prediction on a 798,452-point terrestrial LiDAR forest scan. At input scale $0.05$, the mean theoretical bound is $0.155$, about $84\%$ of the mean normalized training error $0.185$ across four spatial regions, two depths, and three seeds. At this scale, adding one hidden coordinate reduces the mean reconstruction error below $6\times10^{-6}$.
- Abstract(参考訳): 観測された座標を0に設定した前後で同じ前方マップを適用したオートエンコーダの再構成について検討した。
等角入力と隠れ次元の$d\geq 3$に対して、ジャコビアン特異値が$[m,M]$にある向き保存微分同相写像のうち、最小一様再構成導出誤差が$\max\{1-M(M-m)/2,0\}$であることを示し、アフィン写像は所定の深さでこのシャープな境界に達する。
変換されたラジアル回転は、任意の所定の球を任意に1に近い特異値で正確に再構成することができ、有限データ境界に対する追加条件を動機付ける。
我々はこの予測を798,452点のLiDAR森林スキャンで検証した。
入力スケール0.05$では、平均理論境界は0.155$、平均正規化訓練誤差の約8,4\%$は、空間領域4つ、深さ2つ、種子3つで0.185$である。
このスケールで、1つの隠れ座標を加えると、平均再構成誤差が6\times10^{-6}$以下になる。
関連論文リスト
- Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors [51.56484100374058]
自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。
我々は、方向フラグを介して動的システムを前方または後方にステップする単一の条件付き潜在拡散モデルを訓練する。
この双方向性は測定不要なテスト時間誤差信号を提供することを示す。
論文 参考訳(メタデータ) (2026-08-01T13:49:46Z) - Efficient Mean Curvature Computation on High-Dimensional Data Manifolds [52.452902154360565]
高次元データセットの各点における局所的な平均曲率の推定は、機械学習アルゴリズムの重要な要素である。
本稿では,このコストを桁違いに削減する2つの補完的貢献を紹介する。
実世界のデータセットの実験では、オリジナルの実装と比較して50倍から300倍のスピードアップが確認されている。
論文 参考訳(メタデータ) (2026-06-04T16:04:31Z) - Hidden-State Privacy Has an Empty Middle [51.56484100374058]
すべてのフルランクガウス解放を$O(1)$ Fisher utility で表すと、マハラノビス信号が隠れた幅で直線的に成長する方向を認める。
スクラッチからトレーニングされたスプリットメモリトランスフォーマーは、[20, 33]$90MでG_mathrmMahに達し、固定言語損失ペナルティにおいて、30Mから1Bまでの同じ予算のGPTベースラインに対して6ドル~24ドルという優位性を維持する。
論文 参考訳(メタデータ) (2026-05-21T20:12:09Z) - LBI: Parallel Scan Backpropagation via Latent Bounded Interfaces [1.8179911892344436]
本稿では,スキャンベースのバックプロパゲーションをトラクタブルにするアルゴリズム式であるLatent Bounded Interfaces (LBI)を紹介する。
LBIは接尾辞再帰を$r倍r$ヤコビアンに還元し、コンビネーション当たりのコストを$O(d3)$から$O(r3)$に削減する。
47-61Mブロックパラメータにおいて,LBIはモデル品質を4つのアーキテクチャ(Mamba-2,Mamba-3,Transformer,Mamba-Transformerハイブリッド)で維持することを示した。
論文 参考訳(メタデータ) (2026-05-09T22:46:46Z) - Information Routing in Atomistic Foundation Models: How Task Alignment and Equivariance Shape Linear Disentanglement [0.0]
本稿では,合成信号を線形に投影し,リッジプローブへの幾何的情報アクセス量を測定する合成プローブ分解(CPD)について紹介する。
モデルは、合成除去後にアクセス可能な幾何学的情報で6.6倍の差がある。
また, 非線形プローブは, 残留化表現に対して誤った導出結果をもたらし, 純合成対象に対して$R2 = 0.68$--0.95$を回収し, この設定に対して線形プローブを推奨することを示した。
論文 参考訳(メタデータ) (2026-03-03T16:52:06Z) - Implicit Hypersurface Approximation Capacity in Deep ReLU Networks [0.0]
本稿では,ReLUアクティベーションを用いたディープフィードフォワードニューラルネットワークの幾何近似理論を開発する。
幅$d+1$の深い完全連結ReLUネットワークは、そのゼロ輪郭として暗黙的に近似を構成することができることを示す。
論文 参考訳(メタデータ) (2024-07-04T11:34:42Z) - Improved Algorithm for Adversarial Linear Mixture MDPs with Bandit
Feedback and Unknown Transition [71.33787410075577]
線形関数近似,未知遷移,および逆損失を用いた強化学習について検討した。
我々は高い確率で$widetildeO(dsqrtHS3K + sqrtHSAK)$ regretを実現する新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-07T15:03:50Z) - Coherent error threshold for surface codes from Majorana delocalization [0.0]
既存の写像はコヒーレントノイズを前提としており、突発的なゲート回転によるコヒーレント誤差を無視している。
複素結合を持つ2次元(2D)イジングモデルと、さらに2次元マヨラナ散乱ネットワークに、X$-またはZ$-回転(自明なビットまたは位相)と呼ばれるコヒーレントな誤差で曲面コードをマッピングする。
どちらも、2Dネットワークと1Dフェルミオンを$mathbbZ$-自明な2D絶縁体にリンクすることで、エラー補正フェーズマップが明確に示される。
論文 参考訳(メタデータ) (2022-11-01T18:00:01Z) - Deep Learning Meets Projective Clustering [66.726500395069]
NLPネットワークを圧縮するための一般的なアプローチは、埋め込み層を行列 $AinmathbbRntimes d$ としてエンコードすることである。
計算幾何学から遠射的クラスタリングに着想を得て、この部分空間を$k$部分空間の集合で置き換えることを提案する。
論文 参考訳(メタデータ) (2020-10-08T22:47:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。