論文の概要: Statistically Meaningful Geometry (SMG) Beyond the Euclidean Paradigm, with Application to Generative AI
- arxiv url: http://arxiv.org/abs/2607.03329v1
- Date: Fri, 03 Jul 2026 13:46:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.591503
- Title: Statistically Meaningful Geometry (SMG) Beyond the Euclidean Paradigm, with Application to Generative AI
- Title(参考訳): ユークリッドパラダイムを超えて統計的に意味のある幾何学(SMG)と生成AIへの応用
- Authors: Bing Cheng, Yi-Shuai Niu, Howell Tong, Shing-Tung Yau,
- Abstract要約: 本稿では,パラメトリックモデルから無限次元最小化非漸近統計へ持ち上げる情報幾何学的パラダイムである統計的意味幾何(SMG)フレームワークを紹介する。
接続フィルタによる事前学習の下では、分布外分布予測分散は、同定可能な基底多様体 $mathcalB$ の有限径によって厳密に上界となり、生成幻覚の厳密な幾何学的包含が確立される。
- 参考スコア(独自算出の注目度): 0.7766379063545538
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conventional uniform convergence bounds and empirical risk minimization break down in massive over-parameterized models, such as large language transformers and biological sequence networks. With near-infinite unconstrained internal degrees of freedom, their optimization landscapes develop flat vertical gauge valleys, rendering classical generalization metrics vacuous and inducing severe pathologies, specifically generative hallucination and catastrophic forgetting. We introduce the Statistically Meaningful Geometry (SMG) framework, an information-geometric paradigm lifting deterministic parametric models into infinite-dimensional non-parametric Orlicz statistical manifolds. Modeling the total state space as a differential fiber bundle ($\mathcal{M}, \mathcal{B}, π, \mathcal{V}, \mathcal{H}, ω$), we establish a Two-Fold Inference Paradigm. We formalize an Ehresmann connection 1-form $ω$ as a dynamic geometric filter that strips away vertical gauge noise (Structural Internal Directions, or SID) and isolates learning trajectories along the strictly non-degenerate horizontal distribution (Statistical Variational Directions, or SVD$χ$). We prove that under connection-filtered pre-training, out-of-distribution predictive variance is strictly upper-bounded by the finite diameter of the identifiable quotient base manifold $\mathcal{B}$, establishing a hard geometric containment of generative hallucinations. By projecting downstream updates onto the orthogonal complement of the historical horizontal carriage, we formalize the SMG Sequential Adaptation Flow, proving the total non-asymptotic elimination of catastrophic forgetting. SMG replaces empirical fine-tuning heuristics with coordinate-free topological constraints, bridging advanced differential geometry with structural reliability in AI.
- Abstract(参考訳): 従来の一様収束境界と経験的リスク最小化は、大きな言語変換器や生物学的配列ネットワークなどの大規模過パラメータ化モデルで破られる。
ほぼ無限に制限されていない内的自由度により、最適化された景観は平らな垂直なゲージ谷を発達させ、古典的な一般化のメトリクスを空っぽにし、特に生成幻覚と破滅的な忘れ物を引き起こす。
我々は、決定論的パラメトリックモデルを無限次元の非パラメトリックオルリッツ統計多様体に持ち上げる情報幾何学パラダイムである統計的意味幾何(SMG)フレームワークを導入する。
全状態空間を微分ファイバー束としてモデル化する(\mathcal{M}, \mathcal{B}, π, \mathcal{V}, \mathcal{H}, ω$)。
Ehresmann 接続 1-形式 $ω$ を、垂直ゲージノイズ(構造内部方向、SID)を除去し、厳密な非退化水平分布(統計変分方向、SVD$)に沿って学習軌跡を分離する動的幾何フィルタとして定式化する。
接続フィルタによる事前学習の下では、分布外予測分散は同定可能な商基底多様体 $\mathcal{B}$ の有限径によって厳密に上界化され、生成幻覚の硬い幾何学的包含が確立される。
歴史的水平馬車の直交補体に下流更新を投影することにより,SMGシーケンス適応フローを定式化し,破滅的忘れ込みの非漸近的除去を証明した。
SMGは、経験的な微調整ヒューリスティックを座標自由位相制約に置き換え、AIの構造的信頼性を持つ高度な微分幾何学をブリッジする。
関連論文リスト
- Aligning Network Equivariance with Data Symmetry: A Theoretical Framework and Adaptive Approach for Image Restoration [71.51826063983434]
画像復元は本質的に逆問題である。
非厳密対称性を制約として、復元逆問題を定式化する。
最適復元演算子の等値誤差はデータ対称性誤差と離散化メッシュサイズによって厳密に制限されていることを示す。
論文 参考訳(メタデータ) (2026-05-13T16:22:19Z) - A Mean Curvature Approach to Boundary Detection: Geometric Insights for Unsupervised Learning [52.452902154360565]
本稿では,幾何学的機械学習に基づく新しい幾何学的フレームワークであるMean Curvature Boundary Points (MCBP)を紹介する。
MCBPはデータ多様体の固有曲率を明示的にモデル化し、原理化された多様体のパラメトリゼーションを必要としない点平均曲率を計算する。
合成および実世界のデータセットの実験により、MCBPはクラスタリング性能を一貫して改善することを示した。
論文 参考訳(メタデータ) (2026-05-05T20:19:09Z) - Random Dot Product Graphs as Dynamical Systems: Limitations and Opportunities [0.0]
ランダムドット製品グラフ内の時間ネットワークの進化を規定する微分方程式について検討する。
遅延位置における回転あいまいさからのゲージ自由度、確率行列の多様体構造からの実現可能性制約、スペクトル埋め込みによる軌道回復アーティファクトの3つの基本的な障害を同定する。
対称力学はスキュー対称ゲージ汚染を吸収できないので、力学構造は障害物を解消できる。
論文 参考訳(メタデータ) (2026-03-05T21:56:07Z) - Rethinking Diffusion Models with Symmetries through Canonicalization with Applications to Molecular Graph Generation [56.361076943802594]
CanonFlowは、挑戦的なGEOM-DRUGデータセット上で最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2026-02-16T18:58:55Z) - Latent Object Permanence: Topological Phase Transitions, Free-Energy Principles, and Renormalization Group Flows in Deep Transformer Manifolds [0.5729426778193398]
幾何学的および統計的物理レンズを用いた深部変圧器言語モデルにおける多段階推論の出現について検討する。
我々は、フォワードパスを離散粗粒度写像として形式化し、安定な「概念盆地」の出現と、この再正規化のような力学の固定点を関連付ける。
結果として生じる低エントロピー状態は、スペクトルテール崩壊と、表現空間における過渡的で再利用可能なオブジェクトのような構造の形成によって特徴づけられる。
論文 参考訳(メタデータ) (2026-01-16T23:11:02Z) - SIGMA: Scalable Spectral Insights for LLM Collapse [51.863164847253366]
SIGMA(Spectral Inequalities for Gram Matrix Analysis)は,モデル崩壊のための統一的なフレームワークである。
行列のスペクトル上の決定論的境界を導出するベンチマークを利用することで、SIGMAは表現空間の収縮を追跡するために数学的に基底化された計量を提供する。
我々は、SIGMAが状態への遷移を効果的に捉え、崩壊のメカニズムに関する理論的知見の両方を提供することを示した。
論文 参考訳(メタデータ) (2026-01-06T19:47:11Z) - An approach to Fisher-Rao metric for infinite dimensional non-parametric information geometry [0.6138671548064355]
無限次元であることから、非パラメトリックな情報幾何学は長い間「難易度障壁」に直面してきた。
本稿では,タンジェント空間の直交分解による難易度解決のための新しい枠組みを提案する。
情報キャプチャ比を定義することにより,高次元データの内在次元を推定する厳密な手法を提案する。
論文 参考訳(メタデータ) (2025-12-25T00:18:41Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳(メタデータ) (2023-07-11T16:51:38Z) - High-dimensional limit theorems for SGD: Effective dynamics and critical
scaling [6.950316788263433]
我々は、勾配降下(SGD)の要約統計の軌跡に対する極限定理を証明する。
下記の有効弾道力学が人口減少の勾配流と一致するステップサイズにおける重要なスケーリング体制を示す。
この実効力学の固定点について、対応する拡散極限は極めて複雑であり、さらに退化することもある。
論文 参考訳(メタデータ) (2022-06-08T17:42:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。