論文の概要: Stochastic Separability of Embedding Manifolds
- arxiv url: http://arxiv.org/abs/2608.22874v1
- Date: Mon, 24 Aug 2026 07:01:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.917157
- Title: Stochastic Separability of Embedding Manifolds
- Title(参考訳): 埋め込み多様体の確率分離性
- Abstract要約: 神経生物学的研究と表現学習は、高次元の神経空間において同じカテゴリに属する物体の表現が低次元の物体多様体特性を示すことを観察している。
本稿では2つの異なる対象カテゴリを埋め込むための新しい分離可能性定理を提案する。
- 参考スコア(独自算出の注目度): 9.556338743643886
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neurobiological studies and representation learning have observed that representations of objects belonging to the same category in high-dimensional neural spaces exhibit low-dimensional object manifold characteristics, and different object manifolds are linearly separable in these neural spaces. However, these experimentally observed phenomena lack rigorous theoretical validation to date. This paper proposes a new stochastic separability theorem for embedding manifolds of two different object categories. First, we establish a projection measure concentration theorem for embedding manifolds under general conditions. We develop a new two-layer measure concentration analysis technique, which unifies two estimation bounds via the law of total expectation to derive measure concentration inequalities. Based on the measure concentration theorem, we further prove a stochastic separability theorem for embedding manifolds of two different object categories. If two datasets have distinct means and bounded total variances, their samples become linearly separable with high probability, provided that the projection direction satisfies a non-singularity condition. The main contributions of this paper are twofold: 1. We prove the projection concentration properties of embedding manifolds in high-dimensional spaces by using two-lawyer tail-bound inequalities. 2. We identify a non-singularity condition for the stochastic separability between embedding manifolds, and rigorously prove the stochastic projection separability theorem. The theorem not only uncovers geometric and statistical properties of the object embedding manifolds, but also provides a novel mechanism for representation learning in deep networks.
- Abstract(参考訳): 神経生物学的研究と表現学習により、高次元のニューラル空間における同じカテゴリに属する物体の表現は低次元のオブジェクト多様体特性を示し、これらのニューラル空間において異なるオブジェクト多様体は線形に分離可能であることが観察された。
しかし、これらの実験的に観察された現象は、現在までの厳密な理論的検証を欠いている。
本稿では、2つの異なる対象圏の多様体を埋め込むための新しい確率的分離性定理を提案する。
まず、一般条件下での埋め込み多様体に対する射影測度集中定理を確立する。
本研究では, 測定値の不等式を導出するために, 総予想法則を用いて2つの推定境界を統一する新しい2層測定濃度解析手法を開発した。
測度集中定理に基づいて、2つの異なる対象圏の多様体を埋め込む確率的分離性定理をさらに証明する。
2つのデータセットが異なる手段と有界な全分散を持つ場合、射影方向が非特異性条件を満たすことを条件として、それらのサンプルは高い確率で線形に分離可能である。
本論文の主な貢献は次の2つである: 1. 高次元空間における埋め込み多様体の射影濃度特性を2つのラウンヤテール-バウンド不等式を用いて証明する。
2) 埋め込み多様体間の確率的分離性に対する非特異性条件を特定し, 確率的射影分離性定理を厳密に証明する。
この定理は、対象埋め込み多様体の幾何学的および統計的性質を明らかにするだけでなく、ディープネットワークにおける表現学習のための新しいメカニズムも提供する。
関連論文リスト
- A Theory of Speciation in Generative Diffusion Models on Compact Riemannian Manifolds [0.05729426778193397]
生成拡散モデルの種分化は、発声中の異なる安定な枝の出現を示す。
我々は、通常対称ピッチフォーク分岐による偏差を識別する既存の理論記述を超越する。
ニューラルネットワークに基づくチャートに基づく本質的なスコア学習スキームは、プロトタイパーの理論的に予測された遷移と対比する。
論文 参考訳(メタデータ) (2026-08-24T20:03:31Z) - Intrinsic Riemannian Cross-covariance for Manifold-valued Random Objects [6.722667861696959]
本稿では,多様体値のランダムオブジェクトに対する固有リーマン交叉共分散を提案する。
提案手法は, 共分散と相関を, 局所的変動を平行輸送により共通接空間に伝達することによって定義する。
提案された共分散は、ユークリッド対の望ましい性質を継承し、その挙動を特徴づける。
論文 参考訳(メタデータ) (2026-06-08T22:05:16Z) - Kernel Embeddings and the Separation of Measure Phenomenon [0.0]
カーネルの共分散埋め込みは、異なる確率分布を情報論的に完全に分離することにつながることを証明している。
この現象は、埋め込みによって無限次元の祝福であり、効率的な推論ツールの設計を知らせる可能性がある。
論文 参考訳(メタデータ) (2025-05-07T17:56:19Z) - Learning over von Mises-Fisher Distributions via a Wasserstein-like Geometry [0.0]
我々は、フォン・ミセス・フィッシャー(vMF)分布の族に対する幾何対応距離計量を導入する。
最適輸送の理論により、2つの vMF 分布間の相違を2つの解釈可能な成分に分解するワッサーシュタインのような距離を提案する。
論文 参考訳(メタデータ) (2025-04-19T03:38:15Z) - Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian
Mixture Models [59.331993845831946]
拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。
本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
論文 参考訳(メタデータ) (2024-03-03T23:15:48Z) - Seeing Unseen: Discover Novel Biomedical Concepts via
Geometry-Constrained Probabilistic Modeling [53.7117640028211]
同定された問題を解決するために,幾何制約付き確率的モデリング処理を提案する。
構成された埋め込み空間のレイアウトに適切な制約を課すために、重要な幾何学的性質のスイートを組み込む。
スペクトルグラフ理論法は、潜在的な新規クラスの数を推定するために考案された。
論文 参考訳(メタデータ) (2024-03-02T00:56:05Z) - Synergistic eigenanalysis of covariance and Hessian matrices for enhanced binary classification [72.77513633290056]
本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。
本手法は複雑なパターンと関係を抽出し,分類性能を向上する。
論文 参考訳(メタデータ) (2024-02-14T16:10:42Z) - Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - Enriching Disentanglement: From Logical Definitions to Quantitative Metrics [59.12308034729482]
複雑なデータにおける説明的要素を遠ざけることは、データ効率の表現学習にとって有望なアプローチである。
論理的定義と量的指標の関連性を確立し, 理論的に根ざした絡み合いの指標を導出する。
本研究では,非交叉表現の異なる側面を分離することにより,提案手法の有効性を実証的に実証する。
論文 参考訳(メタデータ) (2023-05-19T08:22:23Z) - Measuring dissimilarity with diffeomorphism invariance [94.02751799024684]
DID(DID)は、幅広いデータ空間に適用可能なペアワイズな相似性尺度である。
我々は、DIDが理論的研究と実用に関係のある特性を享受していることを証明する。
論文 参考訳(メタデータ) (2022-02-11T13:51:30Z) - A Unifying and Canonical Description of Measure-Preserving Diffusions [60.59592461429012]
ユークリッド空間における測度保存拡散の完全なレシピは、最近、いくつかのMCMCアルゴリズムを単一のフレームワークに統合した。
我々は、この構成を任意の多様体に改善し一般化する幾何学理論を開発する。
論文 参考訳(メタデータ) (2021-05-06T17:36:55Z) - Statistical and Topological Properties of Sliced Probability Divergences [30.258116496304662]
我々はスライスされた確率分岐の様々な理論的性質を導出する。
我々はスライシングが計量公理と発散の弱連続性を保っていることを示す。
次に,基本偏差が積分確率測定値のクラスに属する場合の精度を検証した。
論文 参考訳(メタデータ) (2020-03-12T13:15:17Z) - Semiparametric Nonlinear Bipartite Graph Representation Learning with
Provable Guarantees [106.91654068632882]
半パラメトリック指数族分布におけるパラメータの統計的推定問題として、両部グラフを考察し、その表現学習問題を定式化する。
提案手法は, 地中真理付近で強い凸性を示すため, 勾配降下法が線形収束率を達成できることを示す。
我々の推定器は指数族内の任意のモデル誤特定に対して頑健であり、広範な実験で検証されている。
論文 参考訳(メタデータ) (2020-03-02T16:40:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。