論文の概要: Observable Geometry of Singular Statistical Models
- arxiv url: http://arxiv.org/abs/2604.01267v1
- Date: Wed, 01 Apr 2026 15:21:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-03 14:21:09.660436
- Title: Observable Geometry of Singular Statistical Models
- Title(参考訳): 特異な統計モデルの観測可能な幾何学
- Authors: Sean Plummer,
- Abstract要約: 本稿では,確率測度を識別するデータ分布の関数の集合である,観測可能なチャートに基づく不変フレームワークを提案する。
これらのチャートはパラメータ化とは独立に、モデル空間上で局所座標系を直接定義する。
我々の主な結果は、穏やかな規則性条件下では、観測可能な順序は、クルバック・リーブラーの発散が消える速度に低い境界を与えることを証明している。
- 参考スコア(独自算出の注目度): 0.12183405753834557
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Singular statistical models arise whenever different parameter values induce the same distribution, leading to non-identifiability and a breakdown of classical asymptotic theory. While existing approaches analyze these phenomena in parameter space, the resulting descriptions depend heavily on parameterization and obscure the intrinsic statistical structure of the model. In this paper, we introduce an invariant framework based on \emph{observable charts}: collections of functionals of the data distribution that distinguish probability measures. These charts define local coordinate systems directly on the model space, independent of parameterization. We formalize \emph{observable completeness} as the ability of such charts to detect identifiable directions, and introduce \emph{observable order} to quantify higher-order distinguishability along analytic perturbations. Our main result establishes that, under mild regularity conditions, observable order provides a lower bound on the rate at which Kullback-Leibler divergence vanishes along analytic paths. This connects intrinsic geometric structure in model space to statistical distinguishability and recovers classical behavior in regular models while extending naturally to singular settings. We illustrate the framework in reduced-rank regression and Gaussian mixture models, where observable coordinates reveal both identifiable structure and singular degeneracies. These results suggest that observable charts provide a unified and parameterization-invariant language for studying singular models and offer a pathway toward intrinsic formulations of invariants such as learning coefficients.
- Abstract(参考訳): 特異統計モデル(Singular statistics model)は、異なるパラメータ値が同じ分布を誘導するときに起こり、非識別性や古典的漸近理論の崩壊につながる。
既存の手法はパラメータ空間におけるこれらの現象を解析するが、得られた記述はパラメータ化に大きく依存し、モデル固有の統計構造を曖昧にする。
本稿では,確率測度を識別するデータ分布の関数の集合である \emph{observable charts} に基づく不変フレームワークを提案する。
これらのチャートはパラメータ化とは独立に、モデル空間上で局所座標系を直接定義する。
我々は、そのようなチャートが特定可能な方向を検出する能力として \emph{observable completeness を定式化し、解析的摂動に沿った高次微分可能性の定量化に \emph{observable order} を導入する。
我々の主な結果は、穏やかな規則性条件下では、観測可能な順序は、Kulback-Leibler分散が解析経路に沿って消滅する速度に低い境界を与えることを証明している。
これは、モデル空間の内在的な幾何学構造を統計的識別可能性に結び付け、正規モデルにおける古典的な振る舞いを回復し、自然に特異な設定に拡張する。
ここでは、可観測座標が識別可能な構造と特異な退化の両方を明らかにするような、低階回帰モデルとガウス混合モデルについて説明する。
これらの結果は、観測可能なチャートは特異モデルを研究するための統一的でパラメータ化不変言語を提供し、学習係数のような不変量の本質的な定式化への道を提供することを示唆している。
関連論文リスト
- Quotient Geometry, Effective Curvature, and Implicit Bias in Simple Shallow Neural Networks [0.0]
我々は,単純な浅層ネットワークを解析するための微分幾何学的フレームワークを開発した。
まず、正規浅層ネットワークパラメータの対称性と商構造を特徴付ける。
次に,パラメータ移動の水平成分のみが1次予測器の進化に寄与することを示す。
論文 参考訳(メタデータ) (2026-03-23T02:50:30Z) - Thermodynamic Response Functions in Singular Bayesian Models [0.12183405753834557]
非特定方向を商化する可観測代数を定式化し、構造的に意味のある順序パラメータを特異なモデルで構築する。
以上の結果から,熱力学的応答理論は,特異ベイズ学習における複雑性,予測変数,構造的再編成を解釈する自然な枠組みを提供すると考えられる。
論文 参考訳(メタデータ) (2026-03-05T18:50:20Z) - Implicit bias as a Gauge correction: Theory and Inverse Design [2.9379512315137117]
機械学習理論の中心的な問題は、学習力学が学習目標と互換性のある特定のソリューションをどのように選択するかを特徴づけることである。
我々は、暗黙のバイアスの出現に対する学習力学の明示的な修正という観点から、一般的なメカニズムを同定する。
我々は、様々な力学の帰納バイアスを計算し、いくつかのよく知られた結果が単一の統一されたフレームワークにどのように適合するかを示した。
論文 参考訳(メタデータ) (2026-01-10T15:33:09Z) - Topology Identification and Inference over Graphs [61.06365536861156]
グラフ上で進化するプロセスのトポロジの同定と推論は、脳、輸送、金融、電力、および社会的および情報ネットワークを含むタイムリーな応用に現れる。
本章では,多次元データに対するグラフトポロジ同定と統計的推測手法の概要について述べる。
論文 参考訳(メタデータ) (2025-12-11T00:47:09Z) - Efficient Covariance Estimation for Sparsified Functional Data [51.69796254617083]
共分散関数のランダムノット(ランダムノット-空間)とB-スプライン(Bspline-Spatial)推定器は計算的に効率的である。
共分散の漸近的なポイントワイドは、ある規則性条件下でのスパース化された個々の軌跡に対して得られる。
論文 参考訳(メタデータ) (2025-11-23T00:50:33Z) - Induced Covariance for Causal Discovery in Linear Sparse Structures [55.2480439325792]
因果モデルでは、観測データから変数間の因果関係を解き明かそうとしている。
本稿では,変数が線形に疎結合な関係を示す設定のための新しい因果探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-02T04:01:38Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
リッジ回帰に関する最近の結果について統一的な視点を提示する。
我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。
我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳(メタデータ) (2023-07-11T16:51:38Z) - On the Influence of Enforcing Model Identifiability on Learning dynamics
of Gaussian Mixture Models [14.759688428864159]
特異モデルからサブモデルを抽出する手法を提案する。
本手法はトレーニング中のモデルの識別性を強制する。
この手法がディープニューラルネットワークのようなより複雑なモデルにどのように適用できるかを示す。
論文 参考訳(メタデータ) (2022-06-17T07:50:22Z) - Towards Modeling and Resolving Singular Parameter Spaces using
Stratifolds [18.60761407945024]
学習力学において、特異点は学習軌道の引力として作用し、従ってモデルの収束速度に悪影響を及ぼす。
直交多様体を用いて特異点から生じる問題を回避するための一般的な手法を提案する。
経験的に、特異空間の代わりに滑らかな多様体近似に(自然な)勾配勾配を用いることで、魅力の振舞いを回避でき、学習における収束速度を向上できることを示す。
論文 参考訳(メタデータ) (2021-12-07T14:42:45Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。