論文の概要: Linear Regression Beyond Covariance: Latent Slope Spectra from Higher-Order Cumulants
- arxiv url: http://arxiv.org/abs/2610.17772v1
- Date: Tue, 13 Oct 2026 05:57:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 17:21:18.08065
- Title: Linear Regression Beyond Covariance: Latent Slope Spectra from Higher-Order Cumulants
- Title(参考訳): 共分散を超えた線形回帰:高次累積からの潜在傾斜スペクトル
- Abstract要約: 高次混合累積物に含まれる付加線形情報について検討する。
我々は正規分離の下で推定とルート$n$推論を開発する。
観察データのみから構造的・因果的解釈の限界を明確にする。
- 参考スコア(独自算出の注目度): 1.7881540974741597
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Least squares summarizes the joint distribution of a response and regressor through second-order information. When an observed regressor is composed of latent components carrying different relationships with the response, this summary can average over distinct linear effects. We study the additional linear information contained in higher-order mixed cumulants and formalize it through the latent slope spectrum. Ordinary least squares is a variance-weighted barycenter of this spectrum, whereas higher-order cumulants can separate its components when the spectrum is sufficiently parsimonious. In the scalar one-confounder model, fourth-order cumulants identify the unordered pair $\{β,β+γ\}$ through a $2\times2$ linear system and a quadratic equation. We develop estimation and root-$n$ inference under regular separation and show that detection and estimation diverge near degeneracy: slope multiplicity remains detectable on an $n^{-1/4}$ local scale even when the individual slopes are not uniformly regularly estimable. In multiple regression, a quadratic tensor recurrence yields a test of one versus multiple effective coefficient vectors that does not require the vectors themselves to be identified; multiplicity can therefore be consistently detectable even when the recurrence operator is noninjective. The same quadratic diagnostic can retain signal in directions where a first-order higher-cumulant restriction cancels exactly. The results distinguish representation, identification, detection, and estimation of latent linear heterogeneity, while making explicit the limits of structural and causal interpretation from observational data alone.
- Abstract(参考訳): 最小二乗法は、2次情報を通して応答と回帰器の結合分布を要約する。
観測された回帰器が応答と異なる関係を持つ潜伏成分で構成されている場合、この要約は異なる線形効果に対して平均となる。
本研究では,高次混合累積物に含まれる線形情報について検討し,潜勾配スペクトルを用いて定式化する。
通常の最小二乗は、このスペクトルの分散重み付きバリー中心であるが、高次累積はスペクトルが十分に同相であるときにその成分を分離することができる。
スカラー・ワン・コンファウンデーション・モデルでは、4階累積は 2 つの線形系と二次方程式を通して、非順序対 $\{β,β+γ\}$ を同定する。
我々は、正規分離の下で推定とルート$n$推論を開発し、検出と推定が縮退に近いことが示し、個別の斜面が一様に正規に推定できない場合でも、局所スケールの$n^{-1/4}$の勾配乗算性は引き続き検出可能であることを示した。
多重回帰では、二次テンソル再帰はベクトル自身を識別する必要のない1対複数の実係数ベクトルのテストをもたらす。
同じ二次診断は、一階の高次の制限が正確にキャンセルされる方向に信号を保持することができる。
その結果、観測データのみから構造的・因果的解釈の限界を明確化しつつ、潜在線形不均一性の表現、識別、検出、推定を区別した。
関連論文リスト
- Two-Sample Testing via Generative Processes [60.42943145582429]
生成輸送は、2つのサンプルが同じ分布から来るかどうかを決定する新しい方法を提供する。
2つのサンプルの間に直接補間体を構築し、対称スケジュールでは、その法則が時間反射の下で不変であることを観察する。
したがって、t と 1-t の辺辺が、Jensen-Shannon の発散を計算することで一致するかどうかをテストする。
論文 参考訳(メタデータ) (2026-10-06T12:48:27Z) - MaDeL: Manifold-Decomposed Feature Losses for Generative Modeling [60.52920286643249]
生成モデルは平均二乗誤差のような等方的目的によってしばしば訓練される。
しかし、低次元多様体の近くに集中したデータに対して、そのような損失は、有効変動を表す多様体に沿った変位と、それから逸脱し、無効なサンプルを生成する。
生成目的は、多様体を明示的に推定することなく、データから直接多様体-直交偏差から多様体-平行変動を区別できるかどうかを問う。
論文 参考訳(メタデータ) (2026-10-03T10:15:49Z) - An exact Jordan signature in cumulative-count first-passage statistics [0.0]
累積数ファーストパス問題では、$N$thカウントの$mathcal T_N$のラプラス変換は1カウントカーネルのパワーによって自然に表現される。
正確な3状態のマルコフ更新例を示す。
論文 参考訳(メタデータ) (2026-09-17T12:39:12Z) - Intrinsic Structure: Spectral Identifiability for Mechanistic Interpretability [51.56484100374058]
機械論的解釈可能性プリミティブに対する最初の識別可能性定理を証明した。
スペクトルは、正当性分解ではなく、記述されたエラーバーを持つ識別可能なモデル固有の指紋である。
論文 参考訳(メタデータ) (2026-08-10T19:42:01Z) - Regularized Variational and Spectral Log-Density-Ratio Estimation in the Gaussian Location Model [0.554780083433538]
ガウス位置モデルにおけるリッジ正規化対数密度比の推定について検討する。
変分推定器は、経験的クルバック・リーブラー(KL)対数正規化フィッティングであり、その非定数係数は2乗 L2-ペナルティである。
論文 参考訳(メタデータ) (2026-07-02T08:46:52Z) - Is Spurious Correlation Removal Always Learnable? [56.28155520961125]
不変学習は、構造が統計的に識別可能であっても失敗することがある。
ブラックボックスサンプリング可能な教師付きスパースリカバリプリミティブの下では、実証可能な多次元環境が存在する。
合成および実際のデータセットは、予測されたギャップと遷移を示し、単純な多様性診断を動機付ける。
論文 参考訳(メタデータ) (2026-06-11T05:49:43Z) - Towards Self-Supervised Covariance Estimation in Deep Heteroscedastic Regression [102.24287051757469]
深部異方性回帰における自己教師付き共分散推定について検討する。
正規分布の間の2-ワッサーシュタイン距離の上界を導出する。
幅広い合成データセットと実データセットに対する実験により、提案された2-ワッサーシュタインと擬似ラベルアノテーションが結合した結果、計算的に安価で正確な深部ヘテロ代用回帰が導かれることが示された。
論文 参考訳(メタデータ) (2025-02-14T22:37:11Z) - Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - Precise Asymptotics for Spectral Methods in Mixed Generalized Linear Models [31.58736590532443]
混合一般化線形モデルにおいて、統計的に独立な2つの信号を推定する問題を考える。
我々の特徴付けは、ランダム行列、自由確率、および近似メッセージパッシングアルゴリズムの理論からのツールの混合を利用する。
論文 参考訳(メタデータ) (2022-11-21T11:35:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。