論文の概要: Toward Scalable and Valid Conditional Independence Testing with Spectral Representations
- arxiv url: http://arxiv.org/abs/2512.19510v1
- Date: Mon, 22 Dec 2025 16:05:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-23 18:54:32.820038
- Title: Toward Scalable and Valid Conditional Independence Testing with Spectral Representations
- Title(参考訳): スペクトル表現を用いた拡張性と有効条件独立テストに向けて
- Authors: Alek Frohlich, Vladimir Kostic, Karim Lounici, Daniel Perazzo, Massimiliano Pontil,
- Abstract要約: 条件独立(CI)は多くの設定で追加の仮定なしでテストできない。
本稿では,部分共分散演算子の特異値分解から導出される表現を学習するために,実用的な2レベルコントラストアルゴリズムを提案する。
予備的な実験は、このアプローチがスケーラブルなCIテストへの実践的で統計的に根拠のあるパスを提供することを示唆している。
- 参考スコア(独自算出の注目度): 25.258360465513338
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conditional independence (CI) is central to causal inference, feature selection, and graphical modeling, yet it is untestable in many settings without additional assumptions. Existing CI tests often rely on restrictive structural conditions, limiting their validity on real-world data. Kernel methods using the partial covariance operator offer a more principled approach but suffer from limited adaptivity, slow convergence, and poor scalability. In this work, we explore whether representation learning can help address these limitations. Specifically, we focus on representations derived from the singular value decomposition of the partial covariance operator and use them to construct a simple test statistic, reminiscent of the Hilbert-Schmidt Independence Criterion (HSIC). We also introduce a practical bi-level contrastive algorithm to learn these representations. Our theory links representation learning error to test performance and establishes asymptotic validity and power guarantees. Preliminary experiments suggest that this approach offers a practical and statistically grounded path toward scalable CI testing, bridging kernel-based theory with modern representation learning.
- Abstract(参考訳): 条件独立(CI)は因果推論、特徴選択、グラフィカルモデリングの中心であるが、追加の仮定なしで多くの環境では証明できない。
既存のCIテストは、しばしば制限的な構造条件に依存し、実世界のデータに対する妥当性を制限する。
部分共分散演算子を用いたカーネル法はより原理的なアプローチを提供するが、適応性に制限があり、収束が遅く、スケーラビリティが低い。
本研究では,表現学習がこれらの制約に対処できるかどうかを考察する。
具体的には,部分共分散作用素の特異値分解から導かれる表現に着目し,Hilbert-Schmidt Independence Criterion (HSIC) を思わせる単純なテスト統計値を構築する。
また、これらの表現を学習するための実用的な2レベルコントラストアルゴリズムも導入する。
本理論は,表現学習誤差とテスト性能を関連付け,漸近的妥当性とパワー保証を確立する。
予備的な実験は、このアプローチがスケーラブルなCIテストへの実践的で統計的に基礎的なパスを提供し、現代の表現学習でカーネルベースの理論をブリッジしていることを示唆している。
関連論文リスト
- On the Limits of Test-Time Compute: Sequential Reward Filtering for Better Inference [71.09125259964684]
テスト時計算(TTC)は、大規模言語モデル(LLM)の拡張のパラダイムとして、ますます顕著になっている。
本稿では,高次世代のみを文脈に選択的に組み込む単純な手順である報酬フィルタシーケンシャル推論について検討する。
理論的には、報酬フィルタによる逐次推論は標準TTCパラダイムよりも厳密な保証が得られることを示す。
論文 参考訳(メタデータ) (2025-12-04T08:21:33Z) - Theoretical Bounds for Stable In-Context Learning [0.0]
In-context Learning (ICL) は柔軟性があるが、その信頼性は迅速な長さに敏感である。
本稿では、最小数の実証とICL安定性を結びつける非漸近的下界を確立する。
本稿では,1ショットキャリブレーションを施した2段階観測可能推定器を提案する。
論文 参考訳(メタデータ) (2025-09-25T02:25:05Z) - A Sample Efficient Conditional Independence Test in the Presence of Discretization [54.047334792855345]
離散化されたデータに直接条件付き独立テスト(CI)は、誤った結論につながる可能性がある。
最近の進歩は、観測データをバイナライズすることで、潜伏変数間の適切なCI関係を推測することを目指している。
そこで本研究では,バイナライゼーションプロセスに依存しないサンプル効率のCIテストを提案する。
論文 参考訳(メタデータ) (2025-06-10T12:41:26Z) - Kernel conditional tests from learning-theoretic bounds [16.813275168865953]
本研究では,条件付き確率分布の仮説テストのためのフレームワークを提案する。
次に、条件分布の関数の統計的テストを構築する。
本研究は,機能検査の総合的基盤を構築した。
論文 参考訳(メタデータ) (2025-06-04T12:53:13Z) - Model-free Methods for Event History Analysis and Efficient Adjustment (PhD Thesis) [55.2480439325792]
この論文は、モデルフリーの観点から統一された統計学への独立した貢献のシリーズである。
第1章では、機械学習から予測技術を活用する柔軟なメソッドを定式化するために、モデルフリーの視点をどのように利用できるか、詳しく説明している。
第2章では、あるプロセスの進化が他のプロセスに直接影響されるかどうかを記述した地域独立の概念を研究している。
論文 参考訳(メタデータ) (2025-02-11T19:24:09Z) - Towards Practical Control of Singular Values of Convolutional Layers [65.25070864775793]
畳み込みニューラルネットワーク(CNN)の訓練は容易であるが、一般化誤差や対向ロバスト性といった基本的な特性は制御が難しい。
最近の研究では、畳み込み層の特異値がそのような解像特性に顕著に影響を及ぼすことが示された。
我々は,レイヤ表現力の著しく低下を犠牲にして,先行技術の制約を緩和するための原則的アプローチを提供する。
論文 参考訳(メタデータ) (2022-11-24T19:09:44Z) - On Medians of (Randomized) Pairwise Means [8.497456090408084]
Lugosi & Mendelsonで最近導入されたトーナメント手順は、機械学習における経験的リスク最小化の原則に代わる魅力的な代替手段を提供する。
本稿では,このアプローチを拡張して,他の学習問題に対処する。
論文 参考訳(メタデータ) (2022-11-01T17:18:15Z) - MaxMatch: Semi-Supervised Learning with Worst-Case Consistency [149.03760479533855]
半教師付き学習(SSL)のための最悪ケース整合正則化手法を提案する。
本稿では,ラベル付きトレーニングデータとラベル付きトレーニングデータとを別々に比較した経験的損失項からなるSSLの一般化について述べる。
この境界によって動機づけられたSSLの目的は、元のラベルのないサンプルと、その複数の拡張版との最大の矛盾を最小限に抑えるものである。
論文 参考訳(メタデータ) (2022-09-26T12:04:49Z) - Recursive Causal Structure Learning in the Presence of Latent Variables
and Selection Bias [27.06618125828978]
本稿では,潜伏変数と選択バイアスの存在下での観測データからシステムの因果MAGを学習する問題を考察する。
本稿では,音と完全性を備えた計算効率のよい制約ベースの新しい手法を提案する。
提案手法と人工と実世界の両方の構造に関する技術の現状を比較した実験結果を提供する。
論文 参考訳(メタデータ) (2021-10-22T19:49:59Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-22T21:12:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。