論文の概要: A Unified Framework for Probability Estimation of Data-Dependent Events

• arxiv url: http://arxiv.org/abs/2610.41244v1
• Date: Fri, 30 Oct 2026 04:37:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.614957
• Title: A Unified Framework for Probability Estimation of Data-Dependent Events
• Title（参考訳）: データ依存イベントの確率推定のための統一フレームワーク
• Abstract要約: 我々は$D(dde(S))$を推定する一般的な問題を研究する。 このフレームワーク内では、推定に対する古典的なアプローチを2つ検討する。
• 参考スコア（独自算出の注目度）: 54.813435580429704
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study the general problem of estimating $D(\dde(S))$, the probability that an unknown distribution $D$ assigns to an event determined by a sample $S$ of $n$ i.i.d.\ draws from $D$ through a known mapping $\dde$. The estimation algorithm knows $\dde$ and $S$ but does not have access to any additional samples from $D$. This formulation captures classical missing mass, the data-dependent targets of adaptive data analysis and post-selection inference, and the test error of a data-trained predictor, whose estimation was recently studied by \new{Gastpar et al.\ (2024a,b)}. Within this framework we examine the two classical approaches to estimation. The error of the empirical plug-in estimator is exactly a generalization gap, so generalization bounds transfer to it directly. The leave-one-out estimator, which recovers the Good--Turing estimator, is accurate for every mapping that is stable under the deletion of one sample point, including new structured examples such as neighborhoods of the sample and pierced sets. The main application of our framework is to error estimation for a predictor that combines a base classifier with memorized exceptions, a structure common in theory and in practice. For it, the test error is exactly the missing mass restricted to the error region of the base classifier, a region selected by the same sample. We formulate the general problem of \emph{adaptive missing mass estimation} to address such dependence and propose a natural hybrid estimator, the Good--Turing estimator restricted to the selected region. We show that the generalization of the base classifier alone does not guarantee the accuracy of this estimator, and derive two bounds on its error: the first one based on the VC dimension of possible error regions and another based on the mutual information of the selected region with the sample.
• Abstract（参考訳）: 我々は、未知分布$D$がサンプル$S$ of $n$ i.i.d.\で決定された事象に割り当てる確率である$D(\dde(S))$を推定する一般的な問題を研究する。 推定アルゴリズムは$\dde$と$S$を知っているが、$D$から追加のサンプルにアクセスすることはできない。 この定式化は、古典的欠落質量、適応データ解析と後選択推論のデータ依存目標、およびデータ学習予測器のテスト誤差を、最近 \new{Gastpar et al \ (2024a,b)} で研究した。 このフレームワーク内では、推定に対する古典的なアプローチを2つ検討する。 経験的プラグイン推定器の誤差はまさに一般化ギャップであり、一般化は直接それへ遷移する。 本フレームワークの主な応用は、ベース分類器と記憶された例外を組み合わせた予測器の誤差推定であり、理論上も実際上も共通な構造である。このテスト誤差は、ベース分類器の誤差領域にのみ制限されている。同じサンプルによって選択された領域である。我々は、そのような依存性に対処し、自然なハイブリッド推定器であるグッド・チューリング推定器を提案する。 基本分類器の一般化だけでは、この推定器の精度が保証されないことを示し、その誤差について、2つの境界を導出する: 1つは、可能なエラー領域のVC次元に基づくもので、もう1つは、選択された領域とサンプルとの相互情報に基づくものである。

関連論文リスト

• How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
  機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。 因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。 本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
  論文  参考訳（メタデータ） (2026-06-10T21:07:49Z)
• Separating Geometry from Probability in the Analysis of Generalization [9.246885575234275]
  機械学習の目標は、まだ見ていないデータの予測エラーを最小限に抑えるモデルを見つけることである。 従来の一般化の分析では、イン・オブ・サンプルのデータとアウト・オブ・サンプルのデータの両方が無限の人口から引き出されると仮定している。 本稿では,最適化問題の解の感度解析のレンズによる一般化の代替的視点を提案する。
  論文  参考訳（メタデータ） (2026-04-21T15:13:28Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Causality Pursuit from Heterogeneous Environments via Neural Adversarial Invariance Learning [12.947265104477237]
  データから因果関係を抽出することは、科学的発見、治療介入、伝達学習における根本的な問題である。 本稿では,複数の環境における回帰モデルにおける非パラメトリック不変性と因果学習に対処するアルゴリズムを提案する。 提案したFocused Adrial Invariant Regularizationフレームワークは、逆検定により回帰モデルを予測不変解へ向ける革新的なミニマックス最適化手法を利用する。
  論文  参考訳（メタデータ） (2024-05-07T23:37:40Z)
• General Gaussian Noise Mechanisms and Their Optimality for Unbiased Mean Estimation [58.03500081540042]
  プライベート平均推定に対する古典的なアプローチは、真の平均を計算し、バイアスのないがおそらく相関のあるガウスノイズを加えることである。 すべての入力データセットに対して、集中的な差分プライバシーを満たす非バイアス平均推定器が、少なくとも多くのエラーをもたらすことを示す。
  論文  参考訳（メタデータ） (2023-01-31T18:47:42Z)
• A Statistical Model for Predicting Generalization in Few-Shot Classification [6.158812834002346]
  一般化誤差を予測するために,特徴分布のガウスモデルを導入する。 提案手法は, 相互検証戦略の離脱など, 代替案よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-12-13T10:21:15Z)
• Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
  補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。 テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。 以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-22T21:12:31Z)
• Error bounds in estimating the out-of-sample prediction error using leave-one-out cross validation in high-dimensions [19.439945058410203]
  高次元状態におけるサンプル外リスク推定の問題について検討する。 広範囲にわたる経験的証拠は、アウト・ワン・アウト・クロス・バリデーションの正確さを裏付ける。 この理論の技術的利点の1つは、拡張可能な近似LOに関する最近の文献から得られたいくつかの結果を明確化し、接続することができることである。
  論文  参考訳（メタデータ） (2020-03-03T20:07:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。