論文の概要: Conformalization of Sparse Generalized Linear Models

• arxiv url: http://arxiv.org/abs/2307.05109v1
• Date: Tue, 11 Jul 2023 08:36:12 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-12 15:54:35.026491
• Title: Conformalization of Sparse Generalized Linear Models
• Title（参考訳）: スパース一般化線形モデルの等角化
• Authors: Etash Kumar Guha and Eugene Ndiaye and Xiaoming Huo
• Abstract要約: 等角予測法は、任意の有限サンプルサイズに対して有効である$y_n+1$の信頼セットを推定する。 魅力的ではあるが、そのような集合の計算は多くの回帰問題において計算不可能である。 経路追従アルゴリズムが共形予測集合を正確に近似する方法を示す。
• 参考スコア（独自算出の注目度）: 2.1485350418225244
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Given a sequence of observable variables $\{(x_1, y_1), \ldots, (x_n, y_n)\}$, the conformal prediction method estimates a confidence set for $y_{n+1}$ given $x_{n+1}$ that is valid for any finite sample size by merely assuming that the joint distribution of the data is permutation invariant. Although attractive, computing such a set is computationally infeasible in most regression problems. Indeed, in these cases, the unknown variable $y_{n+1}$ can take an infinite number of possible candidate values, and generating conformal sets requires retraining a predictive model for each candidate. In this paper, we focus on a sparse linear model with only a subset of variables for prediction and use numerical continuation techniques to approximate the solution path efficiently. The critical property we exploit is that the set of selected variables is invariant under a small perturbation of the input data. Therefore, it is sufficient to enumerate and refit the model only at the change points of the set of active features and smoothly interpolate the rest of the solution via a Predictor-Corrector mechanism. We show how our path-following algorithm accurately approximates conformal prediction sets and illustrate its performance using synthetic and real data examples.
• Abstract（参考訳）: 観測可能な変数の列$\{(x_1, y_1), \ldots, (x_n, y_n)\}$ が与えられると、共形予測法は、データのジョイント分布が置換不変であると単純に仮定することによって、任意の有限サンプルサイズに対して有効である$y_{n+1}$に対する信頼度を推定する。 魅力的ではあるが、そのような集合の計算は多くの回帰問題において計算不可能である。 実際、これらの場合、未知変数 $y_{n+1}$ は無限個の候補値を取ることができ、共形集合を生成するには各候補に対する予測モデルを再訓練する必要がある。 本稿では,予測のための変数のサブセットのみを持つスパース線形モデルに注目し,解経路を効率的に近似するために数値継続法を用いる。 私たちが活用する重要な特性は、選択された変数の集合が入力データの小さな摂動の下で不変であることです。 したがって、アクティブな特徴の集合の変化点のみモデルを列挙・修正し、予測-補正機構を介して他の解をスムーズに補間するのに十分である。 経路追従アルゴリズムは、コンフォメーション予測セットを正確に近似し、その性能を合成および実データ例を用いて示す。

関連論文リスト

• Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
  凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。 このような問題は医学、物理学、機械学習で発生する。 両種類の雑音下で提案アルゴリズムの収束保証を行う。
  論文  参考訳（メタデータ） (2024-11-21T10:26:17Z)
• Stochastic Optimization Algorithms for Instrumental Variable Regression with Streaming Data [17.657917523817243]
  この問題を条件付き最適化問題とみなして,器用変分回帰のためのアルゴリズムを開発し,解析する。 最小二乗変数回帰の文脈では、我々のアルゴリズムは行列逆転やミニバッチを必要としない。 任意の$iota>0$に対して$mathcalO(log T/T)$と$mathcalO(1/T1-iota)$の順の収束率を導出する。
  論文  参考訳（メタデータ） (2024-05-29T19:21:55Z)
• Sparse Gaussian Graphical Models with Discrete Optimization: Computational and Statistical Perspectives [8.403841349300103]
  本研究では,無向ガウス図形モデルに基づくスパースグラフの学習問題を考察する。 擬似微分関数の $ell_0$-penalized バージョンに基づく新しい推定器 GraphL0BnB を提案する。 実/合成データセットに関する数値実験により,本手法がほぼ最適に,p = 104$の問題を解けることが示唆された。
  論文  参考訳（メタデータ） (2023-07-18T15:49:02Z)
• Multi-block-Single-probe Variance Reduced Estimator for Coupled Compositional Optimization [49.58290066287418]
  構成問題の複雑さを軽減するために,MSVR (Multi-block-probe Variance Reduced) という新しい手法を提案する。 本研究の結果は, 試料の複雑さの順序や強靭性への依存など, 様々な面で先行して改善された。
  論文  参考訳（メタデータ） (2022-07-18T12:03:26Z)
• Stable Conformal Prediction Sets [0.0]
  同型予測は、$y_n+1$$$x_n+1$の信頼セットを推定できる方法論である。 魅力的である一方、そのような集合の計算は一般に不可能であることが判明した。 共形予測手法をアルゴリズム的安定性境界と組み合わせて、単一のモデルに適合する計算可能な予測セットを導出する。
  論文  参考訳（メタデータ） (2021-12-19T18:53:32Z)
• Test Set Sizing Via Random Matrix Theory [91.3755431537592]
  本稿ではランダム行列理論の手法を用いて、単純な線形回帰に対して理想的なトレーニング-テストデータ分割を求める。 それは「理想」を整合性計量を満たすものとして定義し、すなわち経験的モデル誤差は実際の測定ノイズである。 本論文は,任意のモデルのトレーニングとテストサイズを,真に最適な方法で解決した最初の論文である。
  論文  参考訳（メタデータ） (2021-12-11T13:18:33Z)
• Efficient and robust high-dimensional sparse logistic regression via nonlinear primal-dual hybrid gradient algorithms [0.0]
  弾性ネットペナルティによって正規化されるロジスティック回帰問題に対する解を確実に計算する反復アルゴリズムを提案する。 この結果は、一階最適化法に対して$O(min(m2n,mn2)log (1/epsilon))$の既知の複雑性境界を改善する。
  論文  参考訳（メタデータ） (2021-11-30T14:16:48Z)
• Universal and data-adaptive algorithms for model selection in linear contextual bandits [52.47796554359261]
  モデル選択の最も単純な非自明な例を考える: 単純な多重武装バンディット問題と線形文脈バンディット問題とを区別する。 データ適応的な方法で探索する新しいアルゴリズムを導入し、$mathcalO(dalpha T1- alpha)$という形式の保証を提供する。 我々のアプローチは、いくつかの仮定の下で、ネストされた線形文脈包帯のモデル選択に拡張する。
  論文  参考訳（メタデータ） (2021-11-08T18:05:35Z)
• $\Delta$-UQ: Accurate Uncertainty Quantification via Anchor Marginalization [40.581619201120716]
  予測モデルにおけるアンカーの概念を用いた新規で汎用的な不確実性推定器であるDelta$UQを提案する。 この不確実性は、入力データの不適切なサンプリングと固有のノイズと深く結びついているので、あらゆるシステムにおける完全な不確実性を評価することができる。
  論文  参考訳（メタデータ） (2021-10-05T17:44:31Z)
• Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
  多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。 提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
  論文  参考訳（メタデータ） (2021-06-07T17:44:49Z)
• Conditional Uncorrelation and Efficient Non-approximate Subset Selection in Sparse Regression [72.84177488527398]
  相関性の観点からスパース回帰を考察し,条件付き非相関式を提案する。 提案手法により、計算複雑性は、スパース回帰における各候補部分集合に対して$O(frac16k3+mk2+mkd)$から$O(frac16k3+frac12mk2)$に削減される。
  論文  参考訳（メタデータ） (2020-09-08T20:32:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。