論文の概要: Conformal online model aggregation
- arxiv url: http://arxiv.org/abs/2403.15527v3
- Date: Mon, 20 Oct 2025 09:47:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 00:56:38.028472
- Title: Conformal online model aggregation
- Title(参考訳): コンフォーマルオンラインモデルアグリゲーション
- Authors: Matteo Gasparin, Aaditya Ramdas,
- Abstract要約: コンフォーマル予測は、強い分布仮定を行うことなく、不確実性定量化の合理的な概念を機械学習モデルに装備する。
本稿では,複数の共形予測セットを取り込み,適応的に組み合わされた1つの予測セットを出力するラッパーを提案する。
共形オンラインモデルアグリゲーション (COMA) と呼ばれる本手法は, 重み付け投票による複数のアルゴリズムからの予測セットの組み合わせに基づいている。
- 参考スコア(独自算出の注目度): 36.191356601153146
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Conformal prediction equips machine learning models with a reasonable notion of uncertainty quantification without making strong distributional assumptions. It wraps around any prediction model and converts point predictions into set predictions with a predefined marginal coverage guarantee. However, conformal prediction only works if we fix the underlying machine learning model in advance. A relatively unaddressed issue in conformal prediction is that of model selection and/or aggregation: given a set of prediction models, which one should we conformalize? This paper suggests that instead of performing model selection, it can be prudent and practical to perform conformal set aggregation in an online, adaptive fashion. We propose a wrapper that takes in several conformal prediction sets (themselves wrapped around black-box prediction models), and outputs a single adaptively-combined prediction set. Our method, called conformal online model aggregation (COMA), is based on combining the prediction sets from several algorithms by weighted voting, and can be thought of as a sort of online stacking of the underlying conformal sets. As long as the input sets have (distribution-free) coverage guarantees, COMA retains coverage guarantees, under a negative correlation assumption between errors and weights. We verify that the assumption holds empirically in all settings considered. COMA is well-suited for decentralized or distributed settings, where different users may have different models, and are only willing to share their prediction sets for a new test point in a black-box fashion. As we demonstrate, it is also well-suited to settings with distribution drift and shift, where model selection can be imprudent.
- Abstract(参考訳): コンフォーマル予測は、強い分布仮定を行うことなく、不確実性定量化の合理的な概念を機械学習モデルに装備する。
任意の予測モデルをラップし、ポイント予測を予め定義された限界カバレッジ保証を備えたセット予測に変換する。
しかし、共形予測は、基礎となる機械学習モデルを事前に修正した場合にのみ有効である。
共形予測における比較的非適応的な問題は、モデルの選択と/または集約である。
本稿では、モデル選択を行う代わりに、オンラインで適応的な方法で共形集合アグリゲーションを実行するのが賢明で実用的であることを示唆する。
そこで我々は,複数の共形予測セット(ブラックボックス予測モデルに包まれているもの)を取り入れ,適応的に組み合わされた1つの予測セットを出力するラッパーを提案する。
共形オンラインモデルアグリゲーション (COMA) と呼ばれる手法は, 重み付け投票による複数のアルゴリズムからの予測セットを組み合わせ, 基礎となる共形集合のオンライン重ね合わせの一種と考えることができる。
入力集合が(分配のない)カバレッジ保証を持つ限り、COMAはエラーと重みの間の負の相関仮定の下でカバレッジ保証を保持する。
仮定が考慮されたすべての設定で経験的に成り立つことを検証する。
COMAは、異なるユーザが異なるモデルを持つ可能性がある分散設定や分散設定に適しており、ブラックボックス方式で新しいテストポイントの予測セットを共有することしかできない。
例に示すように、分布のドリフトとシフトの設定にも適しており、モデル選択が直感的になる可能性がある。
関連論文リスト
- Graph-Structured Feedback Multimodel Ensemble Online Conformal Prediction [14.188004615463742]
本稿では,新しい多モデルオンライン共形予測アルゴリズムを提案する。
バイパーティイトグラフからフィードバックを収集することで、各ステップで有効なモデルのサブセットを特定する。
そして、このサブセットからモデルを選択して予測セットを構築し、計算複雑性を減らし、予測セットを小さくする。
論文 参考訳(メタデータ) (2025-06-26T00:06:11Z) - HopCast: Calibration of Autoregressive Dynamics Models [0.0]
ディープラーニングモデルは、微分方程式を用いてモデル化できる力学系を近似するためにしばしば訓練される。
これらのモデルは、予測モデルが不確実性を定量化できれば、一歩先を予測し、キャリブレーションされた予測を生成するように最適化されている。
この研究は、マルチステップ予測のための深いアンサンブルを用いた校正誤差に基づいて、既存の不確実性伝搬法をベンチマークした最初のものである。
論文 参考訳(メタデータ) (2025-01-27T23:59:23Z) - Multi-model Ensemble Conformal Prediction in Dynamic Environments [14.188004615463742]
本稿では,複数の候補モデルから予測セットを作成するために使用されるモデルを選択する適応型共形予測フレームワークを提案する。
提案アルゴリズムは, 有効なカバレッジを維持しつつ, 全区間にわたる強い適応的後悔を達成できることが証明された。
論文 参考訳(メタデータ) (2024-11-06T05:57:28Z) - Awareness of uncertainty in classification using a multivariate model and multi-views [1.3048920509133808]
提案モデルでは,不確かさ予測を正規化し,予測と不確かさ推定の両方を計算する訓練を行う。
複数ビュー予測と不確かさと信頼度を考慮し、最終的な予測を計算する方法をいくつか提案した。
提案手法はクリーンでノイズの多いラベル付きCIFAR-10データセットを用いて検証した。
論文 参考訳(メタデータ) (2024-04-16T06:40:51Z) - Predictive Churn with the Set of Good Models [64.05949860750235]
近似機械学習モデルの集合に対する競合予測の効果について検討する。
ラーショモン集合内のモデル間の係り受けに関する理論的結果を示す。
当社のアプローチは、コンシューマ向けアプリケーションにおいて、より予測し、削減し、混乱を避けるためにどのように使用できるかを示します。
論文 参考訳(メタデータ) (2024-02-12T16:15:25Z) - Self-Calibrating Conformal Prediction [16.606421967131524]
本稿では,これらの予測に対して有限サンプル妥当性条件付き予測間隔とともに,校正点予測を実現するための自己校正等式予測を提案する。
本手法は,モデルキャリブレーションによりキャリブレーション間隔効率を向上し,特徴条件の妥当性に対して実用的な代替手段を提供する。
論文 参考訳(メタデータ) (2024-02-11T21:12:21Z) - Post-Selection Confidence Bounds for Prediction Performance [2.28438857884398]
機械学習では、潜在的に多くの競合モデルから有望なモデルを選択し、その一般化性能を評価することが重要な課題である。
本稿では,評価セットの予測性能に基づいて選択された複数のモデルに対して,有効な低信頼境界を求めるアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-10-24T13:28:43Z) - Predictive Inference with Feature Conformal Prediction [80.77443423828315]
本稿では,特徴空間への共形予測の範囲を拡大する特徴共形予測を提案する。
理論的観点からは、特徴共形予測は軽度の仮定の下で正則共形予測よりも確実に優れていることを示す。
提案手法は,バニラ共形予測だけでなく,他の適応共形予測手法と組み合わせることができる。
論文 参考訳(メタデータ) (2022-10-01T02:57:37Z) - Selective Prediction via Training Dynamics [31.708701583736644]
本研究では,モデルのトレーニング力学を学習することで,最先端の選択的予測性能が得られることを示す。
特に、トレーニングの後半段階で最終予測と大差ないデータポイントを拒否する。
提案された拒絶機構はドメインに依存しない(すなわち、離散予測と実数値予測の両方に有効)、既存の選択的予測手法と柔軟に組み合わせることができる。
論文 参考訳(メタデータ) (2022-05-26T17:51:29Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳(メタデータ) (2021-10-13T01:23:48Z) - CovarianceNet: Conditional Generative Model for Correct Covariance
Prediction in Human Motion Prediction [71.31516599226606]
本稿では,将来の軌道の予測分布に関連する不確かさを正確に予測する手法を提案する。
我々のアプローチであるCovariaceNetは、ガウス潜在変数を持つ条件付き生成モデルに基づいている。
論文 参考訳(メタデータ) (2021-09-07T09:38:24Z) - Test-time Collective Prediction [73.74982509510961]
マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。
エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。
我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
論文 参考訳(メタデータ) (2021-06-22T18:29:58Z) - Private Prediction Sets [72.75711776601973]
機械学習システムは、個人のプライバシーの確実な定量化と保護を必要とする。
これら2つのデシラタを共同で扱う枠組みを提案する。
本手法を大規模コンピュータビジョンデータセット上で評価する。
論文 参考訳(メタデータ) (2021-02-11T18:59:11Z) - Short-term prediction of Time Series based on bounding techniques [0.0]
本稿では,新しい非パラメトリック手法を用いて時系列フレームワークの予測問題を再考する。
この革新は、予測誤差の上限を得るために、決定論的および決定論的確率的仮定の両方を考慮することである。
提案する予測器が予測スキームにおいて適切な結果を得ることができ、古典的非パラメトリック法に対する興味深い代替手段であることを示すためのベンチマークを含む。
論文 参考訳(メタデータ) (2021-01-26T11:27:36Z) - AutoCP: Automated Pipelines for Accurate Prediction Intervals [84.16181066107984]
本稿では、自動予測のための自動機械学習(Automatic Machine Learning for Conformal Prediction, AutoCP)というAutoMLフレームワークを提案する。
最高の予測モデルを選択しようとする慣れ親しんだAutoMLフレームワークとは異なり、AutoCPは、ユーザが指定したターゲットカバレッジ率を達成する予測間隔を構築する。
さまざまなデータセットでAutoCPをテストしたところ、ベンチマークアルゴリズムを著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2020-06-24T23:13:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。