論文の概要: Regression with Multi-Expert Deferral

• arxiv url: http://arxiv.org/abs/2403.19494v1
• Date: Thu, 28 Mar 2024 15:26:38 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-29 15:54:24.417782
• Title: Regression with Multi-Expert Deferral
• Title（参考訳）: Multi-Expert Deferralによる回帰
• Authors: Anqi Mao, Mehryar Mohri, Yutao Zhong,
• Abstract要約: 複数の専門家で予測を遅延させる学習は、学習者が複数の専門家に予測を遅延させることを選択できるフレームワークである。 本稿では、複数の専門家に予測を延期することを含む、遅延を伴う新しい回帰の枠組みを提案する。 両シナリオに新たなサロゲート損失関数を導入し,これらが$H$一貫性境界でサポートされていることを証明した。
• 参考スコア（独自算出の注目度）: 30.389055604165222
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Learning to defer with multiple experts is a framework where the learner can choose to defer the prediction to several experts. While this problem has received significant attention in classification contexts, it presents unique challenges in regression due to the infinite and continuous nature of the label space. In this work, we introduce a novel framework of regression with deferral, which involves deferring the prediction to multiple experts. We present a comprehensive analysis for both the single-stage scenario, where there is simultaneous learning of predictor and deferral functions, and the two-stage scenario, which involves a pre-trained predictor with a learned deferral function. We introduce new surrogate loss functions for both scenarios and prove that they are supported by $H$-consistency bounds. These bounds provide consistency guarantees that are stronger than Bayes consistency, as they are non-asymptotic and hypothesis set-specific. Our framework is versatile, applying to multiple experts, accommodating any bounded regression losses, addressing both instance-dependent and label-dependent costs, and supporting both single-stage and two-stage methods. A by-product is that our single-stage formulation includes the recent regression with abstention framework (Cheng et al., 2023) as a special case, where only a single expert, the squared loss and a label-independent cost are considered. Minimizing our proposed loss functions directly leads to novel algorithms for regression with deferral. We report the results of extensive experiments showing the effectiveness of our proposed algorithms.
• Abstract（参考訳）: 複数の専門家で予測を遅延させる学習は、学習者が複数の専門家に予測を遅延させることを選択できるフレームワークである。 この問題は分類の文脈で顕著な注目を集めているが、ラベル空間の無限で連続的な性質のため、回帰においてユニークな課題が現れる。 本稿では,複数の専門家に予測を延期する,遅延を伴う新たな回帰フレームワークを提案する。 本稿では,予測関数とdeferral関数を同時学習する単一段階シナリオと,学習されたdeferral関数を持つ事前学習された予測関数を含む2段階シナリオの両方を包括的に分析する。 両シナリオに新たなサロゲート損失関数を導入し,これらが$H$一貫性境界でサポートされていることを証明した。 これらの境界はベイズ整合性よりも強い整合性を保証する。 我々のフレームワークは汎用的で、複数の専門家に適用し、境界付き回帰損失を緩和し、インスタンス依存とラベル依存の両方のコストに対処し、シングルステージと2ステージの両方のメソッドをサポートする。 副産物として,近年の退化フレームワークによる回帰(Cheng et al , 2023)を特例として, 単一専門家のみ, 正方形損失, ラベルに依存しないコストが考慮されている。 提案した損失関数の最小化は、deferralによる回帰のための新しいアルゴリズムに直結する。 本稿では,提案アルゴリズムの有効性を示す広範な実験結果について報告する。

関連論文リスト

• Spectral Representation for Causal Estimation with Hidden Confounders [33.148766692274215]
  隠れた共同創設者が存在する場合の因果効果推定の問題に対処する。 本手法では,条件付き期待演算子の特異値分解とサドル点最適化問題を用いる。
  論文  参考訳（メタデータ） (2024-07-15T05:39:56Z)
• Principled Approaches for Learning to Defer with Multiple Experts [30.389055604165222]
  マルチエキスパート設定に特化して,新たなサロゲート損失のファミリーを導入する。 これらのサロゲート損失は、強い$H$一貫性境界の恩恵を受けることを証明している。
  論文  参考訳（メタデータ） (2023-10-23T10:19:09Z)
• Predictor-Rejector Multi-Class Abstention: Theoretical Analysis and Algorithms [30.389055604165222]
  マルチクラス分類設定において,留意を伴う学習の鍵となる枠組みについて検討する。 この設定では、学習者は事前に定義されたコストで予測をしないことを選択できる。 我々は、強い非漸近的および仮説的整合性を保証するために、いくつかの新しい代理損失の族を導入する。
  論文  参考訳（メタデータ） (2023-10-23T10:16:27Z)
• Selective Nonparametric Regression via Testing [54.20569354303575]
  本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。 既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
  論文  参考訳（メタデータ） (2023-09-28T13:04:11Z)
• Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
  ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。 提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。 複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
  論文  参考訳（メタデータ） (2023-06-09T08:30:51Z)
• Learning to Defer to Multiple Experts: Consistent Surrogate Losses, Confidence Calibration, and Conformal Ensembles [0.966840768820136]
  本研究は,L2D(L2D)を複数の専門家に委譲する学習の統計的特性について考察する。 我々は、一貫したサロゲート損失、信頼性校正、および専門家の原則的なアンサンブルを導出するオープンな問題に対処する。
  論文  参考訳（メタデータ） (2022-10-30T21:27:29Z)
• Mitigating multiple descents: A model-agnostic framework for risk monotonization [84.6382406922369]
  クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。 本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
  論文  参考訳（メタデータ） (2022-05-25T17:41:40Z)
• Relative Deviation Margin Bounds [55.22251993239944]
  我々はRademacher複雑性の観点から、分布依存と一般家庭に有効な2種類の学習境界を与える。 有限モーメントの仮定の下で、非有界な損失関数に対する分布依存的一般化境界を導出する。
  論文  参考訳（メタデータ） (2020-06-26T12:37:17Z)
• Ambiguity in Sequential Data: Predicting Uncertain Futures with Recurrent Models [110.82452096672182]
  逐次データによる曖昧な予測を扱うために,Multiple hypothesis Prediction(MHP)モデルの拡張を提案する。 また、不確実性を考慮するのに適した曖昧な問題に対する新しい尺度も導入する。
  論文  参考訳（メタデータ） (2020-03-10T09:15:42Z)
• The Simulator: Understanding Adaptive Sampling in the Moderate-Confidence Regime [52.38455827779212]
  エミュレータと呼ばれる適応サンプリングを解析するための新しい手法を提案する。 適切なログファクタを組み込んだトップk問題の最初のインスタンスベースの下位境界を証明します。 我々の新しい分析は、後者の問題に対するこの種の最初のエミュレータであるベストアームとトップkの識別に、シンプルでほぼ最適であることを示した。
  論文  参考訳（メタデータ） (2017-02-16T23:42:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。