論文の概要: Test-time Collective Prediction

• arxiv url: http://arxiv.org/abs/2106.12012v1
• Date: Tue, 22 Jun 2021 18:29:58 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-25 02:31:07.789185
• Title: Test-time Collective Prediction
• Title（参考訳）: テスト時間集合予測
• Authors: Celestine Mendler-D\"unner, Wenshuo Guo, Stephen Bates, Michael I. Jordan
• Abstract要約: マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。 エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。 我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
• 参考スコア（独自算出の注目度）: 73.74982509510961
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: An increasingly common setting in machine learning involves multiple parties, each with their own data, who want to jointly make predictions on future test points. Agents wish to benefit from the collective expertise of the full set of agents to make better predictions than they would individually, but may not be willing to release their data or model parameters. In this work, we explore a decentralized mechanism to make collective predictions at test time, leveraging each agent's pre-trained model without relying on external validation, model retraining, or data pooling. Our approach takes inspiration from the literature in social science on human consensus-making. We analyze our mechanism theoretically, showing that it converges to inverse meansquared-error (MSE) weighting in the large-sample limit. To compute error bars on the collective predictions we propose a decentralized Jackknife procedure that evaluates the sensitivity of our mechanism to a single agent's prediction. Empirically, we demonstrate that our scheme effectively combines models with differing quality across the input space. The proposed consensus prediction achieves significant gains over classical model averaging, and even outperforms weighted averaging schemes that have access to additional validation data.
• Abstract（参考訳）: マシンラーニングでは、それぞれが独自のデータを持つ複数のパーティが、将来のテストポイントに関する予測を共同で行なおうとしている。 エージェントは、個々のエージェントよりも優れた予測を行うために、エージェントの完全な集合的な専門知識から恩恵を受けたいと考えているが、データやモデルパラメータをリリースする意思はないかもしれない。 本研究では,外部検証やモデル再トレーニング,データプーリングに頼らずに,各エージェントの事前学習モデルを活用することにより,テスト時に集合的な予測を行う分散機構を検討する。 我々のアプローチは、人間のコンセンサス形成に関する社会科学の文献からインスピレーションを得ている。 この機構を理論的に解析し,大標本極限における逆平均二乗誤差(mse)重み付けに収束することを示した。 集団予測におけるエラーバーを計算するために,単一エージェントの予測に対するメカニズムの感度を評価する分散化Jackknife手法を提案する。 実験により,本手法は入力空間全体で異なる品質のモデルと効果的に結合することを示す。 提案したコンセンサス予測は,従来のモデル平均よりも大幅に向上し,付加的な検証データにアクセス可能な重み付き平均化スキームよりも優れる。

関連論文リスト

• Improving Adaptive Conformal Prediction Using Self-Supervised Learning [72.2614468437919]
  我々は、既存の予測モデルの上に自己教師付きプレテキストタスクを持つ補助モデルを訓練し、自己教師付きエラーを付加的な特徴として用いて、非整合性スコアを推定する。 合成データと実データの両方を用いて、効率(幅)、欠陥、共形予測間隔の超過といった付加情報の利点を実証的に実証する。
  論文  参考訳（メタデータ） (2023-02-23T18:57:14Z)
• Mechanisms that Incentivize Data Sharing in Federated Learning [90.74337749137432]
  我々は、データ共有の利点が完全に損なわれているような、ナイーブなスキームが破滅的なフリーライディングのレベルにどのように結びつくかを示す。 次に,各エージェントが生成するデータ量を最大化する精度形成機構を導入する。
  論文  参考訳（メタデータ） (2022-07-10T22:36:52Z)
• Computing the ensemble spread from deterministic weather predictions using conditional generative adversarial networks [0.0]
  本稿では,深層学習アルゴリズムを用いて,アンサンブル予測システムの統計的特性を学習することを提案する。 訓練が終わると、将来のアンサンブル予測を得るためには、コストのかかるアンサンブル予測システムがもはや不要になる。
  論文  参考訳（メタデータ） (2022-05-18T19:10:38Z)
• Conformal prediction for the design problem [72.14982816083297]
  機械学習の現実的な展開では、次にテストすべきデータを選択するために予測アルゴリズムを使用します。 このような設定では、トレーニングデータとテストデータの間には、異なるタイプの分散シフトがある。 このような環境で予測の不確実性を定量化する手法を提案する。
  論文  参考訳（メタデータ） (2022-02-08T02:59:12Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• A Clustering-aided Ensemble Method for Predicting Ridesourcing Demand in Chicago [0.0]
  本研究では,配車サービスにおけるゾーン間移動需要を予測するためのクラスタリング支援型アンサンブル手法(CEM)を提案する。 シカゴのライドソーシングトリップデータを用いて提案手法の実装と試験を行った。
  論文  参考訳（メタデータ） (2021-09-08T04:58:29Z)
• Independent Asymmetric Embedding Model for Cascade Prediction on Social Network [0.49269463638915806]
  Cascade予測は、メッセージをソーシャルネットワークに再投稿する可能性のある個人を予測することを目的としています。 カスケード予測のための社会的埋め込み学習のための独立な非対称埋め込み法を提案する。
  論文  参考訳（メタデータ） (2021-05-18T05:40:38Z)
• Double Robust Representation Learning for Counterfactual Prediction [68.78210173955001]
  そこで本稿では, 対実予測のための2次ロバスト表現を学習するための, スケーラブルな新しい手法を提案する。 我々は、個々の治療効果と平均的な治療効果の両方に対して、堅牢で効率的な対実的予測を行う。 このアルゴリズムは,実世界の最先端技術と合成データとの競合性能を示す。
  論文  参考訳（メタデータ） (2020-10-15T16:39:26Z)
• Robust Validation: Confident Predictions Even When Distributions Shift [24.211408049646153]
  本稿では,モデルが点予測ではなく,その予測に対して不確実な推定を行うような,頑健な予測推論の手順について述べる。 本稿では, トレーニング集団の周囲に$f$-divergence のボールを用いて, 任意のテスト分布に対して適切なカバレッジレベルを与える予測セットを生成する手法を提案する。 私たちの方法論の重要な構成要素は、将来のデータシフトの量を見積り、それに対する堅牢性を構築することです。
  論文  参考訳（メタデータ） (2020-08-10T17:09:16Z)
• Supervised learning from noisy observations: Combining machine-learning techniques with data assimilation [0.6091702876917281]
  本稿では,予測モデルと固有不確かさを,入射雑音観測と最適に組み合わせる方法について述べる。 得られた予測モデルは、訓練後、計算的に安価であると同時に、極めて優れた予測能力を有することを示す。 本手法は,予測タスクを超えて,確率的予測のための信頼性の高いアンサンブルを生成するとともに,マルチスケールシステムにおける効果的なモデルクロージャを学習するためにも有効であることを示す。
  論文  参考訳（メタデータ） (2020-07-14T22:29:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。