論文の概要: Batched Predictors Generalize within Distribution
- arxiv url: http://arxiv.org/abs/2307.09379v1
- Date: Tue, 18 Jul 2023 16:01:01 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-19 13:56:39.300973
- Title: Batched Predictors Generalize within Distribution
- Title（参考訳）: 分布内を一般化するバッチ予測器
- Authors: Andreas Loukas, Pan Kessel
- Abstract要約: バッチ予測器の一般化特性,すなわち,小集合(またはバッチ)の平均ラベルの予測を行うモデルについて検討する。
ラデマッハ複雑性の適切な一般化を利用することで、バッチ予測器は標準サンプル当たりのアプローチと比較して指数関数的に強い一般化保証を持つことを示した。
- 参考スコア（独自算出の注目度）: 34.07800117728809
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: We study the generalization properties of batched predictors, i.e., models
tasked with predicting the mean label of a small set (or batch) of examples.
The batched prediction paradigm is particularly relevant for models deployed to
determine the quality of a group of compounds in preparation for offline
testing. By utilizing a suitable generalization of the Rademacher complexity,
we prove that batched predictors come with exponentially stronger
generalization guarantees as compared to the standard per-sample approach.
Surprisingly, the proposed bound holds independently of overparametrization.
Our theoretical insights are validated experimentally for various tasks,
architectures, and applications.
- Abstract（参考訳）: バッチ予測器の一般化特性、すなわち、サンプルの小さな集合(あるいはバッチ)の平均ラベルを予測したモデルについて検討する。
バッチ予測パラダイムは、オフラインテストの準備のために化合物群の品質を決定するためにデプロイされたモデルに特に関係します。
ラデマッハ複雑性の適切な一般化を利用することで、バッチ予測器は標準サンプル当たりのアプローチと比較して指数関数的に強い一般化保証を持つことを示した。
驚いたことに、提案された境界はオーバーパラメトリゼーションとは独立に成り立っている。
私たちの理論的洞察は、様々なタスク、アーキテクチャ、アプリケーションに対して実験的に検証されます。
関連論文リスト
- Detecting and Identifying Selection Structure in Sequential Data [53.24493902162797]
我々は,音楽のシーケンスなどの実践的な状況において,潜在目的に基づくデータポイントの選択的包摂が一般的である,と論じる。
選択構造はパラメトリックな仮定や介入実験なしで識別可能であることを示す。
また、他の種類の依存関係と同様に、選択構造を検知し、識別するための証明可能な正当性アルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-06-29T20:56:34Z) - Improving Adaptive Conformal Prediction Using Self-Supervised Learning [72.2614468437919]
我々は、既存の予測モデルの上に自己教師付きプレテキストタスクを持つ補助モデルを訓練し、自己教師付きエラーを付加的な特徴として用いて、非整合性スコアを推定する。
合成データと実データの両方を用いて、効率(幅)、欠陥、共形予測間隔の超過といった付加情報の利点を実証的に実証する。
論文 参考訳（メタデータ） (2023-02-23T18:57:14Z) - In Search of Insights, Not Magic Bullets: Towards Demystification of the
Model Selection Dilemma in Heterogeneous Treatment Effect Estimation [92.51773744318119]
本稿では,異なるモデル選択基準の長所と短所を実験的に検討する。
選択戦略,候補推定器,比較に用いるデータの間には,複雑な相互作用があることを強調した。
論文 参考訳（メタデータ） (2023-02-06T16:55:37Z) - Selection by Prediction with Conformal p-values [7.917044695538599]
本研究では,未観測結果がユーザ指定値を超える候補を選択するためのスクリーニング手順について検討する。
本研究では,任意の予測モデルをラップして候補のサブセットを生成する手法を開発した。
論文 参考訳（メタデータ） (2022-10-04T06:34:49Z) - Low cost prediction of probability distributions of molecular properties
for early virtual screening [0.8702432681310399]
本稿では, 階層的相関再構築手法を適用し, 人口統計, 財務, 天文学的データの解析に応用した。
この手法は、望まれる物理化学的/ADMET特性の可能性が低い化合物の迅速な拒絶を可能にするため、医薬化学者にとって大きな支援となる。
論文 参考訳（メタデータ） (2022-07-21T13:29:26Z) - General Greedy De-bias Learning [163.65789778416172]
本稿では,関数空間における勾配降下のような偏りのあるモデルとベースモデルを優雅に訓練する一般グリーディ・デバイアス学習フレームワーク(GGD)を提案する。
GGDは、事前知識を持つタスク固有バイアスモデルと、事前知識を持たない自己アンサンブルバイアスモデルの両方の設定の下で、より堅牢なベースモデルを学ぶことができる。
論文 参考訳（メタデータ） (2021-12-20T14:47:32Z) - Selective Ensembles for Consistent Predictions [19.154189897847804]
不整合は高い文脈では望ましくない。
この矛盾は、予測を超えて属性を特徴付けていることが示される。
我々は,選択的アンサンブルが低禁制率を維持しつつ,一貫した予測と特徴属性を達成することを証明した。
論文 参考訳（メタデータ） (2021-11-16T05:03:56Z) - Test-time Collective Prediction [73.74982509510961]
マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。
エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。
我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
論文 参考訳（メタデータ） (2021-06-22T18:29:58Z) - Characterizing Fairness Over the Set of Good Models Under Selective
Labels [69.64662540443162]
同様の性能を実現するモデルセットに対して,予測公正性を特徴付けるフレームワークを開発する。
到達可能なグループレベルの予測格差の範囲を計算するためのトラクタブルアルゴリズムを提供します。
選択ラベル付きデータの実証的な課題に対処するために、我々のフレームワークを拡張します。
論文 参考訳（メタデータ） (2021-01-02T02:11:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。