論文の概要: Compact set-valued deep ensembling in multi-class classification
- arxiv url: http://arxiv.org/abs/2610.05332v1
- Date: Sun, 04 Oct 2026 15:55:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 21:32:29.405732
- Title: Compact set-valued deep ensembling in multi-class classification
- Title(参考訳): 多クラス分類におけるコンパクトな集合値深層アンサンブル
- Abstract要約: 本稿では,深層ニューラルネットワークがアンサンブルメンバーとして機能する深層アンサンブル学習において,目に見える課題に取り組む。
本稿では,いくつかの望ましい特性を満たす集合ユーティリティのファミリーを提案し,その集合値BOPを効率的に見つけることができる。
- 参考スコア(独自算出の注目度): 0.8576354642891824
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper tackles visible challenges in deep ensemble learning, where deep neural networks serve as ensemble members: training and storage burdens, and robustness of cautious (set-valued) predictions targeting multiple utilities, which may involve reward-sensitivity. To mitigate the training and storage burdens, we propose to employ compact ensembles, such as Bayesian Neural Networks and Convolutional Neural Networks with the Monte-Carlo dropout prediction option, to produce probabilistic predictions. For each query instance, these probabilistic predictions are then used to define a representative distribution optimizing some statistical distance. The representative distribution is then employed to define the Bayes-optimal prediction (BOP) of any utility. To address the potential unrobustness of singleton prediction making, we propose a family of set-utilities satisfying some desirable properties and whose set-valued BOPs can be found efficiently. Empirical evidence is then given to illustrate the potential (dis)advantages of the proposed ensemble learning framework.
- Abstract(参考訳): 本稿では、深層ニューラルネットワークがアンサンブルメンバーとして機能する深層アンサンブル学習の課題に取り組み、トレーニングと記憶負荷、複数のユーティリティをターゲットにした慎重(設定された)予測の堅牢性について述べる。
トレーニングと記憶の負担を軽減するため,モンテカルロのドロップアウト予測オプションでベイズニューラルネットワークや畳み込みニューラルネットワークなどのコンパクトアンサンブルを用いて確率予測を行うことを提案する。
各クエリのインスタンスに対して、これらの確率予測は、統計的な距離を最適化する代表分布を定義するために使用される。
代表分布は、任意のユーティリティのベイズ最適予測(BOP)を定義するために使用される。
シングルトン予測の潜在的不正性に対処するために,いくつかの望ましい特性を満たす集合ユーティリティ群を提案し,その集合値BOPを効率的に見つけることができる。
次に、提案されたアンサンブル学習フレームワークの潜在的な(dis)アドバンテージを説明するための実証的証拠が与えられる。
関連論文リスト
- Proper Scoring Rule-based Diffusion for Probabilistic Weather Forecasting [59.015610520217734]
我々は,コンテキストとその劣化バージョンから,同じ将来状態を予測できる補助的条件記述タスクを導入する。
推測時には、予測器は、完全に破損したエンドポイントにおいて、単一の前方通過で各アンサンブル部材を生成することができる。
論文 参考訳(メタデータ) (2026-09-29T22:47:10Z) - Efficient pooling of predictions via kernel embeddings [0.24578723416255752]
確率的予測は、可能な結果の集合上の確率分布である。
それらは典型的には、個々の予測分布を線形にプールすることで結合される。
各予測に割り当てられた重量は、過去の性能に基づいて推定できる。
これは、いくつかのトレーニングデータに対して適切なスコアリングルールを最適化する重みを見つけることで達成できる。
論文 参考訳(メタデータ) (2024-11-25T10:04:37Z) - Variational Bayes Deep Operator Network: A data-driven Bayesian solver
for parametric differential equations [0.0]
演算子学習のための変分ベイズDeepONet(VB-DeepONet)を提案する。
VB-DeepONetは、高次元後部分布を考慮した変分推論を用いる。
論文 参考訳(メタデータ) (2022-06-12T04:20:11Z) - Aggregating distribution forecasts from deep ensembles [0.0]
本稿では,ディープアンサンブルのための一般的な量子集約フレームワークを提案する。
深層アンサンブルからの予測分布を組み合わせることで,予測性能を大幅に向上できることを示す。
論文 参考訳(メタデータ) (2022-04-05T15:42:51Z) - Learning Structured Gaussians to Approximate Deep Ensembles [10.055143995729415]
本稿では,スパース構造多変量ガウシアンを用いて,高密度画像予測タスクのための閉形式近似器を提案する。
正規分布における予測の不確かさと構造的相関を、サンプリング単独で暗黙的にではなく、明示的に捉える。
単分子深度推定におけるアプローチの利点を実証し,本手法の利点が同等の定量的性能で得られることを示す。
論文 参考訳(メタデータ) (2022-03-29T12:34:43Z) - Predicting Deep Neural Network Generalization with Perturbation Response
Curves [58.8755389068888]
トレーニングネットワークの一般化能力を評価するための新しいフレームワークを提案する。
具体的には,一般化ギャップを正確に予測するための2つの新しい尺度を提案する。
PGDL(Predicting Generalization in Deep Learning)のNeurIPS 2020コンペティションにおけるタスクの大部分について、現在の最先端の指標よりも優れた予測スコアを得る。
論文 参考訳(メタデータ) (2021-06-09T01:37:36Z) - Probabilistic electric load forecasting through Bayesian Mixture Density
Networks [70.50488907591463]
確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。
ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。
後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
論文 参考訳(メタデータ) (2020-12-23T16:21:34Z) - Uncertainty Estimation and Sample Selection for Crowd Counting [87.29137075538213]
予測された密度マップに関連する不確実性値とともに,群衆密度マップを予測できる画像に基づく群集カウント手法を提案する。
既存のクラウドカウント手法に比べて,提案手法の重要な利点は,予測の不確かさを定量化できることである。
サンプル選択戦略は、ソースドメイン上でトレーニングされたカウントネットワークをターゲットドメインに適応させるために必要なラベル付きデータの量を劇的に削減することを示す。
論文 参考訳(メタデータ) (2020-09-30T03:40:07Z) - Video Prediction via Example Guidance [156.08546987158616]
ビデオ予測タスクでは、将来のコンテンツとダイナミクスのマルチモーダルな性質を捉えることが大きな課題である。
本研究では,有効な将来状態の予測を効果的に行うための,シンプルで効果的なフレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-03T14:57:24Z) - Bayesian Deep Learning and a Probabilistic Perspective of Generalization [56.69671152009899]
ディープアンサンブルはベイズ辺化を近似する有効なメカニズムであることを示す。
また,アトラクションの流域内での辺縁化により,予測分布をさらに改善する関連手法を提案する。
論文 参考訳(メタデータ) (2020-02-20T15:13:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。