Fugu-MT 論文翻訳(概要): Improving Deep Ensembles by Estimating Confusion Matrices

論文の概要: Improving Deep Ensembles by Estimating Confusion Matrices

arxiv url: http://arxiv.org/abs/2503.07119v1
Date: Mon, 10 Mar 2025 09:48:52 GMT
ステータス: 翻訳完了
システム内更新日: 2025-03-11 15:52:07.575290
Title: Improving Deep Ensembles by Estimating Confusion Matrices
Title（参考訳）: 融合行列の推定による深層集合の改善
Authors: Danil Kuzin, Olga Isupova, Steven Reece, Brooke D Simmons,
Abstract要約: クラウドソーシングにインスパイアされた私たちは、ディープアンサンブルのためのソフトなダウィドスキーを提案します。軟ダウィドスキーの精度,キャリブレーション,分布検出における優位性を実証的に示す。
参考スコア（独自算出の注目度）: 1.249953711944024
License:
Abstract: Ensembling in deep learning improves accuracy and calibration over single networks. The traditional aggregation approach, ensemble averaging, treats all individual networks equally by averaging their outputs. Inspired by crowdsourcing we propose an aggregation method called soft Dawid Skene for deep ensembles that estimates confusion matrices of ensemble members and weighs them according to their inferred performance. Soft Dawid Skene aggregates soft labels in contrast to hard labels often used in crowdsourcing. We empirically show the superiority of soft Dawid Skene in accuracy, calibration and out of distribution detection in comparison to ensemble averaging in extensive experiments.
Abstract（参考訳）: ディープラーニングを組み込むことで、単一ネットワーク上での精度とキャリブレーションが向上する。従来の集約アプローチであるアンサンブル平均化(enmble averaging)は、アウトプットを平均化することによって、すべての個々のネットワークを等しく扱う。クラウドソーシングにインスパイアされた深層アンサンブルのためのソフト・ダウィド・スキー (Soft Dawid Skene) と呼ばれるアグリゲーション手法を提案する。 Soft Dawid Skeneは、クラウドソーシングでよく使われるハードラベルとは対照的に、ソフトラベルを集約する。実験により, ソフトダウィド・スカインの精度, キャリブレーション, 分布検出精度が, アンサンブル平均よりも優れていることを示した。

関連論文リスト

Mitigating Noisy Supervision Using Synthetic Samples with Soft Labels [13.314778587751588]
ノイズラベルは、特にクラウドソーシングやWeb検索から派生した大規模データセットにおいて、現実世界のデータセットにおいてユビキタスである。トレーニング中にノイズの多いラベルを過度に適合させる傾向にあるため、ノイズの多いデータセットでディープニューラルネットワークをトレーニングすることは難しい。ノイズラベルの影響を軽減するために,新しい合成サンプルを用いてモデルを訓練するフレームワークを提案する。
論文参考訳（メタデータ） (2024-06-22T04:49:39Z)
Something for (almost) nothing: Improving deep ensemble calibration using unlabeled data [4.503508912578133]
本研究では,未ラベルデータの存在下での訓練データ体制における深層アンサンブルの校正を改善する手法を提案する。ラベルのない集合が与えられた場合、ラベルのない各データポイントに対して、ランダムに選択された異なるラベルを各アンサンブルメンバーに適合させる。
論文参考訳（メタデータ） (2023-10-04T15:21:54Z)
SoftMatch: Addressing the Quantity-Quality Trade-off in Semi-supervised Learning [101.86916775218403]
本稿では, サンプル重み付けを統一した定式化により, 一般的な擬似ラベル法を再検討する。トレーニング中の擬似ラベルの量と質を両立させることでトレードオフを克服するSoftMatchを提案する。実験では、画像、テキスト、不均衡な分類など、さまざまなベンチマークで大幅に改善されている。
論文参考訳（メタデータ） (2023-01-26T03:53:25Z)
Multi-View Knowledge Distillation from Crowd Annotations for Out-of-Domain Generalization [53.24606510691877]
本稿では,既存の手法による分布を集約することで,クラウドアノテーションからソフトラベルを取得する新しい手法を提案する。これらのアグリゲーション手法は、ドメイン外テストセット上の4つのNLPタスクにおいて、最も一貫したパフォーマンスをもたらすことを実証する。
論文参考訳（メタデータ） (2022-12-19T12:40:18Z)
Harnessing Hard Mixed Samples with Decoupled Regularizer [69.98746081734441]
Mixupは、決定境界を混合データで滑らかにすることで、ニューラルネットワークの一般化を改善する効率的なデータ拡張アプローチである。本稿では,非結合型正規化器(Decoupled Mixup, DM)を用いた効率的な混合目標関数を提案する。 DMは、ミキシングの本来の滑らかさを損なうことなく、硬質混合試料を適応的に利用して識別特性をマイニングすることができる。
論文参考訳（メタデータ） (2022-03-21T07:12:18Z)
Contrastive Regularization for Semi-Supervised Learning [46.020125061295886]
そこで本稿では, ラベルのないデータの特徴量により, 整合正則化の効率性と精度を両立させるために, 対照的な正則化を提案する。また,提案手法は,ラベルなしデータに分布しないサンプルを含むオープンセット半教師付き学習において,頑健な性能を示す。
論文参考訳（メタデータ） (2022-01-17T07:20:11Z)
CrowdTeacher: Robust Co-teaching with Noisy Answers & Sample-specific Perturbations for Tabular Data [8.276156981100364]
コティーチング手法は、ノイズの多いラベルによるコンピュータビジョン問題に対する有望な改善を示している。我々のモデルであるcrowdteacherは、入力空間モデルのロバスト性がノイズラベルの分類器の摂動を改善することができるという考えを採用している。合成データと実データの両方でCrowdTeacherを用いて予測能力の向上を示す。
論文参考訳（メタデータ） (2021-03-31T15:09:38Z)
Bayesian Semi-supervised Crowdsourcing [71.20185379303479]
クラウドソーシングは、大規模なデータセットを効率的にラベル付けし、さまざまな学習タスクを実行するための強力なパラダイムとして登場した。この研究は、半スーパービジョンの2つの体制の下で、半教師付きクラウドソース分類を扱う。
論文参考訳（メタデータ） (2020-12-20T23:18:51Z)
Squared $\ell_2$ Norm as Consistency Loss for Leveraging Augmented Data to Learn Robust and Invariant Representations [76.85274970052762]
元のサンプルと拡張されたサンプルの埋め込み/表現の距離を規則化することは、ニューラルネットワークの堅牢性を改善するための一般的なテクニックである。本稿では、これらの様々な正規化選択について検討し、埋め込みの正規化方法の理解を深める。私たちが特定したジェネリックアプローチ(squared $ell$ regularized augmentation)は、それぞれ1つのタスクのために特別に設計されたいくつかの手法より優れていることを示す。
論文参考訳（メタデータ） (2020-11-25T22:40:09Z)
DivideMix: Learning with Noisy Labels as Semi-supervised Learning [111.03364864022261]
ノイズラベルを学習するためのフレームワークであるDivideMixを提案する。複数のベンチマークデータセットの実験は、最先端の手法よりも大幅に改善されている。
論文参考訳（メタデータ） (2020-02-18T06:20:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。