論文の概要: Using Set Learning to Improve Set-Valued Classifiers on Long-tailed Data

• arxiv url: http://arxiv.org/abs/2610.27443v1
• Date: Tue, 20 Oct 2026 00:46:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.562117
• Title: Using Set Learning to Improve Set-Valued Classifiers on Long-tailed Data
• Title（参考訳）: 集合学習を用いたロングテールデータにおける集合値分類器の改良
• Abstract要約: ニューラルネットワークのトレーニング戦略と損失関数が、高度に不均衡なデータに対して、下流SVCのパフォーマンスにどのように影響するかを検討する。 我々は、最近提案された奇数Kアウト(OKO)損失関数を適用し、トレーニングサンプルの集合から学習し、サンプル効率を向上する。 高度に長い尾を持つデータセットの実験では、修正OKOアプローチにより、複数のSVCメソッドのマクロ精度が大幅に向上することを示した。
• 参考スコア（独自算出の注目度）: 9.844965649469419
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Set-valued classification (SVC) offers a practical approach to communicating uncertainty while maintaining accuracy by predicting variable-sized sets per input rather than fixed-sized sets (e.g. top-1 or top-5). However, set-valued classifiers (SVCs) exhibit significantly degraded performance on long-tailed and imbalanced datasets, a setting for which they are ostensibly well-suited. This becomes apparent under macro-average evaluation, which weighs all classes equally. SVCs are typically formed during a post-hoc calibration stage, so little is known about how training dynamics affect their behaviour. In this work, we investigate how different neural network training strategies and loss functions impact downstream SVC performance on highly imbalanced data. In addition to methods such as label smoothing and class-balancing, we investigate whether loss functions that operate over sets of examples in a batch, rather than treating all examples as independent, lead to better downstream SVCs. We adapt the recently proposed odd-K-out (OKO) loss function, which learns from sets of training samples, improving its sample efficiency whilst introducing algorithmic modifications that reduce its computational overhead from 3.2x to just 1.36x that of standard cross-entropy training. Experiments on highly long-tailed datasets demonstrate our modified OKO approach significantly improves macro-accuracy across multiple SVC methods - including top-k, average-k, and conformal prediction - while maintaining competitive micro-accuracy. This improved performance on minority classes occurs without substantially increasing prediction set sizes, suggesting that carefully constructed set-based training can produce networks better suited to imbalanced data.
• Abstract（参考訳）: 集合値分類(SVC)は、固定サイズの集合(eg top-1 または top-5)ではなく、入力毎の可変サイズの集合を予測することによって、精度を維持しながら不確実性を伝達する実践的なアプローチを提供する。 しかし、セット値分類器(SVC)は、長い尾と不均衡なデータセットに対して著しく劣化した性能を示す。 これは、すべてのクラスを均等に重み付けするマクロ平均評価の下で明らかになる。 SVCは通常、ポストホックキャリブレーションの段階で形成されるため、トレーニングのダイナミクスが彼らの振る舞いにどのように影響するかはほとんど分かっていない。 本研究では、ニューラルネットワークのトレーニング戦略と損失関数の違いが、高度に不均衡なデータに対する下流SVCのパフォーマンスに与える影響について検討する。 ラベルスムーシングやクラスバランシングなどの手法に加えて、全ての例を独立したものとして扱うのではなく、バッチ内のサンプル集合上で動作する損失関数が下流のSVCをより良くするかどうかを考察する。 我々は、最近提案されたOK-out(OKO)損失関数を適用し、一連のトレーニングサンプルから学習し、そのサンプル効率を改善しながら、計算オーバーヘッドを標準的なクロスエントロピートレーニングの3.2倍から1.36倍に削減するアルゴリズム的修正を導入する。 高度に長い尾を持つデータセットの実験では、我々の修正OKOアプローチは、競合するマイクロ精度を維持しながら、トップk、平均k、コンフォメーション予測を含む複数のSVCメソッドのマクロ精度を大幅に改善することを示した。 このマイノリティクラスの性能向上は、予測セットのサイズを大幅に増加させることなく実現され、慎重に構築されたセットベースのトレーニングにより、不均衡なデータに適したネットワークが得られることが示唆されている。

関連論文リスト

• RCAP: Robust, Class-Aware, Probabilistic Dynamic Dataset Pruning [4.215168690973054]
  本稿では,ロバスト,クラスアウェア,確率的動的データセット解析アルゴリズム RCAP を提案する。 RCAPは、最先端のデータセットプルーニング手法を一貫して上回り、すべてのプルーニングレートにおいて、最悪のグループ精度を向上する。
  論文  参考訳（メタデータ） (2026-06-10T07:37:01Z)
• Towards Realistic Class-Incremental Learning with Free-Flow Increments [17.558920457942936]
  本稿では,自由フロー到着時のCIL学習のためのモデルに依存しないフレームワークを提案する。 これは、サンプル周波数重み付き損失を一様に集約されたクラス条件監督に置き換えるクラスワイド平均(CWM)の目的を含む。 FFCIL下での各種CIL基線における明らかな性能劣化を実験により確認した。
  論文  参考訳（メタデータ） (2026-04-03T06:19:58Z)
• Class Confidence Aware Reweighting for Long Tailed Learning [0.8297806372438926]
  本稿では,長期学習のためのクラスの設計と信頼性を考慮した再重み付け手法を提案する。 我々は、(p_t,f_c)関数を用いて、予測の信頼性値に基づいて、トレーニングタスクに対するコントリビューションの変調を可能にする。
  論文  参考訳（メタデータ） (2026-01-22T12:58:05Z)
• Class-Proportional Coreset Selection for Difficulty-Separable Data [6.999279165862482]
  ネットワーク侵入検出や医用画像などの領域では,データのクラスタ化が困難であることが多い。 これをクラス微分可分性として定式化し、クラス微分可分性係数を導入する。 結果から,クラス差分性を明示的にモデル化することで,より効率的で堅牢で一般化可能なデータプルーニングが実現されることが示された。
  論文  参考訳（メタデータ） (2025-07-15T01:43:32Z)
• Exploring Learning Complexity for Efficient Downstream Dataset Pruning [8.990878450631596]
  既存のデータセットプルーニングメソッドでは、データセット全体のトレーニングが必要になる。 本稿では、DLC(Distorting-based Learning Complexity)という、単純で、新規で、トレーニング不要な難易度スコアを提案する。 本手法は,より高速に学習できるサンプルを少ないパラメータで学習できるという観察結果に動機付けられている。
  論文  参考訳（メタデータ） (2024-02-08T02:29:33Z)
• Revisiting Long-tailed Image Classification: Survey and Benchmarks with New Evaluation Metrics [88.39382177059747]
  メトリクスのコーパスは、長い尾の分布で学習するアルゴリズムの正確性、堅牢性、およびバウンダリを測定するために設計されている。 ベンチマークに基づいて,CIFAR10およびCIFAR100データセット上での既存手法の性能を再評価する。
  論文  参考訳（メタデータ） (2023-02-03T02:40:54Z)
• CMW-Net: Learning a Class-Aware Sample Weighting Mapping for Robust Deep Learning [55.733193075728096]
  現代のディープニューラルネットワークは、破損したラベルやクラス不均衡を含むバイアス付きトレーニングデータに容易に適合する。 サンプル再重み付け手法は、このデータバイアス問題を緩和するために一般的に使用されている。 本稿では,データから直接明示的な重み付け方式を適応的に学習できるメタモデルを提案する。
  論文  参考訳（メタデータ） (2022-02-11T13:49:51Z)
• Improving Calibration for Long-Tailed Recognition [68.32848696795519]
  このようなシナリオにおけるキャリブレーションとパフォーマンスを改善する2つの方法を提案します。 異なるサンプルによるデータセットバイアスに対して,シフトバッチ正規化を提案する。 提案手法は,複数の長尾認識ベンチマークデータセットに新しいレコードをセットする。
  論文  参考訳（メタデータ） (2021-04-01T13:55:21Z)
• Evaluating Prediction-Time Batch Normalization for Robustness under Covariate Shift [81.74795324629712]
  我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。 予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。 この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
  論文  参考訳（メタデータ） (2020-06-19T05:08:43Z)
• Identifying and Compensating for Feature Deviation in Imbalanced Deep Learning [59.65752299209042]
  このようなシナリオ下でのConvNetの学習について検討する。 私たちは、ConvNetがマイナーなクラスにかなり適合していることに気づきました。 クラス依存型温度トレーニング(CDT)のConvNetの導入を提案する。
  論文  参考訳（メタデータ） (2020-01-06T03:52:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。