論文の概要: Rethinking Class Imbalance for Single-Cell Foundation Models: A Systematic Benchmark Across Architectures and Long-Tail Loss Functions

• arxiv url: http://arxiv.org/abs/2609.23325v1
• Date: Sun, 20 Sep 2026 03:24:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.770456
• Title: Rethinking Class Imbalance for Single-Cell Foundation Models: A Systematic Benchmark Across Architectures and Long-Tail Loss Functions
• Title（参考訳）: 単一セルモデルのためのクラス不均衡の再考: アーキテクチャ全体にわたるシステムベンチマークと長期損失関数
• Abstract要約: 単一細胞基盤モデル(scGPT, scBERT, Geneformer)は、実験で最大97.5%の細胞型分類精度を実現する。 3つのアーキテクチャと3つのデータセットにまたがる6つの長テール損失関数(クロスエントロピー、重み付きCE、クラスバランス損失、焦点損失、LDAM、ロジット調整ソフトマックス)の体系的ベンチマークを示す。
• 参考スコア（独自算出の注目度）: 2.643721213366382
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Single-cell foundation models (scGPT, scBERT, Geneformer) achieve cell-type classification accuracy up to 97.5% in our experiments, yet this aggregate accuracy can mask systematic failure on rare, often disease-relevant cell populations that long-tail loss functions are widely assumed to address. We present a systematic benchmark of six long-tail loss functions (cross-entropy, weighted CE, class-balanced loss, focal loss, LDAM, logit-adjusted softmax) across three architectures and three datasets (Multiple Sclerosis, Zheng68K, human Pancreas), totaling 162 controlled training runs (3 backbones x 3 datasets x 6 losses x 3 seeds). The gap between overall accuracy, Macro-F1, and rare-class recall under plain cross-entropy is consistent across all nine (architecture, dataset) settings, driven by dataset structure rather than pretraining. Rare-class failure itself splits into two regimes with distinct embedding-geometry signatures, visible before any loss is chosen: some classes are recoverable by the right loss, while others retain linear separability yet are absorbed into unrelated classes' neighborhoods under every evaluated loss and architecture. Among the recoverable classes, the efficacy of reweighting is predicted by a class's absolute training-set size, rather than its share of the dataset or the dataset's overall imbalance ratio. Class-balanced loss and LDAM are the most consistent choices across all nine settings, while logit adjustment trades rare-class precision for recall rather than improving both. Our results give both a reusable benchmark and mechanism-grounded practical guidelines for combining foundation models with imbalanced biological data.
• Abstract（参考訳）: 単一細胞基盤モデル(scGPT, scBERT, Geneformer)は、実験で最大97.5%の細胞型分類精度を達成しているが、この集計精度は、長い尾の損失関数が広く想定される稀な疾患関連細胞集団の系統的障害を隠蔽することができる。 3つのアーキテクチャと3つのデータセット(Multiple Sclerosis, Zheng68K, human Pancreas)にまたがる6つの長テール損失関数(クロスエントロピー、重み付きCE、クラスバランス損失、焦点損失、LDAM、ロジット調整ソフトマックス)の体系的ベンチマークを行い、合計162の制御されたトレーニング実行(3つのバックボーン x 3データセット x 6 ロス x 3 シード)について検討した。 全体的な正確性、マクロF1、プレーンなクロスエントロピーの下でのレアクラスのリコールのギャップは、事前トレーニングではなくデータセット構造によって駆動される9つの(アーキテクチャ、データセット)設定すべてで一致している。 あるクラスは、正しい損失によって回復可能であり、他のクラスは、線形分離性を保持しながら、評価された損失とアーキテクチャのすべての下で、無関係なクラスの近傍に吸収される。 回復可能なクラスの中で、再重み付けの有効性は、データセットのシェアやデータセット全体の不均衡比よりも、クラスの絶対的なトレーニングセットのサイズによって予測される。 クラスバランスの低下とLDAMは9つの設定の中で最も一貫した選択であり、ロジット調整は両方の改善よりもレアクラスの精度でリコールを行う。 この結果から, 基礎モデルと不均衡な生体データを組み合わせるための, 再利用可能なベンチマークと機構を基盤とした実践的ガイドラインが得られた。

関連論文リスト

• Reliability-Aware Ensemble Classification Under Class Imbalance: A Calibration Study on Liquid-Based Cervical Cytology [3.093890460224435]
  本稿では,Mendley LBCデータセットを用いたクラス不均衡とキャリブレーションを考慮したアンサンブル分類について述べる。 3つの軽量アーキテクチャは、重み付きランダムサンプリングを用いてMendley LBC上で直接訓練され、クラス不均衡に対処する。 その結果, キャリブレーションはアンサンブルサイズではなく, 信頼性の高いレバーであることがわかった。
  論文  参考訳（メタデータ） (2026-07-10T16:41:18Z)
• Long-Tail Learning with Rebalanced Contrastive Loss [1.4443576276330394]
  本稿では、長い尾の分類精度を高めるための効率的な方法であるRe Balanced Contrastive Learning(RCL)を提案する。 RCLは、特徴空間のバランス性、クラス内コンパクト性、正規化の3つの主な側面に対処する。 3つのベンチマークデータセットに対する実験では、学習した埋め込みの豊かさと、BCLフレームワークに提供されるトップ1バランスの精度の向上が示されている。
  論文  参考訳（メタデータ） (2023-12-04T09:27:03Z)
• A dual-branch model with inter- and intra-branch contrastive loss for long-tailed recognition [7.225494453600985]
  長い尾のデータセットで訓練されたモデルは、テールクラスへの適応性が低く、決定境界は曖昧である。 我々は,不均衡学習枝と対照学習枝(CoLB)を含む,単純で効果的なDual-Branch Long-Tailed Recognition (DB-LTR)を提案する。 CoLBは、テールクラスに適応する際のモデルの能力を改善し、不均衡な学習ブランチを支援して、よく表現された特徴空間と識別的決定境界を学習する。
  論文  参考訳（メタデータ） (2023-09-28T03:31:11Z)
• Neural Collapse Terminus: A Unified Solution for Class Incremental Learning and Its Variants [166.916517335816]
  本稿では,3つの課題における不整合ジレンマに対する統一解を提案する。 ラベル空間全体の最大等角的クラス間分離を有する固定構造である神経崩壊終端を提案する。 本手法は,データ不均衡やデータ不足にかかわらず,神経崩壊最適度を漸進的に保持する。
  論文  参考訳（メタデータ） (2023-08-03T13:09:59Z)
• Label Distributionally Robust Losses for Multi-class Classification: Consistency, Robustness and Adaptivity [55.29408396918968]
  多クラス分類のためのラベル分布ロバスト(LDR)損失という損失関数群について検討した。 我々の貢献は、多クラス分類のためのLDR損失のトップ$kの一貫性を確立することによって、一貫性と堅牢性の両方を含んでいる。 本稿では,各インスタンスのクラスラベルの雑音度に個別化温度パラメータを自動的に適応させる適応型LDR損失を提案する。
  論文  参考訳（メタデータ） (2021-12-30T00:27:30Z)
• Multi-loss ensemble deep learning for chest X-ray classification [0.8594140167290096]
  クラス不均衡は、異常サンプルの数が正常サンプルの数より少ない医療画像分類タスクでよく見られる。 本稿では,DLモデルを訓練し,その性能を多クラス分類設定で解析する新しい損失関数を提案する。
  論文  参考訳（メタデータ） (2021-09-29T14:14:04Z)
• Learning by Minimizing the Sum of Ranked Range [58.24935359348289]
  本稿では,学習目標を定式化するための一般的なアプローチとして,ランキング範囲(SoRR)の和を紹介した。 ランク付き範囲は、実数の集合のソートされた値の連続的なシーケンスである。 我々は,SoRRフレームワークの最小化のための機械学習における2つの応用,すなわち,バイナリ分類のためのAoRR集約損失とマルチラベル/マルチクラス分類のためのTKML個人損失について検討する。
  論文  参考訳（メタデータ） (2020-10-05T01:58:32Z)
• Deep F-measure Maximization for End-to-End Speech Understanding [52.36496114728355]
  本稿では,F測度に対する微分可能な近似法を提案し,標準バックプロパゲーションを用いてネットワークをトレーニングする。 我々は、アダルト、コミュニティ、犯罪の2つの標準フェアネスデータセットの実験を行い、ATISデータセットの音声・インテリジェンス検出と音声・COCOデータセットの音声・イメージ概念分類を行った。 これらの4つのタスクのすべてにおいて、F測定は、クロスエントロピー損失関数で訓練されたモデルと比較して、最大8%の絶対的な絶対的な改善を含む、マイクロF1スコアの改善をもたらす。
  論文  参考訳（メタデータ） (2020-08-08T03:02:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。