論文の概要: Ensemble Diversity Optimization for Subjective Supervision

• arxiv url: http://arxiv.org/abs/2607.08493v1
• Date: Thu, 09 Jul 2026 13:53:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-10 14:45:27.553387
• Title: Ensemble Diversity Optimization for Subjective Supervision
• Title（参考訳）: 主観的スーパービジョンのための多様性のアンサンブル最適化
• Abstract要約: 本稿では,アンサンブル重み,有効濃度,校正を共同で最適化する予測空間フレームワークであるEnsemble Diversity Optimization (EDO)を紹介する。 EDOはGumbel-Softmax緩和を通じてアンサンブルの構成とサイズを学習し、署名された多様性正規化器を組み込む。
• 参考スコア（独自算出の注目度）: 4.032367157209129
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Subjective NLP tasks often exhibit systematic annotator disagreement, requiring models that represent uncertainty rather than collapse it. We introduce Ensemble Diversity Optimization (EDO), a prediction-space framework that jointly optimizes ensemble weights, effective cardinality, and calibration through a unified differentiable objective. EDO learns ensemble composition and size end-to-end via Gumbel-Softmax relaxation and incorporates a signed diversity regularizer, tuned on validation data, to steer optimization toward either preserving or suppressing disagreement. This regularization prevents ensemble collapse and enables controlled navigation of the utility-calibration trade-off. The framework integrates a soft F1 surrogate, class-weighted cross-entropy to address imbalance, and reliability-weighted diversity to regulate intra-ensemble variability. Experiments on four subjective text-classification benchmarks (ArMIS, ConvAbuse, HS-Brexit, MD-Agreement) show that EDO substantially improves probabilistic calibration, reducing cross-entropy (40-78% depending on baseline) and lowering Brier scores relative to Soft-CE, Soft-MD, Top-5 Voting, and WEL, while maintaining competitive F1 and better alignment with annotator distributions. These results demonstrate that jointly optimizing ensemble structure with a signed diversity regularizer provides an efficient, model-agnostic approach for modeling human subjectivity in supervised learning.
• Abstract（参考訳）: 主観的なNLPタスクは、しばしば体系的なアノテータの不一致を示し、それを崩壊させるよりも不確実性を表すモデルを必要とする。 本稿では,アンサンブル重み,有効濃度,キャリブレーションを統一的な微分可能な目的を通じて共同で最適化する,予測空間のフレームワークであるEnsemble Diversity Optimization (EDO)を紹介する。 EDOはGumbel-Softmax緩和を通じてアンサンブルの構成とサイズを学習し、署名付き多様性正規化器(バリデーションデータにチューニング)を組み込んで、不一致の保存や抑制に最適化する。 この正規化はアンサンブル崩壊を防止し、ユーティリティ・キャリブレーショントレードオフの制御されたナビゲーションを可能にする。 このフレームワークはソフトなF1サロゲート、不均衡に対処するためのクラス重み付きクロスエントロピー、およびアンサンブル内変動を規制するための信頼性重み付き多様性を統合している。 4つの主観的テキスト分類ベンチマーク (ArMIS, ConvAbuse, HS-Brexit, MD-Agreement) 実験により, EDO は確率的校正を著しく改善し, クロスエントロピー (40-78%) を低減し, ソフトCE, Soft-MD, Top-5 Voting, WEL に対する Brier スコアを低下させた。 これらの結果から,符号付き多様性正規化器によるアンサンブル構造の最適化は,教師あり学習における人間の主観性をモデル化する上で,効率的でモデルに依存しないアプローチを提供することが示された。

関連論文リスト

• Enhancing Bayesian Optimization and Active Learning Through Kernel Diversity [13.065036862403966]
  本稿では, Ensemble Gaussian Processes (EGP) と不一致認識獲得戦略を統合した統合フレームワーク KENDO を提案する。 KENDO-BOは最先端の手法と比較して、競争力や優れた最適化性能を達成している。
  論文  参考訳（メタデータ） (2026-08-25T15:35:47Z)
• DVAO: Dynamic Variance-adaptive Advantage Optimization for Multi-reward Reinforcement Learning [4.844785181175473]
  グループ相対ポリシー最適化は、プロキシポリシー最適化に代わる効率的で価値のない代替手段を提供する。 Reward CombinationやAdvantage Combinationのような標準的なスカラー化のプラクティスは、重大な欠点に悩まされている。 本研究では,各目的の報酬分散に基づく組み合わせ重み付けを動的に調整する動的変数適応型アドバンテージ最適化(DVAO)を提案する。
  論文  参考訳（メタデータ） (2026-05-25T08:55:16Z)
• Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
  マルチモーダル学習は、しばしば低品質データの課題に悩まされる。 コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。 私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-05-05T14:48:52Z)
• Stochastic set-valued optimization and its application to robust learning [0.0]
  我々は、堅牢な機械学習に適したセット値最適化(SVO)フレームワークを開発する。 SVO設定では、各決定変数は対象値のセットにマッピングされ、最適性はセット関係によって定義される。
  論文  参考訳（メタデータ） (2026-03-18T13:07:53Z)
• BROTHER: Behavioral Recognition Optimized Through Heterogeneous Ensemble Regularization for Ambivalence and Hesitancy [39.407739937584104]
  自然主義的なビデオ設定におけるA/H(Ambivalence and Hesitancy)は、感情コンピューティングにおいて重要な課題である。 ビデオレベルでのA/H予測のために,高度に正規化されたマルチモーダル融合パイプラインを提案する。
  論文  参考訳（メタデータ） (2026-03-15T12:53:41Z)
• Not All Preferences Are Created Equal: Stability-Aware and Gradient-Efficient Alignment for Reasoning Models [52.48582333951919]
  ポリシー更新の信号対雑音比を最大化することにより、アライメントの信頼性を高めるために設計された動的フレームワークを提案する。 SAGE(Stability-Aware Gradient Efficiency)は、モデル能力に基づいて候補プールをリフレッシュする粗いきめ細かいカリキュラムメカニズムを統合する。 複数の数学的推論ベンチマークの実験により、SAGEは収束を著しく加速し、静的ベースラインを上回っていることが示された。
  論文  参考訳（メタデータ） (2026-02-01T12:56:10Z)
• SetPO: Set-Level Policy Optimization for Diversity-Preserving LLM Reasoning [50.93295951454092]
  本稿では,カーネル化類似性を用いたサンプル軌道上で定義された設定レベル多様性の目的について紹介する。 提案手法は,各サンプル軌跡に対する余剰余剰貢献を導出し,この目的を政策最適化のためのプラグイン・アドバンテージ・シェーピング用語として統合する。 様々なモデルスケールで実験を行い、提案アルゴリズムの有効性を示し、様々なベンチマークでPass@1とPass@Kの双方において、強いベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-02-01T07:13:20Z)
• An Integrated Fusion Framework for Ensemble Learning Leveraging Gradient Boosting and Fuzzy Rule-Based Models [59.13182819190547]
  ファジィ規則に基づくモデルは解釈可能性に優れ、様々な分野に広く応用されている。 複雑な設計仕様や大規模データセットのスケーラビリティといった課題に直面している。 本稿では,モデル性能と解釈可能性を高めるために,両パラダイムの強みを融合した統合統合フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-11T10:28:23Z)
• Harnessing Consistency for Robust Test-Time LLM Ensemble [88.55393815158608]
  CoREは、堅牢なLLMアンサンブルにモデル一貫性を利用するプラグイン・アンド・プレイ技術である。 トークンレベルの一貫性は、ダウンウェイト不確実なトークンにローパスフィルタを適用することで、きめ細かい不一致を捕捉する。 モデルレベルの一貫性は、自己自信の高いモデル出力を促進することで、グローバルな合意をモデル化する。
  論文  参考訳（メタデータ） (2025-10-12T04:18:45Z)
• Self-Error Adjustment: Theory and Practice of Balancing Individual Performance and Diversity in Ensemble Learning [4.114446284816968]
  アンサンブル学習は、複数のベース学習者からの予測を集約することで、パフォーマンスを高める。 BaggingやBoostingといった従来の手法は、ランダム性を通じて多様性を促進するが、精度と多様性のトレードオフを正確に制御するものではない。 アンサンブルエラーを2つの異なるコンポーネントに分解するSEA(Self-Error Adjustment)という新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-07T00:30:26Z)
• UniCBE: An Uniformity-driven Comparing Based Evaluation Framework with Unified Multi-Objective Optimization [19.673388630963807]
  統一統一性駆動型CBEフレームワークUniCBEを提案する。 AlpacaEvalベンチマークでは、UniCBEは評価予算の17%以上を削減し、Pearsonと地上の真実との相関は0.995を超えている。 新しいモデルが継続的に導入されるシナリオでは、UniCBEは評価コストの50%以上を節約できる。
  論文  参考訳（メタデータ） (2025-02-17T05:28:12Z)
• Disentangled Federated Learning for Tackling Attributes Skew via Invariant Aggregation and Diversity Transferring [104.19414150171472]
  属性は、クライアント間の一貫した最適化方向から、現在の連邦学習(FL)フレームワークを歪めます。 本稿では,ドメイン固有属性とクロス不変属性を2つの補足枝に分離するために,非絡み付きフェデレーション学習(DFL)を提案する。 実験により、DFLはSOTA FL法と比較して高い性能、より良い解釈可能性、より高速な収束率でFLを促進することが確認された。
  論文  参考訳（メタデータ） (2022-06-14T13:12:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。