論文の概要: Principled Algorithms for Optimizing Generalized Metrics in Multi-Label Learning

• arxiv url: http://arxiv.org/abs/2605.28767v1
• Date: Wed, 27 May 2026 17:23:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-28 17:38:56.247574
• Title: Principled Algorithms for Optimizing Generalized Metrics in Multi-Label Learning
• Title（参考訳）: マルチラベル学習における一般化メトリクスの最適化のための原理的アルゴリズム
• Authors: Mehryar Mohri, Yutao Zhong,
• Abstract要約: 我々は,経験的ユーティリティ最大化フレームワーク内で,幅広い種類の一般化メトリクスを最適化するための原理的学習アルゴリズムを開発した。 我々の重要な貢献は、$H$一貫性境界を証明可能なマルチラベル学習のための新しいサロゲート損失関数の設計である。 本結果は,一般マルチラベル計量最適化における理論的厳密性と実用性の両方を提供する。
• 参考スコア（独自算出の注目度）: 42.67092904252001
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Many real-world classification tasks require predicting multiple labels per instance, necessitating the optimization of complex evaluation metrics such as the $F$-measure and Jaccard index. While the Empirical Utility Maximization (EUM) framework is natural for these population-level metrics, existing theoretical results are largely limited to asymptotic Bayes-consistency. In this paper, we develop principled learning algorithms for optimizing a broad class of generalized metrics within the EUM framework, grounded in the stronger notion of $H$-consistency. Our key contribution is the design of novel surrogate loss functions for multi-label learning that admit provable $H$-consistency bounds, enabling optimization with non-asymptotic guarantees tailored to the hypothesis class and finite samples. Crucially, we prove these combinatorially formulated surrogates decompose exactly, operating in strictly $O(l)$ time without approximations. Building on this foundation, we introduce MMO (Multi-Label Metric Optimization), a new family of algorithms for optimizing generalized linear-fractional metrics. We validate our approach through extensive experiments, demonstrating robust scalability and superior performance over state-of-the-art continuous baselines on large-scale datasets (MS-COCO, Reuters-21578) in high-sparsity, deep learning regimes. Our results offer both theoretical rigor and practical effectiveness for general multi-label metric optimization.
• Abstract（参考訳）: 多くの実世界の分類タスクはインスタンス毎に複数のラベルを予測し、$F$-measureやJaccardインデックスのような複雑な評価指標を最適化する必要がある。 経験的ユーティリティ最大化(EUM)フレームワークはこれらの人口レベルの指標には自然であるが、既存の理論的結果は漸近的ベイズ一貫性に限られている。 本稿では,EUMフレームワーク内での一般化メトリクスの幅広いクラスを最適化するための学習アルゴリズムを,より強力な概念である$H$-consistencyに基づいて開発する。 我々の重要な貢献は、証明可能な$H$一貫性境界を許容し、仮説クラスと有限標本に合わせた非漸近保証による最適化を可能にする、多ラベル学習のための新しいサロゲート損失関数の設計である。 重要なことに、これらの組合せ的に定式化されたサロゲートは正確に分解され、近似なしで厳密に$O(l)$時間で動作することが証明される。 この基礎の上に構築されたMMO(Multi-Label Metric Optimization)は、一般化線形屈折度を最適化するアルゴリズムの新たなファミリーである。 我々は,大規模データセット(MS-COCO,Reuters-21578)の高疎度,深層学習体制における最先端の継続的ベースラインよりも堅牢なスケーラビリティと優れた性能を実証し,我々のアプローチを検証した。 本結果は,一般マルチラベル計量最適化における理論的厳密性と実用性の両方を提供する。

関連論文リスト

• Multiple-Prediction-Powered Inference [57.30769275944024]
  この研究は、MultiPPI推定器のミニマックス最適性、有限サンプル性能、正規性に関する理論的保証を提供する。 我々は,MultiPPIが既存のベースラインよりも低い推定誤差を実現することを示す。
  論文  参考訳（メタデータ） (2026-03-28T21:24:00Z)
• Generalized Optimal Classification Trees: A Mixed-Integer Programming Approach [17.725629133949955]
  混合整数プログラミング(MIP)は高度なモデリングの柔軟性を提供する。 非線形性能指標に基づく最適分類木学習のためのMIPベースのフレームワークを提案する。 提案手法を50のベンチマークデータセットで評価した。
  論文  参考訳（メタデータ） (2026-02-02T14:46:01Z)
• Principled Algorithms for Optimizing Generalized Metrics in Binary Classification [53.604375124674796]
  一般化されたメトリクスを最適化するアルゴリズムを導入し、$H$-consistency と finite-sample generalization bounds をサポートする。 提案手法は,メトリクス最適化を一般化したコスト依存学習問題として再検討する。 我々は,理論性能を保証する新しいアルゴリズムMETROを開発した。
  論文  参考訳（メタデータ） (2025-12-29T01:33:42Z)
• NDCG-Consistent Softmax Approximation with Accelerated Convergence [67.10365329542365]
  本稿では,ランキングの指標と直接一致した新たな損失定式化を提案する。 提案したRG損失を高効率な Alternating Least Squares (ALS) 最適化手法と統合する。 実世界のデータセットに対する実証的な評価は、我々のアプローチが同等または上位のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2025-06-11T06:59:17Z)
• Adaptive Sampled Softmax with Inverted Multi-Index: Methods, Theory and Applications [79.53938312089308]
  MIDX-Samplerは、逆多重インデックスアプローチに基づく新しい適応型サンプリング戦略である。 本手法は, サンプリングバイアス, 勾配バイアス, 収束速度, 一般化誤差境界などの重要な問題に対処するため, 厳密な理論的解析によって裏付けられている。
  論文  参考訳（メタデータ） (2025-01-15T04:09:21Z)
• Stochastic interior-point methods for smooth conic optimization with applications [0.8519339317685906]
  一般円錐最適化のためのインテリアポイント法を4つの新しいSIPM変種とともに導入する。 提案したSIPMの複雑性は,多対数係数まで,制約のないデータストリームにおいて最もよく知られた結果と一致する。 頑健な線形回帰、マルチタスク関係学習、クラスタリングデータストリームの実験は、我々のアプローチの有効性を実証している。
  論文  参考訳（メタデータ） (2024-12-17T15:06:44Z)
• Federated Conditional Stochastic Optimization [110.513884892319]
  条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。 本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-10-04T01:47:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。