論文の概要: Optimal aggregation in multiclass classification
- arxiv url: http://arxiv.org/abs/2610.28025v1
- Date: Tue, 20 Oct 2026 11:15:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.778425
- Title: Optimal aggregation in multiclass classification
- Title（参考訳）: 多クラス分類における最適アグリゲーション
- Abstract要約: 我々は,0/1および多項ロジスティック損失下でのモデル選択と凸凝集について検討した。
0/1の損失に対して、最適アグリゲーション率はクラスKの数に大きく依存しないことを示す。
最適なアグリゲーションレートは K とは独立であるが、conv(F) における適切なアグリゲーションに制限されることで、特定の状態において K との達成可能なレートが低下する。
- 参考スコア（独自算出の注目度）: 1.7761223012399532
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: This paper studies the problem of aggregation in multiclass classification, generalizing existing results for binary classification. Given a finite dictionary of score functions F={f_1,...,f_M} and a training sample, the goal is to construct a data-driven aggregate whose risk is as close as possible to that of the best aggregate (oracle) in a prescribed subset of span(F) with respect to a given loss. In particular, we investigate model selection and convex aggregation under the 0/1 and multinomial logistic losses. For the 0/1 loss, we show that the optimal aggregation rates remarkably do not depend on the number of classes K, and the corresponding empirical risk minimization (ERM) aggregates are rate-optimal for model selection and nearly-optimal for convex aggregation (up to an additional sqrt(ln(K)) factor). The situation under the multinomial logistic loss is more subtle. Although the optimal aggregation rates remain independent of K, restricting aggregation to proper aggregates in conv(F) leads to a deterioration of the achievable rates with K in certain regimes. This reveals a fundamental limitation of proper aggregation in multiclass classification. To overcome it, we propose improper probability-mixture aggregates that average the induced class probabilities rather than the original score functions and map the result back to score-function space. These aggregates achieve optimal or nearly optimal convergence rates independent of K. Finally, we introduce a different aggregation framework in which both the aggregation class and the oracle are defined directly in probability space.
- Abstract（参考訳）: 本稿では,複数クラス分類におけるアグリゲーションの問題について検討し,既存のバイナリ分類結果の一般化について述べる。
スコア関数 F={f_1,...,f_M} の有限辞書とトレーニングサンプルが与えられた場合、その目標は、与えられた損失に対して与えられたスパン(F)の所定のサブセットにおいて、最高のアグリゲーション(オークル)のアグリゲーションと可能な限り近いデータ駆動アグリゲーションを構築することである。
特に,0/1および多項ロジスティック損失下でのモデル選択と凸凝集について検討した。
0/1の損失に対して、最適凝集率はクラス数Kに大きく依存せず、対応する経験的リスク最小化(ERM)集約はモデル選択に最適であり、凸集約にほぼ最適である(追加のsqrt(ln(K))因子まで)。
多項ロジスティック損失の状況はより微妙である。
最適なアグリゲーションレートは K とは独立であるが、conv(F) における適切なアグリゲーションに制限されることで、特定の状態において K との達成可能なレートが低下する。
これは、マルチクラス分類における適切なアグリゲーションの根本的な制限を明らかにする。
そこで本研究では,従来のスコア関数よりも導出クラス確率を平均化し,結果をスコア関数空間にマッピングする不適切な確率混合集合を提案する。
最後に、アグリゲーションクラスとオラクルの両方が確率空間内で直接定義される異なるアグリゲーションフレームワークを導入する。
関連論文リスト
- Scaffold-Constrained Subset Dynamic Programming for Exact SSE Clustering [1.76179873429447]
我々は、データ由来の幾何グラフを用いて、正確なサブセットの動的プログラムをプリコンディションする。
残集合の反復最小化は固定(K) またはペナル化 SSE であり、各残集合の連結成分に対する正確な分解である。
本稿では,スキャフォールドプレコンディショニングを用いて,分割マージ提案の効率を向上させる方法について述べる。
論文 参考訳（メタデータ） (2026-09-24T19:16:51Z) - Generalized Score Matching for Parameter Estimation on Convex Domains [13.954816561132942]
一般化されたスコアマッチングの目的を$mathbbRd$の凸部分集合上で導出する。
非負のデータに対する古典的なスコアマッチングとドメイン適応型の変種が、提案フレームワーク内で自然に発生することを示す。
我々の導出は、様々な問題設定における一般化されたスコアマッチングのスコープと適用性に新たな光を当てる。
論文 参考訳（メタデータ） (2026-09-10T13:23:41Z) - Active Learning with Low-Rank Structure for Data Selection [85.43185363043362]
低ランク近似と残差に基づくサンプリングに基づく新しいデータ選択フレームワークを提案する。
平均損失がデータセット全体の平均損失を近似した$tildeOleft(k + frac1varepsilon2right)$データポイントの重み付きサブセットを選択することができることを示す。
論文 参考訳（メタデータ） (2026-06-14T22:29:59Z) - How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。
因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。
本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
論文 参考訳（メタデータ） (2026-06-10T21:07:49Z) - Fair Decisions from Calibrated Scores: Achieving Optimal Classification While Satisfying Sufficiency [2.0686600920324163]
予測確率(スコア)に基づくバイナリ分類は、教師付き機械学習の基本的なタスクである。
群校正スコアの有限集合を仮定して、十分条件下での最適二項分類の正確な解を提案する。
論文 参考訳（メタデータ） (2026-02-07T00:26:40Z) - Almost Asymptotically Optimal Active Clustering Through Pairwise Observations [59.20614082241528]
そこで本研究では, ノイズと能動的に収集された応答を用いて, M$アイテムを未知数の$K$個別グループにクラスタリングするための新しい分析フレームワークを提案する。
クラスタリングの精度に対する望ましい信頼性を達成するのに必要なクエリ数の基本的下位境界を確立する。
我々は、一般化された同値比統計の計算可能な変種を開発し、その下限に対する性能ギャップを正確に推定できることを実証的に示す。
論文 参考訳（メタデータ） (2026-02-05T14:16:47Z) - Near-Optimal Resilient Aggregation Rules for Distributed Learning Using 1-Center and 1-Mean Clustering with Outliers [24.88026399458157]
ビザンティンの機械学習は、予測不可能な欠陥によってかなりの注目を集めている。
分散学習におけるマシンのセキュア化の鍵は、レジリエントな集約メカニズムである。
論文 参考訳（メタデータ） (2023-12-20T08:36:55Z) - Predict then Interpolate: A Simple Algorithm to Learn Stable Classifiers [59.06169363181417]
Predict then Interpolate (PI) は環境全体にわたって安定な相関関係を学習するためのアルゴリズムである。
正しい予測と間違った予測の分布を補間することにより、不安定な相関が消えるオラクル分布を明らかにすることができる。
論文 参考訳（メタデータ） (2021-05-26T15:37:48Z) - Learning by Minimizing the Sum of Ranked Range [58.24935359348289]
本稿では,学習目標を定式化するための一般的なアプローチとして,ランキング範囲(SoRR)の和を紹介した。
ランク付き範囲は、実数の集合のソートされた値の連続的なシーケンスである。
我々は,SoRRフレームワークの最小化のための機械学習における2つの応用,すなわち,バイナリ分類のためのAoRR集約損失とマルチラベル/マルチクラス分類のためのTKML個人損失について検討する。
論文 参考訳（メタデータ） (2020-10-05T01:58:32Z) - Modelling High-Dimensional Categorical Data Using Nonconvex Fusion
Penalties [7.262048441360131]
SCOPEと呼ばれる我々の推定器は、対応する係数を正確に等しくすることで、レベルを融合する。
変数の非次元ブロック内での正確かつ効率的なクラスタリングのためのアルゴリズムを提供する。
論文 参考訳（メタデータ） (2020-02-28T09:20:41Z) - Fast and Robust Rank Aggregation against Model Misspecification [105.54181634234266]
ランクアグリゲーション(RA)では、異なるユーザからの好みのコレクションを、ユーザの同質性の仮定の下で総順にまとめる。
RAにおけるモデルの不特定は、複素実世界の状況において同質性の仮定が満たされないために生じる。
本稿では,モデル誤特定に対する堅牢性を有するCoarsenRankを提案する。
論文 参考訳（メタデータ） (2019-05-29T11:35:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。