論文の概要: Consistent Polyhedral Surrogates for Top-$k$ Classification and Variants
- arxiv url: http://arxiv.org/abs/2207.08873v1
- Date: Mon, 18 Jul 2022 18:34:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-20 14:15:14.157710
- Title: Consistent Polyhedral Surrogates for Top-$k$ Classification and Variants
- Title(参考訳): トップ$kの分類と変数のための一貫性多面体サロゲート
- Authors: Jessie Finocchiaro, Rafael Frongillo, Emma Goodwill, Anish Thilagar
- Abstract要約: Top-k$ 情報検索、画像分類、その他の極端な分類設定で広く使用される多クラス分類の一般化。
条件付きラベル分布を導出し、提案されたサロゲートがトップ$k$に対して一貫した値となる。
すべてのヒンジのようなサロゲートは、トップ$k$に対して矛盾しなくてはならないことが示唆されている。
- 参考スコア(独自算出の注目度): 0.4588028371034407
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Top-$k$ classification is a generalization of multiclass classification used
widely in information retrieval, image classification, and other extreme
classification settings. Several hinge-like (piecewise-linear) surrogates have
been proposed for the problem, yet all are either non-convex or inconsistent.
For the proposed hinge-like surrogates that are convex (i.e., polyhedral), we
apply the recent embedding framework of Finocchiaro et al. (2019; 2022) to
determine the prediction problem for which the surrogate is consistent. These
problems can all be interpreted as variants of top-$k$ classification, which
may be better aligned with some applications. We leverage this analysis to
derive constraints on the conditional label distributions under which these
proposed surrogates become consistent for top-$k$. It has been further
suggested that every convex hinge-like surrogate must be inconsistent for
top-$k$. Yet, we use the same embedding framework to give the first consistent
polyhedral surrogate for this problem.
- Abstract(参考訳): Top-k$分類(Top-k$ classification)は、情報検索、画像分類、その他の極端な分類設定において広く用いられる多クラス分類の一般化である。
いくつかのヒンジ状の(区分線形な)サロゲートが提案されているが、全ては凸でないか矛盾している。
凸であるヒンジ状サーロゲート(つまり多面体)について,最近のfinocchiaro et al. (2019; 2022) の埋め込みフレームワークを適用し,サーロゲートが一貫した予測問題を決定する。
これらの問題は、すべてトップ$k$の分類の変種として解釈でき、いくつかの応用とよりよく一致している可能性がある。
我々は、この解析を利用して条件付きラベル分布の制約を導出し、提案するサロゲートはトップ$k$に対して一貫性を持つ。
さらに、すべての凸ヒンジ状サロゲートは、トップ$k$に対して矛盾していることが示唆されている。
しかし、我々は同じ埋め込みフレームワークを使用して、この問題に対して最初の一貫した多面体代理を与える。
関連論文リスト
- The Real Price of Bandit Information in Multiclass Classification [73.17969992976501]
バンディットフィードバックを用いた複数クラス分類の古典的問題を再考する。
我々は, 後悔すべき$smashwidetildeO(|H|+sqrtT)$を保証する新しい帯域分類アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-05-16T12:11:09Z) - A Universal Growth Rate for Learning with Smooth Surrogate Losses [30.389055604165222]
2進分類におけるスムーズなマージンベースサロゲート損失に対して,0付近の平方根成長速度を証明した。
我々は、この分析を、一連の新しい結果でマルチクラス分類に拡張する。
論文 参考訳(メタデータ) (2024-05-09T17:59:55Z) - Consistent algorithms for multi-label classification with macro-at-$k$ metrics [5.404202957668374]
各ラベルに別々に適用されたバイナリ分類ユーティリティの和に線形に分解可能なメトリクスに焦点をあてる。
これらの"macro-at-k$"メトリクスは、長い尾ラベルを持つ極端な分類問題に対して望ましい性質を持っている。
本稿では,Frank-Wolfe法に基づく統計的に一貫した実践的学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-01-29T21:51:27Z) - Generating Unbiased Pseudo-labels via a Theoretically Guaranteed
Chebyshev Constraint to Unify Semi-supervised Classification and Regression [57.17120203327993]
分類におけるしきい値と擬似ラベルプロセス(T2L)は、ラベルの品質を決定するために信頼性を使用する。
本質的には、レグレッションは高品質なラベルを生成するためにバイアスのない方法も必要である。
チェビシェフの不等式に基づく不偏ラベルを生成するための理論的に保証された制約を提案する。
論文 参考訳(メタデータ) (2023-11-03T08:39:35Z) - Mitigating Word Bias in Zero-shot Prompt-based Classifiers [55.60306377044225]
一致したクラス先行は、オラクルの上界性能と強く相関していることを示す。
また,NLPタスクに対するプロンプト設定において,一貫したパフォーマンス向上を示す。
論文 参考訳(メタデータ) (2023-09-10T10:57:41Z) - Precise Asymptotic Generalization for Multiclass Classification with
Overparameterized Linear Models [4.093769373833101]
Subramanian et al.'22 の予想では、データポイント、特徴、クラスの数はすべて一緒になる。
我々の新しい下限は情報理論の強い逆に似ており、それらは誤分類率が0か1に近づくことを証明している。
厳密な解析の鍵はハンソン・ライトの不等式の新しい変種であり、スパースラベルの多重クラス問題に広く有用である。
論文 参考訳(メタデータ) (2023-06-23T00:59:15Z) - A Primal-Dual Approach to Solving Variational Inequalities with General Constraints [54.62996442406718]
Yang et al. (2023) は最近、一般的な変分不等式を解決するために一階勾配法を使う方法を示した。
この方法の収束性を証明し、演算子が$L$-Lipschitz と monotone である場合、この手法の最後の繰り返しのギャップ関数が$O(frac1sqrtK)$で減少することを示す。
論文 参考訳(メタデータ) (2022-10-27T17:59:09Z) - Cautious Active Clustering [79.23797234241471]
ユークリッド空間上の未知の確率測度からサンプリングされた点の分類の問題を考える。
我々のアプローチは、未知の確率測度を、各クラスに対する条件付き確率の凸結合として考えることである。
論文 参考訳(メタデータ) (2020-08-03T23:47:31Z) - Stochastic Linear Bandits Robust to Adversarial Attacks [117.665995707568]
我々はロバスト位相除去アルゴリズムの2つの変種を提供し、その1つは$C$を知っており、もう1つはそうでない。
いずれの変種も、倒壊しない場合には、それぞれ$C = 0$ となり、それぞれ追加の加法項が生じる。
文脈的設定では、単純な欲求的アルゴリズムは、明示的な探索を行わず、C$を知らないにもかかわらず、ほぼ最適加法的後悔項で証明可能な堅牢性を示す。
論文 参考訳(メタデータ) (2020-07-07T09:00:57Z) - Classifier-independent Lower-Bounds for Adversarial Robustness [13.247278149124757]
理論的には、テストタイムの逆数と雑音の分類例に対するロバスト性の限界を解析する。
最適輸送理論を用いて、与えられた分類問題に対して分類器ができるベイズ最適誤差の変分式を導出する。
一般的な距離ベース攻撃の場合,ベイズ最適誤差に対して明らかな下限を導出する。
論文 参考訳(メタデータ) (2020-06-17T16:46:39Z) - General Framework for Binary Classification on Top Samples [0.0]
ランキング問題、トップでの精度、仮説テストの例は、この形式で記述される可能性があることを示す。
本稿では,これらの問題のクラスに対処する一般的なフレームワークを提案し,どの既知のメソッドがこのフレームワークに該当するかを示す。
論文 参考訳(メタデータ) (2020-02-25T14:54:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。