論文の概要: An exact solver for the Weston-Watkins SVM subproblem
- arxiv url: http://arxiv.org/abs/2102.05640v1
- Date: Wed, 10 Feb 2021 18:54:33 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-11 17:29:34.517701
- Title: An exact solver for the Weston-Watkins SVM subproblem
- Title(参考訳): Weston-Watkins SVMサブプロブレムの正確な解法
- Authors: Yutong Wang, Clayton D. Scott
- Abstract要約: We propose a algorithm that solve the subproblem exactly using a novel reparametrization of the Weston-Watkins dual problem。
我々の解法は,クラス数が大きければ最先端の解法よりも大幅に高速化されることを示す。
- 参考スコア(独自算出の注目度): 8.854725253233333
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent empirical evidence suggests that the Weston-Watkins support vector
machine is among the best performing multiclass extensions of the binary SVM.
Current state-of-the-art solvers repeatedly solve a particular subproblem
approximately using an iterative strategy. In this work, we propose an
algorithm that solves the subproblem exactly using a novel reparametrization of
the Weston-Watkins dual problem. For linear WW-SVMs, our solver shows
significant speed-up over the state-of-the-art solver when the number of
classes is large. Our exact subproblem solver also allows us to prove linear
convergence of the overall solver.
- Abstract(参考訳): 最近の実証的な証拠は、Weston-WatkinsサポートベクターマシンがバイナリSVMの最も優れたマルチクラス拡張であることを示している。
現在の最先端ソルバは、反復戦略を用いて、特定の部分問題を繰り返し解決する。
本研究では,Weston-Watkins双対問題の新たな再パラメータ化を用いて,サブ問題を正確に解くアルゴリズムを提案する。
線形WW-SVMの場合、クラス数が大きければ最先端の解法よりも大幅に高速化される。
我々の正確なサブプロブレム解法はまた、全体解法の線形収束を証明できる。
関連論文リスト
- Light Schrödinger Bridge [72.88707358656869]
我々は,軽量でシミュレーション不要で理論的に正当化されたSchr"odinger Bridgesソルバを開発した。
我々の光解法は密度推定に広く用いられているガウス混合モデルに類似している。
この類似性に着想を得て、光解法がSBの普遍近似であることを示す重要な理論的結果も証明した。
論文 参考訳(メタデータ) (2023-10-02T13:06:45Z) - Distributed Extra-gradient with Optimal Complexity and Communication
Guarantees [60.571030754252824]
複数のプロセッサ/ワーカー/クライアントがローカルなデュアルベクトルにアクセス可能なマルチGPU設定において、モノトン変分不等式(VI)問題を考察する。
モノトーンVI問題に対するデファクトアルゴリズムであるExtra-gradientは、通信効率が良くないように設計されている。
そこで本稿では,VI の解法に適した非バイアスで適応的な圧縮手法である量子化一般化外部勾配 (Q-GenX) を提案する。
論文 参考訳(メタデータ) (2023-08-17T21:15:04Z) - Second-order optimization with lazy Hessians [55.51077907483634]
一般の非線形最適化問題を解くためにニュートンの遅延ヘッセン更新を解析する。
我々は、メソッドの各ステップで新しい勾配を計算しながら、これまで見られたヘッセン反復を再利用する。
論文 参考訳(メタデータ) (2022-12-01T18:58:26Z) - A New Constructive Heuristic driven by Machine Learning for the
Traveling Salesman Problem [8.604882842499212]
近年,機械学習(ML)を用いてTSP(Traking Salesman Problem)を解くシステムでは,実ケースシナリオにスケールアップしようとすると問題が発生する。
問題に対処するため、候補リスト(CL)の使用が提起されている。
この作業では、高い確率のエッジに対してのみ、ソリューションの追加を確認するために、マシンラーニングモデルを使用します。
論文 参考訳(メタデータ) (2021-08-17T21:37:23Z) - Optimal Gradient-based Algorithms for Non-concave Bandit Optimization [76.57464214864756]
この研究は、未知の報酬関数が非可逆であるようなバンドイット問題の大群を考察する。
我々のアルゴリズムは、非常に一般化されたゼロ階最適化のパラダイムに基づいている。
標準的な楽観的アルゴリズムは次元因子によって準最適であることを示す。
論文 参考訳(メタデータ) (2021-07-09T16:04:24Z) - Learning to Delegate for Large-scale Vehicle Routing [4.425982186154401]
車両ルーティング問題 (VRPs) は、幅広い実用化の課題である。
従来あるいは学習ベースの作業は、最大100人の顧客の小さな問題インスタンスに対して、適切なソリューションを実現します。
本稿では,大規模VRPを解くために,新たな局所探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-07-08T22:51:58Z) - A fast learning algorithm for One-Class Slab Support Vector Machines [1.1613446814180841]
本稿では,SMO (Sequential Minimal Optimization) を用いた一級スラブSVMの高速トレーニング手法を提案する。
その結果、このトレーニング手法は、他の準計画法(QP)の解法よりも、大規模なトレーニングデータに対してより優れたスケールが可能であることが示唆された。
論文 参考訳(メタデータ) (2020-11-06T09:16:39Z) - A Hybrid Framework Using a QUBO Solver For Permutation-Based
Combinatorial Optimization [5.460573052311485]
本稿では,高性能な2次非制約バイナリ最適化器を用いて,大規模な置換に基づく問題を解くためのハイブリッドフレームワークを提案する。
通常はビット数に制限があるQUBOソルバを使用する際の課題を克服する手法を提案する。
論文 参考訳(メタデータ) (2020-09-27T07:15:25Z) - Frank-Wolfe algorithm for learning SVM-type multi-category classifiers [0.7646713951724012]
マルチカテゴリサポートベクターマシン(MC-SVM)は最も人気のある機械学習アルゴリズムの一つである。
本研究では,MC-SVMの変種の多くに適用可能な新しい最適化アルゴリズムを開発した。
論文 参考訳(メタデータ) (2020-08-20T11:19:07Z) - A Multi-Agent Primal-Dual Strategy for Composite Optimization over
Distributed Features [52.856801164425086]
目的関数を滑らかな局所関数と凸(おそらく非滑らか)結合関数の和とするマルチエージェント共有最適化問題について検討する。
論文 参考訳(メタデータ) (2020-06-15T19:40:24Z) - MPLP++: Fast, Parallel Dual Block-Coordinate Ascent for Dense Graphical
Models [96.1052289276254]
この研究は、人気のあるDual Block-Coordinate Ascent原則に基づく新しいMAP-solverを導入している。
驚いたことに、性能の低い解法に小さな変更を加えることで、既存の解法を大きなマージンで大幅に上回る新しい解法MPLP++を導出します。
論文 参考訳(メタデータ) (2020-04-16T16:20:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。