論文の概要: Representative Learning for Distributed Support Vector Machines
- arxiv url: http://arxiv.org/abs/2611.00641v1
- Date: Sat, 31 Oct 2026 05:06:24 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:29:49.464591
- Title: Representative Learning for Distributed Support Vector Machines
- Title（参考訳）: 分散支援ベクトルマシンのための代表学習
- Abstract要約: 分散サポートベクトルマシン(SVM)の学習は、異種ローカルデータと限られた通信条件下では困難である。
我々は,Lifted Empirical Risk Minimizationに基づく代表的学習フレームワークを開発する。
共有カーネル辞書を通じて非線形SVMに拡張する。
- 参考スコア（独自算出の注目度）: 5.703174155660825
- License:
- Abstract: Distributed support vector machine (SVM) learning is challenging under heterogeneous local data and limited communication. We develop a Representative Learning framework based on Lifted Empirical Risk Minimization, replacing each covariate by a local Gaussian distribution. For linear SVMs, the resulting expected hinge loss has an exact closed form, is smooth for nondegenerate lifting covariances, and converges to the ordinary hinge loss as the covariance vanishes. The lifted formulation enables clouded representatives that encode both location and covariance. We study a model-independent Mean Representative (MR) and a Score-Matching Representative (SMR) that matches the class-wise lifted gradient at its construction parameter. We show that SMR covariance scaling is stable with respect to within-group heterogeneity and that the gradient discrepancy between full data and frozen representatives is controlled by the maximum within-group diameter. Under strong convexity and smoothness, this yields an inexact-gradient convergence guarantee. Experiments under heterogeneous class allocation show that lifted representatives remain competitive with centralized solutions, while SMR more closely recovers the centralized lifted-SVM optimizer. We further extend the framework to nonlinear SVMs through a shared kernel dictionary, with experiments on Ionosphere and Australian Credit Approval showing analogous behavior. These results provide a distributional representative framework for communication-efficient distributed SVM learning under heterogeneity.
- Abstract（参考訳）: 分散サポートベクトルマシン(SVM)の学習は、異種ローカルデータと限られた通信条件下では困難である。
我々は,各共変分を局所的なガウス分布に置き換え,Lifted Empirical Risk Minimizationに基づく代表的学習フレームワークを開発する。
線形SVMの場合、結果として得られるヒンジ損失は正確な閉形式であり、非退化持ち上げ共分散に対して滑らかであり、共分散が消えるにつれて通常のヒンジ損失に収束する。
リフトされた定式化は、位置と共分散の両方を符号化する雲の表現を可能にする。
モデル非依存平均代表(MR)とスコア整合代表(SMR)を,構成パラメータにおけるクラスワイド昇降勾配に一致させる。
本研究では,SMR共分散スケーリングが群内不均一性に対して安定であり,全データと凍結代表値の勾配差は群内最大径で制御可能であることを示す。
強い凸性と滑らかさの下で、これは不正確な漸進収束を保証する。
不均質なクラスアロケーション下での実験では、リフトされた代表者は集中型ソリューションと競合し続け、SMRはより緊密に集中型リフトされたSVMオプティマイザを復元する。
さらに、IonosphereとAustralian Credit Approvalで同様の振る舞いを示す実験を行い、共有カーネル辞書を通じて非線形SVMに拡張する。
これらの結果は、不均一性下での通信効率の高い分散SVM学習のための分散代表フレームワークを提供する。
関連論文リスト
- Diffusion Reward Models [56.078040107894]
DRMはDiffusion Reward Modelで、$p(mathbfrmid x,y)$以上の条件密度推定として報酬モデルを再キャストする。
単一のアーキテクチャは、多属性回帰とペアワイズ選好データの両方を処理し、$N$サンプルでの推論は、スカラー、分散、量子化に集約できる経験的な報酬分布を形成する。
5つのベンチマークで、DRMは一致したデータとバックボーンの下でベースラインにマッチまたはオーバーし、より大きな差別的、分布的、生成的RMと競争し続け、従来のヘッドを持つマルチモーダル報酬構造を回復する。
論文 参考訳（メタデータ） (2026-09-27T17:57:14Z) - Cluster-Based Dimensionality Reduction by Nonparametric Distributional Screening [1.4773309126683776]
我々は,2つ以上のクラスタに供給された分割を伴う高次元観測における次元の低減について検討する。
提案手法は,数サンプルのコルモゴロフ-スミルノフ分離統計量を用いて,クラスタ固有の経験分布関数を比較する。
得られた限界クラスタのサポートを形式化し、全ての座標に対して一貫した有限サンプル濃度を確立する。
論文 参考訳（メタデータ） (2026-09-06T21:58:59Z) - Unpaired Joint Distribution Modeling via Multi-Scale Image Representations [13.716130705767]
LUD-MSRは、補助的な表現を通して結合分布をモデル化する潜在変数確率的フレームワークである。
MSRは既存のアプローチに比べて,このトレードオフのバランスが良好であることを示す。
論文 参考訳（メタデータ） (2026-07-09T07:54:45Z) - SRRM: Improving Recursive Transport Surrogates in the Small-Discrepancy Regime [6.003063788876664]
本稿では,このクラスの代表例として再帰的ランクマッチング(RRM)について,人口順に検討する。
そして, 分解能の低下の原因となるミスマッチ機構を同定した。
論文 参考訳（メタデータ） (2026-03-19T11:32:28Z) - Rao-Blackwell Gradient Estimators for Equivariant Denoising Diffusion [55.95767828747407]
分子やタンパク質の生成のようなドメインでは、物理系はモデルにとって重要な固有の対称性を示す。
学習のばらつきを低減し、確率的に低い分散勾配推定器を提供するフレームワークを提案する。
また,軌道拡散法(Orbit Diffusion)と呼ばれる手法を用いて,損失とサンプリングの手順を取り入れた推定器の実用的実装を提案する。
論文 参考訳（メタデータ） (2025-02-14T03:26:57Z) - How to train your VAE [0.0]
変分オートエンコーダ(VAE)は、機械学習における生成モデリングと表現学習の基盤となっている。
本稿では,ELBO(エビデンス・ロウアー・バウンド)における重要な構成要素であるKLディバージェンス(Kulback-Leibler)の解釈について検討する。
提案手法は, ELBOを後続確率のガウス混合体で再定義し, 正規化項を導入し, テクスチャリアリズムを高めるためにPatchGAN識別器を用いる。
論文 参考訳（メタデータ） (2023-09-22T19:52:28Z) - Structure-preserving GANs [6.438897276587413]
分散学習のためのデータ効率フレームワークとして,構造保存型GANを導入する。
我々は、不変判別器空間上のその射影に対して、判別器空間を減少させることができることを示す。
固有群対称性を持つ分布に対する対称性保存GANを構築することで、我々の枠組みを文脈化する。
論文 参考訳（メタデータ） (2022-02-02T16:40:04Z) - Decentralized Local Stochastic Extra-Gradient for Variational
Inequalities [125.62877849447729]
我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。
我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。
理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
論文 参考訳（メタデータ） (2021-06-15T17:45:51Z) - Estimating Average Treatment Effects with Support Vector Machines [77.34726150561087]
サポートベクターマシン(SVM)は、機械学習文献で最も人気のある分類アルゴリズムの1つです。
我々はsvmをカーネルベースの重み付け手順として適用し,治療群と制御群の最大平均差を最小化する。
このトレードオフから生じる因果効果推定のバイアスを特徴づけ、提案されたSVM手順と既存のカーネルバランシング手法を結びつけます。
論文 参考訳（メタデータ） (2021-02-23T20:22:56Z) - Learning Calibrated Uncertainties for Domain Shift: A Distributionally
Robust Learning Approach [150.8920602230832]
ドメインシフトの下で校正された不確実性を学習するためのフレームワークを提案する。
特に、密度比推定は、ターゲット(テスト)サンプルの近さをソース(トレーニング)分布に反映する。
提案手法は下流タスクに有利な校正不確実性を生成する。
論文 参考訳（メタデータ） (2020-10-08T02:10:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。