Fugu-MT 論文翻訳(概要): Ensemble Kernel Methods, Implicit Regularization and Determinantal Point Processes

論文の概要: Ensemble Kernel Methods, Implicit Regularization and Determinantal Point Processes

arxiv url: http://arxiv.org/abs/2006.13701v3
Date: Tue, 7 Jul 2020 07:34:12 GMT
ステータス: 処理完了
システム内更新日: 2022-11-17 09:23:02.410785
Title: Ensemble Kernel Methods, Implicit Regularization and Determinantal Point Processes
Title（参考訳）: アンサンブル・カーネル法、暗黙的正則化と行列式点過程
Authors: Joachim Schreurs, Micha\"el Fanuel and Johan A. K. Suykens
Abstract要約: 我々は,kDPPsをサンプリングしたサブセットが,リッジレスカーネル回帰の文脈で暗黙の正規化をもたらすことを示す。最初の実験結果から、リッジレス回帰器のアンサンブルが冗長な情報を含むデータセットに利用できることが示唆された。
参考スコア（独自算出の注目度）: 13.136143245702915
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: By using the framework of Determinantal Point Processes (DPPs), some theoretical results concerning the interplay between diversity and regularization can be obtained. In this paper we show that sampling subsets with kDPPs results in implicit regularization in the context of ridgeless Kernel Regression. Furthermore, we leverage the common setup of state-of-the-art DPP algorithms to sample multiple small subsets and use them in an ensemble of ridgeless regressions. Our first empirical results indicate that ensemble of ridgeless regressors can be interesting to use for datasets including redundant information.
Abstract（参考訳）: 決定点過程(DPP)の枠組みを用いることで,多様性と正規化の相互作用に関する理論的結果が得られる。本稿では,kDPPsのサンプリング部分集合がリッジレスカーネル回帰の文脈で暗黙の正規化をもたらすことを示す。さらに、最先端のDPPアルゴリズムの共通設定を利用して、複数の小さなサブセットをサンプリングし、リッジレス回帰のアンサンブルで使用する。最初の実験結果から、リッジレス回帰器のアンサンブルが冗長な情報を含むデータセットに利用できることが示唆された。

関連論文リスト

Sample Complexity Characterization for Linear Contextual MDPs [67.79455646673762]
文脈決定プロセス(CMDP)は、遷移カーネルと報酬関数がコンテキスト変数によってインデックス付けされた異なるMDPで時間とともに変化できる強化学習のクラスを記述する。 CMDPは、時間とともに変化する環境で多くの現実世界のアプリケーションをモデル化するための重要なフレームワークとして機能する。 CMDPを2つの線形関数近似モデルで検討する: 文脈変化表現とすべての文脈に対する共通線形重み付きモデルIと、すべての文脈に対する共通表現と文脈変化線形重み付きモデルIIである。
論文参考訳（メタデータ） (2024-02-05T03:25:04Z)
Linear Convergence of Reshuffling Kaczmarz Methods With Sparse Constraints [7.936519714074615]
カッツマルツ行列(英語版)(KZ)とその変種は、部分線型方程式系を解く際の単純さと効率性のために広く研究されている。 KHT に対する最初の理論的収束保証は、空間的制約のある系の解に線形に収束することを示すことである。
論文参考訳（メタデータ） (2023-04-20T07:14:24Z)
A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。ブレグマン最小化の発散の観点から一般的な枠組みを開発する。我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
論文参考訳（メタデータ） (2021-12-07T01:23:20Z)
Towards Deterministic Diverse Subset Sampling [14.236193187116049]
本稿では,k-DPPのグリーディ決定論的適応について論じる。画像検索作業におけるモデルの有用性を示す。
論文参考訳（メタデータ） (2021-05-28T16:05:58Z)
Determinantal consensus clustering [77.34726150561087]
本稿では,クラスタリングアルゴリズムのランダム再起動における決定点プロセス (DPP) の利用を提案する。 DPPは部分集合内の中心点の多様性を好んでいる。 DPPとは対照的に、この手法は多様性の確保と、すべてのデータフェースについて良好なカバレッジを得るために失敗することを示す。
論文参考訳（メタデータ） (2021-02-07T23:48:24Z)
Kernel learning approaches for summarising and combining posterior similarity matrices [68.8204255655161]
我々は,ベイズクラスタリングモデルに対するMCMCアルゴリズムの出力を要約するための新しいアプローチを提案するために,後部類似性行列(PSM)の概念を構築した。我々の研究の重要な貢献は、PSMが正の半定値であり、したがって確率的に動機付けられたカーネル行列を定義するのに使用できることである。
論文参考訳（メタデータ） (2020-09-27T14:16:14Z)
Model Fusion with Kullback--Leibler Divergence [58.20269014662046]
異種データセットから学習した後続分布を融合する手法を提案する。我々のアルゴリズムは、融合モデルと個々のデータセット後部の両方に対する平均場仮定に依存している。
論文参考訳（メタデータ） (2020-07-13T03:27:45Z)
Fast Learning in Reproducing Kernel Krein Spaces via Signed Measures [31.986482149142503]
我々はこの質問を,強調指標を導入することで,分布視点として捉えた。一連の非PDカーネルは、特定の有限ボレル測度の線型結合に関連付けられる。特に、このソリューションは、大規模なサンプルケースで非PDカーネルをスケールするために、実際に計算的に実装可能である。
論文参考訳（メタデータ） (2020-05-30T12:10:35Z)
Repulsive Mixture Models of Exponential Family PCA for Clustering [127.90219303669006]
指数関数型家族主成分分析(EPCA)の混合拡張は、従来のEPCAよりもデータ分布に関する構造情報を符号化するように設計された。従来のEPCAの混合は、モデルの冗長性、すなわち混合成分間の重なりが問題であり、データクラスタリングの曖昧さを引き起こす可能性がある。本稿では, 混合成分間での反発性増感前処理を導入し, ベイズ式に分散EPCA混合(DEPCAM)モデルを開発した。
論文参考訳（メタデータ） (2020-04-07T04:07:29Z)
Diversity sampling is an implicit regularization for kernel methods [13.136143245702915]
多様なランドマークを持つNystrのカーネルレグレッションにより,データセットのスペーサー領域におけるレグレッションの精度が向上することを示す。正確な DPP サンプリングが現実的に実現不可能な場合, 大規模なデータセット内で大きなサイズのサンプルを選択するために, グリーディも提案されている。
論文参考訳（メタデータ） (2020-02-20T08:24:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。