論文の概要: Learning to Embed Distributions via Maximum Kernel Entropy

• arxiv url: http://arxiv.org/abs/2408.00549v1
• Date: Thu, 1 Aug 2024 13:34:19 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-04 20:26:35.148995
• Title: Learning to Embed Distributions via Maximum Kernel Entropy
• Title（参考訳）: 最大カーネルエントロピーによる埋め込み分布の学習
• Authors: Oleksii Kachaiev, Stefano Recanatesi,
• Abstract要約: 固有データは、確率分布の集合からのサンプルと見なすことができる。 カーネルメソッドは、これらの分布を分類する学習の自然なアプローチとして現れてきた。 データ依存分散カーネルの教師なし学習のための新しい目的を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Empirical data can often be considered as samples from a set of probability distributions. Kernel methods have emerged as a natural approach for learning to classify these distributions. Although numerous kernels between distributions have been proposed, applying kernel methods to distribution regression tasks remains challenging, primarily because selecting a suitable kernel is not straightforward. Surprisingly, the question of learning a data-dependent distribution kernel has received little attention. In this paper, we propose a novel objective for the unsupervised learning of data-dependent distribution kernel, based on the principle of entropy maximization in the space of probability measure embeddings. We examine the theoretical properties of the latent embedding space induced by our objective, demonstrating that its geometric structure is well-suited for solving downstream discriminative tasks. Finally, we demonstrate the performance of the learned kernel across different modalities.
• Abstract（参考訳）: 経験的データは、確率分布の集合からのサンプルと見なされることが多い。 カーネルメソッドは、これらの分布を分類する学習の自然なアプローチとして現れてきた。 分散間で多くのカーネルが提案されているが、カーネルメソッドを分散回帰タスクに適用することは、主に適切なカーネルを選択することは簡単ではないため、依然として困難である。 驚いたことに、データ依存のディストリビューションカーネルを学ぶという問題はほとんど注目を集めていない。 本稿では,確率測度埋め込みの空間におけるエントロピー最大化の原理に基づく,データ依存分散カーネルの教師なし学習のための新しい目的を提案する。 本研究の目的は,我々の目的によって誘導される潜伏埋め込み空間の理論的性質を検証し,その幾何学的構造が下流の識別課題の解決に適していることを示すことである。 最後に,学習したカーネルの性能を異なるモードで示す。

関連論文リスト

• Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian Mixture Models [59.331993845831946]
  拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。 本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
  論文  参考訳（メタデータ） (2024-03-03T23:15:48Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Improved learning theory for kernel distribution regression with two-stage sampling [3.154269505086155]
  カーネルメソッドは分散回帰問題に取り組む方法として選択されている。 ヒルベルトの埋め込みに対して,新しい誤差境界を提供する新しい非バイアス条件を導入する。 この条件は、最適輸送と平均埋め込みに基づくカーネルの3つの重要なクラスに当てはまることを示す。
  論文  参考訳（メタデータ） (2023-08-28T06:29:09Z)
• Variational Autoencoder Kernel Interpretation and Selection for Classification [59.30734371401315]
  本研究では,変分オートエンコーダの畳み込みエンコーダによって生成された特徴に基づく確率的分類器のカーネル選択手法を提案する。 提案した実装では、各カーネルに対して各分散が生成されるため、各潜伏変数を最終エンコーダの畳み込み層の単一カーネルに関連付けられた分布からサンプリングした。 サンプル化された潜伏変数で関連する機能を選択することで、カーネルの選択を実行し、非形式的機能とカーネルをフィルタリングすることができる。
  論文  参考訳（メタデータ） (2022-09-10T17:22:53Z)
• Self-supervised learning with rotation-invariant kernels [4.059849656394191]
  組込み分布を超球面上の均一分布に近接させる汎用正規化損失を設計するための汎用カーネルフレームワークを提案する。 我々のフレームワークは、ハイパースフィア上で定義された回転不変カーネル(ドット生成カーネルとも呼ばれる)を使用する。 本実験は, 回転不変カーネルを用いることで, 最先端の手法と比較して, 競合する結果が得られることを示した。
  論文  参考訳（メタデータ） (2022-07-28T08:06:24Z)
• On the Benefits of Large Learning Rates for Kernel Methods [110.03020563291788]
  本稿では,カーネル手法のコンテキストにおいて,現象を正確に特徴付けることができることを示す。 分離可能なヒルベルト空間における2次対象の最小化を考慮し、早期停止の場合、学習速度の選択が得られた解のスペクトル分解に影響を及ぼすことを示す。
  論文  参考訳（メタデータ） (2022-02-28T13:01:04Z)
• Distribution Regression with Sliced Wasserstein Kernels [45.916342378789174]
  分布回帰のための最初のOTに基づく推定器を提案する。 このような表現に基づくカーネルリッジ回帰推定器の理論的性質について検討する。
  論文  参考訳（メタデータ） (2022-02-08T15:21:56Z)
• Kernel Mean Estimation by Marginalized Corrupted Distributions [96.9272743070371]
  カーネル平均をヒルベルト空間で推定することは、多くのカーネル学習アルゴリズムにおいて重要な要素である。 本稿では,カーネル平均推定器としてカーネル平均推定器を提案する。
  論文  参考訳（メタデータ） (2021-07-10T15:11:28Z)
• A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
  カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。 カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。 有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
  論文  参考訳（メタデータ） (2021-06-18T08:33:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。