論文の概要: Tractable Computation of Expected Kernels by Circuits

• arxiv url: http://arxiv.org/abs/2102.10562v1
• Date: Sun, 21 Feb 2021 08:59:06 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-23 15:19:02.320109
• Title: Tractable Computation of Expected Kernels by Circuits
• Title（参考訳）: 回路による期待核のトラクタブル計算
• Authors: Wenzhe Li, Zhe Zeng, Antonio Vergari, Guy Van den Broeck
• Abstract要約: 我々は、期待されるカーネルを正確かつ効率的に計算できる条件を記述する。 次に、扱いやすい期待カーネルを活用して、カーネル組み込みフレームワークの進歩を実証する。 両アルゴリズムを実証的に評価し,各種データセットの標準ベースラインよりも優れていることを示す。
• 参考スコア（独自算出の注目度）: 35.059091080947205
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Computing the expectation of some kernel function is ubiquitous in machine learning, from the classical theory of support vector machines, to exploiting kernel embeddings of distributions in applications ranging from probabilistic modeling, statistical inference, casual discovery, and deep learning. In all these scenarios, we tend to resort to Monte Carlo estimates as expectations of kernels are intractable in general. In this work, we characterize the conditions under which we can compute expected kernels exactly and efficiently, by leveraging recent advances in probabilistic circuit representations. We first construct a circuit representation for kernels and propose an approach to such tractable computation. We then demonstrate possible advancements for kernel embedding frameworks by exploiting tractable expected kernels to derive new algorithms for two challenging scenarios: 1) reasoning under missing data with kernel support vector regressors; 2) devising a collapsed black-box importance sampling scheme. Finally, we empirically evaluate both algorithms and show that they outperform standard baselines on a variety of datasets.
• Abstract（参考訳）: あるカーネル関数の期待値の計算は、古典的サポートベクターマシンの理論から、確率的モデリング、統計的推論、カジュアルな発見、ディープラーニングまで幅広い応用における分布のカーネル埋め込みの活用まで、機械学習においてユビキタスである。 これらすべてのシナリオにおいて、カーネルの期待は一般に難解であるため、モンテカルロの推定に頼りがちである。 本研究では, 確率的回路表現の最近の進歩を活かして, 期待カーネルを正確かつ効率的に計算できる条件を特徴付ける。 まず、カーネルの回路表現を構築し、そのようなトラクタブル計算へのアプローチを提案する。 次に, 1 つの難解なシナリオ,1) カーネルサポートベクターレグレッセプタによるデータ不足の推論,2) 崩壊したブラックボックス重要サンプリングスキームの考案,の2つの難解なシナリオの新たなアルゴリズムを導出することにより,カーネル埋め込みフレームワークの進歩を実証する。 最後に、両アルゴリズムを実証的に評価し、様々なデータセットの標準ベースラインを上回っていることを示す。

関連論文リスト

• Heating Up Quasi-Monte Carlo Graph Random Features: A Diffusion Kernel Perspective [0.0]
  我々は最近導入された準グラフランダムな特徴のクラス(q-GRF)の上に構築する。 拡散核は2正規化ラプラシアンと最もよく似ている。 我々は、以前に確立されたアンチテーゼの終了手順の恩恵を受けるグラフタイプを探索する。
  論文  参考訳（メタデータ） (2024-10-10T21:51:31Z)
• Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
  ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。 カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。 我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-10-09T03:55:09Z)
• Gaussian Processes on Distributions based on Regularized Optimal Transport [2.905751301655124]
  最適正則輸送の双対定式化に基づく確率測度空間上の新しいカーネルを提案する。 この構成がヒルベルトノルムを用いて有効なカーネルを得ることを可能にすることを証明している。 このカーネルに基づくガウス過程の挙動に関する理論的保証を提供する。
  論文  参考訳（メタデータ） (2022-10-12T20:30:23Z)
• On the Benefits of Large Learning Rates for Kernel Methods [110.03020563291788]
  本稿では,カーネル手法のコンテキストにおいて,現象を正確に特徴付けることができることを示す。 分離可能なヒルベルト空間における2次対象の最小化を考慮し、早期停止の場合、学習速度の選択が得られた解のスペクトル分解に影響を及ぼすことを示す。
  論文  参考訳（メタデータ） (2022-02-28T13:01:04Z)
• Meta-Learning Hypothesis Spaces for Sequential Decision-making [79.73213540203389]
  オフラインデータ(Meta-KeL)からカーネルをメタ学習することを提案する。 穏やかな条件下では、推定されたRKHSが有効な信頼セットを得られることを保証します。 また,ベイズ最適化におけるアプローチの有効性を実証的に評価した。
  論文  参考訳（メタデータ） (2022-02-01T17:46:51Z)
• Kernel Mean Estimation by Marginalized Corrupted Distributions [96.9272743070371]
  カーネル平均をヒルベルト空間で推定することは、多くのカーネル学習アルゴリズムにおいて重要な要素である。 本稿では,カーネル平均推定器としてカーネル平均推定器を提案する。
  論文  参考訳（メタデータ） (2021-07-10T15:11:28Z)
• Entangled Kernels -- Beyond Separability [10.381276986079865]
  演算子値カーネル学習の問題を考察し、よく知られた分離可能なカーネルを超える可能性を検討する。 演算子値カーネルに関する新たな見解を提案し,従来知られていた演算子値カーネルを包含する一般的なカーネルファミリーを定義する。 この枠組みでは、分離不能なエンタングルカーネルと呼ばれる演算子値カーネルの新たなクラスを導入する。
  論文  参考訳（メタデータ） (2021-01-14T09:18:02Z)
• Learning Compositional Sparse Gaussian Processes with a Shrinkage Prior [26.52863547394537]
  本稿では,カーネル選択のスパーシティをホースシュープリアーで処理することにより,カーネル構成を学習するための新しい確率論的アルゴリズムを提案する。 本モデルは,計算時間を大幅に削減した時系列特性をキャプチャし,実世界のデータセット上での競合回帰性能を有する。
  論文  参考訳（メタデータ） (2020-12-21T13:41:15Z)
• Kernel learning approaches for summarising and combining posterior similarity matrices [68.8204255655161]
  我々は,ベイズクラスタリングモデルに対するMCMCアルゴリズムの出力を要約するための新しいアプローチを提案するために,後部類似性行列(PSM)の概念を構築した。 我々の研究の重要な貢献は、PSMが正の半定値であり、したがって確率的に動機付けられたカーネル行列を定義するのに使用できることである。
  論文  参考訳（メタデータ） (2020-09-27T14:16:14Z)
• Generalized vec trick for fast learning of pairwise kernel models [3.867363075280544]
  本稿では、オブジェクト間の関係に関する事前知識を組み込むために提案されている、ペアワイズカーネルの包括的なレビューを紹介する。 レビューされたすべてのカーネルがKronecker製品の和として表現できることを示し、一般化されたvecトリックを使用して計算を高速化する。
  論文  参考訳（メタデータ） (2020-09-02T13:27:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。