論文の概要: Learning PSD-valued functions using kernel sums-of-squares
- arxiv url: http://arxiv.org/abs/2111.11306v1
- Date: Mon, 22 Nov 2021 16:07:50 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-23 14:03:14.234253
- Title: Learning PSD-valued functions using kernel sums-of-squares
- Title(参考訳): カーネル和を用いたPSD値関数の学習
- Authors: Boris Muzellec, Francis Bach, Alessandro Rudi
- Abstract要約: PSDコーンの値を取る関数に対して,カーネルの総和モデルを導入する。
PSD関数の普遍近似を構成することを示し、サブサンプル等式制約の場合の固有値境界を導出する。
次に、この結果を凸関数のモデル化に応用し、ヘッセンのカーネル和-二乗表現を強制する。
- 参考スコア(独自算出の注目度): 94.96262888797257
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Shape constraints such as positive semi-definiteness (PSD) for matrices or
convexity for functions play a central role in many applications in machine
learning and sciences, including metric learning, optimal transport, and
economics. Yet, very few function models exist that enforce PSD-ness or
convexity with good empirical performance and theoretical guarantees. In this
paper, we introduce a kernel sum-of-squares model for functions that take
values in the PSD cone, which extends kernel sums-of-squares models that were
recently proposed to encode non-negative scalar functions. We provide a
representer theorem for this class of PSD functions, show that it constitutes a
universal approximator of PSD functions, and derive eigenvalue bounds in the
case of subsampled equality constraints. We then apply our results to modeling
convex functions, by enforcing a kernel sum-of-squares representation of their
Hessian, and show that any smooth and strongly convex function may be thus
represented. Finally, we illustrate our methods on a PSD matrix-valued
regression task, and on scalar-valued convex regression.
- Abstract(参考訳): 行列に対する正の半定性(PSD)や関数に対する凸性といった形状制約は、計量学習、最適輸送、経済学など、機械学習や科学における多くの応用において中心的な役割を果たす。
しかし、PSDや凸性を優れた経験的性能と理論的保証で強制する関数モデルはほとんど存在しない。
本稿では,非負のスカラー関数をエンコードするために最近提案された,psdコーンの値を取る関数のカーネル・サム・オブ・2乗モデルを提案する。
我々は、PSD関数のクラスに対する表現定理を提案し、PSD関数の普遍近似を構成することを示し、サブサンプリング等式制約の場合の固有値境界を導出する。
次に、この結果は、ヘッセンの核の総和表現を強制することにより凸関数のモデル化に適用し、滑らかで強い凸関数を表現できることを示す。
最後に,psd行列値回帰タスクとスカラー値凸回帰の手法について述べる。
関連論文リスト
- Chebyshev approximation and composition of functions in matrix product states for quantum-inspired numerical analysis [0.0]
解析的かつ高度に微分可能な関数をMPSチェビシェフ補間子として表現するために,反復的なチェビシェフ展開とクレショー評価を用いるアルゴリズムを提案する。
これは高微分可能な函数に対する急速な収束を示し、理論的な予測と整合し、多次元のシナリオに効率的に一般化する。
論文 参考訳(メタデータ) (2024-07-12T18:00:06Z) - Functional-Edged Network Modeling [5.858447612884839]
我々は、隣接行列を関数的隣接テンソルに変換し、関数表現専用の追加次元を導入する。
関数エッジの不規則な観測に対処するため,テンソル完備化問題の解法としてモデル推論を行う。
また、関数型エッジネットワークモデルの望ましい性質を示すために、いくつかの定理を導出する。
論文 参考訳(メタデータ) (2024-03-30T02:23:01Z) - Continuous-Time Functional Diffusion Processes [24.31376730733132]
無限次元関数空間へのスコアベース拡散モデルを一般化する関数拡散過程(FDP)を導入する。
FDPには、前方と後方のダイナミクスを記述するための新しいフレームワークと、実践的なトレーニング目標を導出するためのいくつかの拡張が必要です。
論文 参考訳(メタデータ) (2023-03-01T20:00:50Z) - PAC Reinforcement Learning for Predictive State Representations [60.00237613646686]
部分的に観察可能な力学系におけるオンライン強化学習(RL)について検討する。
我々は、他のよく知られたモデルをキャプチャする表現モデルである予測状態表現(PSR)モデルに焦点を当てる。
我々は,サンプル複雑性のスケーリングにおいて,ほぼ最適なポリシを学習可能な,PSRのための新しいモデルベースアルゴリズムを開発した。
論文 参考訳(メタデータ) (2022-07-12T17:57:17Z) - Provable General Function Class Representation Learning in Multitask
Bandits and MDPs [58.624124220900306]
マルチタスク表現学習は、サンプル効率を高めるために強化学習において一般的なアプローチである。
本研究では,解析結果を一般関数クラス表現に拡張する。
バンディットと線形MDPの一般関数クラスにおけるマルチタスク表現学習の利点を理論的に検証する。
論文 参考訳(メタデータ) (2022-05-31T11:36:42Z) - PSD Representations for Effective Probability Models [117.35298398434628]
最近提案された非負関数に対する正半定値(PSD)モデルがこの目的に特に適していることを示す。
我々はPSDモデルの近似と一般化能力の両方を特徴付け、それらが強い理論的保証を享受していることを示す。
本研究では,PSDモデルの密度推定,決定理論,推論への応用への道を開く。
論文 参考訳(メタデータ) (2021-06-30T15:13:39Z) - Non-parametric Models for Non-negative Functions [48.7576911714538]
同じ良い線形モデルから非負関数に対する最初のモデルを提供する。
我々は、それが表現定理を認め、凸問題に対する効率的な二重定式化を提供することを証明した。
論文 参考訳(メタデータ) (2020-07-08T07:17:28Z) - Invariant Feature Coding using Tensor Product Representation [75.62232699377877]
我々は,群不変特徴ベクトルが線形分類器を学習する際に十分な識別情報を含んでいることを証明した。
主成分分析やk平均クラスタリングにおいて,グループアクションを明示的に考慮する新たな特徴モデルを提案する。
論文 参考訳(メタデータ) (2019-06-05T07:15:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。