論文の概要: Hard Shape-Constrained Kernel Machines
- arxiv url: http://arxiv.org/abs/2005.12636v2
- Date: Sat, 17 Oct 2020 09:59:26 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-28 23:47:43.537800
- Title: Hard Shape-Constrained Kernel Machines
- Title(参考訳): 硬形制約カーネルマシン
- Authors: Pierre-Cyril Aubin-Frankowski, Zoltan Szabo
- Abstract要約: 関数導関数に対するハードアフィン形状の制約をカーネルマシンにエンコードできることを証明した。
本稿では,凸解法において容易に実装可能な2次コーン拘束型再構成法を提案する。
- 参考スコア(独自算出の注目度): 4.94950858749529
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Shape constraints (such as non-negativity, monotonicity, convexity) play a
central role in a large number of applications, as they usually improve
performance for small sample size and help interpretability. However enforcing
these shape requirements in a hard fashion is an extremely challenging problem.
Classically, this task is tackled (i) in a soft way (without out-of-sample
guarantees), (ii) by specialized transformation of the variables on a
case-by-case basis, or (iii) by using highly restricted function classes, such
as polynomials or polynomial splines. In this paper, we prove that hard affine
shape constraints on function derivatives can be encoded in kernel machines
which represent one of the most flexible and powerful tools in machine learning
and statistics. Particularly, we present a tightened second-order cone
constrained reformulation, that can be readily implemented in convex solvers.
We prove performance guarantees on the solution, and demonstrate the efficiency
of the approach in joint quantile regression with applications to economics and
to the analysis of aircraft trajectories, among others.
- Abstract(参考訳): 形状制約(非負性性、単調性、凸性など)は、多くのアプリケーションにおいて中心的な役割を果たす。
しかし、これらの形状要求を厳しい方法で実施することは、非常に難しい問題である。
古典的には この課題は
(i)ソフトな方法で(保証外保証なしで)
(ii) ケース・バイ・ケースに基づく変数の特殊変換、又は
(iii)多項式や多項式スプラインのような高度に制限された関数クラスを使用すること。
本稿では,関数導関数に対するハードアフィン形状制約を,機械学習や統計学において最も柔軟かつ強力なツールの1つであるカーネルマシンに符号化できることを示す。
特に,凸解法において容易に実装可能な2次コーン拘束型再構成を提案する。
提案手法の性能保証を証明し, 共同量子化回帰におけるアプローチの効率性, 経済への応用, 航空機軌道解析等について述べる。
関連論文リスト
- Shape Arithmetic Expressions: Advancing Scientific Discovery Beyond Closed-Form Equations [56.78271181959529]
GAM(Generalized Additive Models)は、変数とターゲットの間の非線形関係をキャプチャできるが、複雑な特徴相互作用をキャプチャすることはできない。
本稿では,GAMのフレキシブルな形状関数と,数学的表現に見られる複雑な特徴相互作用を融合させる形状表現算術(SHARE)を提案する。
また、標準制約を超えた表現の透明性を保証するSHAREを構築するための一連のルールを設計する。
論文 参考訳(メタデータ) (2024-04-15T13:44:01Z) - Optimizing Solution-Samplers for Combinatorial Problems: The Landscape
of Policy-Gradient Methods [52.0617030129699]
本稿では,DeepMatching NetworksとReinforcement Learningメソッドの有効性を解析するための新しい理論フレームワークを提案する。
我々の主な貢献は、Max- and Min-Cut、Max-$k$-Bipartite-Bi、Maximum-Weight-Bipartite-Bi、Traveing Salesman Problemを含む幅広い問題である。
本分析の副産物として,バニラ降下による新たな正則化プロセスを導入し,失効する段階的な問題に対処し,悪い静止点から逃れる上で有効であることを示す理論的および実験的証拠を提供する。
論文 参考訳(メタデータ) (2023-10-08T23:39:38Z) - Symmetric Tensor Networks for Generative Modeling and Constrained
Combinatorial Optimization [72.41480594026815]
ポートフォリオ最適化からロジスティクスに至るまで、制約付き最適化問題は業界に多い。
これらの問題の解決における主要な障害の1つは、有効な検索空間を制限する非自明なハード制約の存在である。
本研究では、Ax=bという形の任意の整数値等式制約をU(1)対称ネットワーク(TN)に直接エンコードし、それらの適用性を量子に着想を得た生成モデルとして活用する。
論文 参考訳(メタデータ) (2022-11-16T18:59:54Z) - Learning Globally Smooth Functions on Manifolds [94.22412028413102]
スムーズな関数の学習は、線形モデルやカーネルモデルなどの単純なケースを除いて、一般的に難しい。
本研究は,半無限制約学習と多様体正規化の技法を組み合わせることで,これらの障害を克服することを提案する。
軽度条件下では、この手法は解のリプシッツ定数を推定し、副生成物として大域的に滑らかな解を学ぶ。
論文 参考訳(メタデータ) (2022-10-01T15:45:35Z) - Sparse Polynomial Optimization: Theory and Practice [5.27013884159732]
本書は、この課題に重要な科学的意味を持って取り組むためのいくつかの取り組みを提示している。
これは計算複雑性の観点からうまくスケールする代替の最適化スキームを提供する。
制約のない問題や制約のない問題に対して、緩和の疎開的階層を提示する。
論文 参考訳(メタデータ) (2022-08-23T18:56:05Z) - Approximate Latent Force Model Inference [1.3927943269211591]
潜在力モデルは、動的システムにおける推論のための純粋にデータ駆動ツールの解釈可能な代替手段を提供する。
ニューラルネットワークのアプローチは、モデルを数千のインスタンスにスケールし、高速で分散的な計算を可能にします。
論文 参考訳(メタデータ) (2021-09-24T09:55:00Z) - Handling Hard Affine SDP Shape Constraints in RKHSs [3.8073142980733]
関数誘導体上でハードアフィンSDP制約を符号化するための統一化されたモジュール型凸最適化フレームワークを提案する。
vRKHSの幾何学的性質を利用して、提案されたスキームとその適応変種の一貫性を証明します。
論文 参考訳(メタデータ) (2021-01-05T14:08:58Z) - Binary matrix factorization on special purpose hardware [5.926928436252818]
データマイニングに多くの応用がある重要なバイナリ行列分解(BMF)問題に焦点をあてる。
BMFのための2つのQUBO定式化を提案し、これらの定式化にクラスタリング制約をどのように組み込むかを示す。
また,いくつかの状況において,より洗練された手法よりも優れた単純なベースラインアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-10-17T01:44:24Z) - Conditional gradient methods for stochastically constrained convex
minimization [54.53786593679331]
構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。
私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。
提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
論文 参考訳(メタデータ) (2020-07-07T21:26:35Z) - Scalable Differentiable Physics for Learning and Control [99.4302215142673]
微分物理学は、物理的対象や環境を含む問題を学習し、制御するための強力なアプローチである。
我々は、多数のオブジェクトとその相互作用をサポートすることができる微分可能物理学のためのスケーラブルなフレームワークを開発する。
論文 参考訳(メタデータ) (2020-07-04T19:07:51Z) - Convergence of a Stochastic Gradient Method with Momentum for Non-Smooth
Non-Convex Optimization [25.680334940504405]
本稿では,制約問題に対する運動量を持つ非滑らかな過渡法の割合の収束性を確立する。
問題としては、制約のないケースが、最先端技術よりも弱い仮定の下でどのように分析できるかを示す。
論文 参考訳(メタデータ) (2020-02-13T12:10:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。