論文の概要: Spectrahedral Regression
- arxiv url: http://arxiv.org/abs/2110.14779v1
- Date: Wed, 27 Oct 2021 21:21:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-29 16:03:49.328894
- Title: Spectrahedral Regression
- Title(参考訳): スペクトルヘドラル回帰
- Authors: Eliza O'Reilly and Venkat Chandrasekaran
- Abstract要約: 入力-出力ペアからなるデータセットに凸関数を適合させる問題に対する新しいアプローチを提案する。
統計的リスク統計解析の凸関数を近似できることを示す。
本研究では, 経済工学設計などの応用における実データだけでなく, 合成データセットの実験によるアプローチを実証する。
- 参考スコア(独自算出の注目度): 7.2361978133966165
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Convex regression is the problem of fitting a convex function to a data set
consisting of input-output pairs. We present a new approach to this problem
called spectrahedral regression, in which we fit a spectrahedral function to
the data, i.e. a function that is the maximum eigenvalue of an affine matrix
expression of the input. This method represents a significant generalization of
polyhedral (also called max-affine) regression, in which a polyhedral function
(a maximum of a fixed number of affine functions) is fit to the data. We prove
bounds on how well spectrahedral functions can approximate arbitrary convex
functions via statistical risk analysis. We also analyze an alternating
minimization algorithm for the non-convex optimization problem of fitting the
best spectrahedral function to a given data set. We show that this algorithm
converges geometrically with high probability to a small ball around the
optimal parameter given a good initialization. Finally, we demonstrate the
utility of our approach with experiments on synthetic data sets as well as real
data arising in applications such as economics and engineering design.
- Abstract(参考訳): 凸回帰は、入出力対からなるデータセットに凸関数を適合させる問題である。
我々は、この問題に対する新しいアプローチとして、データにスペクトル関数、すなわち入力のアフィン行列表現の最大固有値である関数を適合させる、スペクトル回帰(spectrahedral regression)を提案する。
この方法は、データに多面体関数(固定数のアフィン関数の最大値)が適合する多面体回帰(マックス・アフィン(max-affine)レグレッション)の著しい一般化を表している。
スペクトルヘドラル関数が統計的リスク解析によって任意の凸関数を近似できるかどうかの境界を証明した。
また,与えられたデータセットに最良スペクトルヘドラル関数を適合させる非凸最適化問題に対する交互最小化アルゴリズムの解析を行う。
このアルゴリズムは, 良好な初期化を与えられた最適パラメータの周りの小球に対して, 幾何的に高い確率で収束することを示す。
最後に, 合成データセット実験や, 経済学や工学設計などの応用で発生する実データを用いて, 提案手法の有用性を実証する。
関連論文リスト
- Highly Adaptive Ridge [84.38107748875144]
直交可積分な部分微分を持つ右連続函数のクラスにおいて,$n-2/3$自由次元L2収束率を達成する回帰法を提案する。
Harは、飽和ゼロオーダーテンソル積スプライン基底展開に基づいて、特定のデータ適応型カーネルで正確にカーネルリッジレグレッションを行う。
我々は、特に小さなデータセットに対する最先端アルゴリズムよりも経験的性能が優れていることを示す。
論文 参考訳(メタデータ) (2024-10-03T17:06:06Z) - A Sample Efficient Alternating Minimization-based Algorithm For Robust Phase Retrieval [56.67706781191521]
そこで本研究では,未知の信号の復元を課題とする,ロバストな位相探索問題を提案する。
提案するオラクルは、単純な勾配ステップと外れ値を用いて、計算学的スペクトル降下を回避している。
論文 参考訳(メタデータ) (2024-09-07T06:37:23Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - Max-Linear Regression by Convex Programming [5.366354612549172]
我々は、最大線形回帰問題の推定器として、アンカーレグレッション(AR)によって与えられるスケーラブルな凸プログラムを定式化し、解析する。
以上の結果から, 対数係数まで, 正確な回復スケールについて, 十分な数のノイズのない観測結果が得られた。
論文 参考訳(メタデータ) (2021-03-12T00:55:54Z) - Ridge regression with adaptive additive rectangles and other piecewise
functional templates [0.0]
関数線形回帰モデルに対する$L_2$ベースのペナル化アルゴリズムを提案する。
提案アルゴリズムは,適切なテンプレートの近似と凸リッジのような問題の解法とを交互に行う方法を示す。
論文 参考訳(メタデータ) (2020-11-02T15:28:54Z) - Piecewise Linear Regression via a Difference of Convex Functions [50.89452535187813]
本稿では,データに対する凸関数(DC関数)の差を利用した線形回帰手法を提案する。
実際に実装可能であることを示すとともに,実世界のデータセット上で既存の回帰/分類手法に匹敵する性能を有することを実証的に検証した。
論文 参考訳(メタデータ) (2020-07-05T18:58:47Z) - Tight Nonparametric Convergence Rates for Stochastic Gradient Descent
under the Noiseless Linear Model [0.0]
このモデルに基づく最小二乗リスクに対する1パス, 固定段差勾配勾配の収束度を解析した。
特殊な場合として、ランダムなサンプリング点における値のノイズのない観測から単位区間上の実関数を推定するオンラインアルゴリズムを解析する。
論文 参考訳(メタデータ) (2020-06-15T08:25:50Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z) - Improved guarantees and a multiple-descent curve for Column Subset
Selection and the Nystr\"om method [76.73096213472897]
我々は,データ行列のスペクトル特性を利用して近似保証を改良する手法を開発した。
我々のアプローチは、特異値減衰の既知の速度を持つデータセットのバウンダリが大幅に向上する。
RBFパラメータを変更すれば,改良された境界線と多重発振曲線の両方を実データセット上で観測できることが示される。
論文 参考訳(メタデータ) (2020-02-21T00:43:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。