論文の概要: A Note On Nonlinear Regression Under L2 Loss
- arxiv url: http://arxiv.org/abs/2303.17745v1
- Date: Thu, 30 Mar 2023 23:43:22 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-03 15:36:46.549871
- Title: A Note On Nonlinear Regression Under L2 Loss
- Title(参考訳): L2損失下における非線形回帰に関する一考察
- Authors: Kaan Gokcesu, Hakan Gokcesu
- Abstract要約: L2損失損失関数の非線形回帰問題について検討する。
非二乗対凸系はモデルの訓練が容易で設計可能であることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We investigate the nonlinear regression problem under L2 loss (square loss)
functions. Traditional nonlinear regression models often result in non-convex
optimization problems with respect to the parameter set. We show that a convex
nonlinear regression model exists for the traditional least squares problem,
which can be a promising towards designing more complex systems with easier to
train models.
- Abstract(参考訳): L2損失(二乗損失)関数の非線形回帰問題について検討する。
従来の非線形回帰モデルはしばしばパラメータ集合に関して非凸最適化問題をもたらす。
従来の最小二乗問題に対して凸非線形回帰モデルが存在することを示した。
関連論文リスト
- Pessimistic Nonlinear Least-Squares Value Iteration for Offline Reinforcement Learning [53.97335841137496]
非線形関数近似を用いたオフラインRLにおけるPNLSVI(Pessimistic Least-Square Value Iteration)と呼ばれるオラクル効率のアルゴリズムを提案する。
本アルゴリズムは,関数クラスの複雑性に強く依存する後悔境界を享受し,線形関数近似に特化して最小限のインスタンス依存後悔を実現する。
論文 参考訳(メタデータ) (2023-10-02T17:42:01Z) - Optimal Nonlinearities Improve Generalization Performance of Random
Features [0.9790236766474201]
非線形活性化関数を持つランダム特徴モデルは、訓練および一般化誤差の観点からガウスモデルと実演的に等価であることが示されている。
ガウスモデルから取得したパラメータが最適非線形性の集合を定義できることを示す。
最適化された非線形性はReLUのような広く使われている非線形関数よりも優れた一般化性能が得られることを示す。
論文 参考訳(メタデータ) (2023-09-28T20:55:21Z) - Nonlinear Causal Discovery via Kernel Anchor Regression [12.672917592158269]
我々はカーネルアンカー回帰(KAR)を提案する非線形設定に取り組む。
我々は提案したKAR推定器の収束結果と非線形構造方程式モデル(SEM)を学習するためのKARの識別可能性条件を提供する。
実験により,提案したKAR推定器の既存のベースラインよりも優れた性能を示した。
論文 参考訳(メタデータ) (2022-10-30T08:46:36Z) - Implicit Parameter-free Online Learning with Truncated Linear Models [51.71216912089413]
パラメータフリーアルゴリズムは、設定された学習率を必要としないオンライン学習アルゴリズムである。
そこで我々は,「単純」なフレーバーを持つ新しい更新によって,切り離された線形モデルを活用できる新しいパラメータフリーアルゴリズムを提案する。
後悔の新たな分解に基づいて、新しい更新は効率的で、各ステップで1つの勾配しか必要とせず、切り捨てられたモデルの最小値をオーバーシュートすることはない。
論文 参考訳(メタデータ) (2022-03-19T13:39:49Z) - Time varying regression with hidden linear dynamics [74.9914602730208]
線形力学系に従って未知のパラメータが進化することを前提とした時間変化線形回帰モデルを再検討する。
反対に、基礎となる力学が安定である場合、このモデルのパラメータは2つの通常の最小二乗推定と組み合わせることで、データから推定できることが示される。
論文 参考訳(メタデータ) (2021-12-29T23:37:06Z) - The Geometry of Over-parameterized Regression and Adversarial
Perturbations [0.0]
パラメータ化モデルと過度パラメータ化モデルの両方に適用可能な回帰の幾何学的解釈を提案する。
逆摂動はバイアスモデルの基本形状から生じる一般的な特徴であることを示す。
論文 参考訳(メタデータ) (2021-03-25T19:52:08Z) - Hessian Eigenspectra of More Realistic Nonlinear Models [73.31363313577941]
私たちは、非線形モデルの広いファミリーのためのヘッセン固有スペクトルの言語的特徴付けを行います。
我々の分析は、より複雑な機械学習モデルで観察される多くの顕著な特徴の起源を特定するために一歩前進する。
論文 参考訳(メタデータ) (2021-03-02T06:59:52Z) - LQF: Linear Quadratic Fine-Tuning [114.3840147070712]
本稿では,非線形微調整に匹敵する性能を実現する事前学習モデルの線形化手法を提案する。
LQFはアーキテクチャの単純な変更、損失関数、そして一般的に分類に使用される最適化で構成されている。
論文 参考訳(メタデータ) (2020-12-21T06:40:20Z) - A Hypergradient Approach to Robust Regression without Correspondence [85.49775273716503]
本稿では,入力データと出力データとの対応が不十分な回帰問題について考察する。
ほとんどの既存手法はサンプルサイズが小さい場合にのみ適用できる。
シャッフル回帰問題に対する新しい計算フレームワークであるROBOTを提案する。
論文 参考訳(メタデータ) (2020-11-30T21:47:38Z) - The role of optimization geometry in single neuron learning [12.891722496444036]
近年,表現型ニューラルネットワークの学習において,最適化アルゴリズムの選択が一般化性能に影響を与えることが実証されている。
幾何学と特徴幾何学の相互作用が、どのようにしてアウト・オブ・サンプレットを導き、性能を向上させるかを示す。
論文 参考訳(メタデータ) (2020-06-15T17:39:44Z) - Generalization Error of Generalized Linear Models in High Dimensions [25.635225717360466]
任意の非線形性を持つニューラルネットワークを特徴付けるためのフレームワークを提供する。
正規ロジスティック回帰が学習に与える影響を解析する。
また,本モデルでは,特別事例の学習と配布の事例も捉えている。
論文 参考訳(メタデータ) (2020-05-01T02:17:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。