論文の概要: Higher Order Reduced Rank Regression
- arxiv url: http://arxiv.org/abs/2503.06528v1
- Date: Sun, 09 Mar 2025 09:21:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-11 15:50:39.220019
- Title: Higher Order Reduced Rank Regression
- Title(参考訳): 高次位階階階階階階階階階階階階階階階階階階階階階階階階階階階
- Authors: Leia Greenberg, Haim Avron,
- Abstract要約: Reduced Rank Regression (RRR) は、多応答回帰のための広く使われている手法である。
本稿では,HORRR(Higher Order Reduced Rank Regression)を紹介する。
HORRRは多重応答回帰における非線形相互作用を捉えることができる。
- 参考スコア(独自算出の注目度): 7.002470330184841
- License:
- Abstract: Reduced Rank Regression (RRR) is a widely used method for multi-response regression. However, RRR assumes a linear relationship between features and responses. While linear models are useful and often provide a good approximation, many real-world problems involve more complex relationships that cannot be adequately captured by simple linear interactions. One way to model such relationships is via multilinear transformations. This paper introduces Higher Order Reduced Rank Regression (HORRR), an extension of RRR that leverages multi-linear transformations, and as such is capable of capturing nonlinear interactions in multi-response regression. HORRR employs tensor representations for the coefficients and a Tucker decomposition to impose multilinear rank constraints as regularization akin to the rank constraints in RRR. Encoding these constraints as a manifold allows us to use Riemannian optimization to solve this HORRR problems. We theoretically and empirically analyze the use of Riemannian optimization for solving HORRR problems.
- Abstract(参考訳): Reduced Rank Regression (RRR) は、多応答回帰のための広く使われている手法である。
しかし、RRRは特徴と応答の線形関係を仮定する。
線形モデルは有用であり、しばしば良い近似を与えるが、多くの実世界の問題は、単純な線形相互作用によって適切に捉えられないより複雑な関係を含んでいる。
そのような関係をモデル化する方法の1つは、多重線型変換である。
本稿では,RRRの拡張であるHORRR(Higher Order Reduced Rank Regression)を紹介する。
HORRRは係数のテンソル表現とタッカー分解を用いて、RRRの階数制約に似た正規化として多重線型階数制約を課す。
これらの制約を多様体としてエンコードすることで、リーマン最適化を用いてこのHORRR問題を解くことができる。
我々は,HORRR問題の解法としてリーマン最適化を用いることを理論的,実証的に分析した。
関連論文リスト
- Interpretation of High-Dimensional Regression Coefficients by Comparison with Linearized Compressing Features [0.0]
リチウムイオン電池のサイクル寿命を予測することによって,高次元関数データからの非線形応答を線形回帰がいかに近似するかを理解することに注力する。
我々は,回帰解の経路の最も近い回帰係数と比較し,特徴係数を導出する線形化法を開発した。
論文 参考訳(メタデータ) (2024-11-18T20:59:38Z) - RLE: A Unified Perspective of Data Augmentation for Cross-Spectral Re-identification [59.5042031913258]
非線型モダリティの相違は主に、異なる材料の表面に作用する様々な線形変換に由来する。
本稿では,MRLE(Modrate Random Linear Enhancement)とRRLE(Radical Random Linear Enhancement)を含むRLE(Random Linear Enhancement)戦略を提案する。
実験結果は、RLEの優位性と有効性を示すだけでなく、クロススペクトル再同定のための汎用データ拡張としての可能性も確認した。
論文 参考訳(メタデータ) (2024-11-02T12:13:37Z) - Robust Capped lp-Norm Support Vector Ordinal Regression [85.84718111830752]
正規回帰は、ラベルが固有の順序を示す特殊な教師付き問題である。
卓越した順序回帰モデルとしてのベクトル順序回帰は、多くの順序回帰タスクで広く使われている。
我々は,新たなモデルであるCapped $ell_p$-Norm Support Vector Ordinal Regression (CSVOR)を導入する。
論文 参考訳(メタデータ) (2024-04-25T13:56:05Z) - Deep Generative Symbolic Regression [83.04219479605801]
記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。
既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。
本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
論文 参考訳(メタデータ) (2023-12-30T17:05:31Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - An adaptive shortest-solution guided decimation approach to sparse
high-dimensional linear regression [2.3759847811293766]
ASSDは最短解誘導アルゴリズムから適応され、ASSDと呼ばれる。
ASSDは、実世界の応用で遭遇する高度に相関した測定行列を持つ線形回帰問題に特に適している。
論文 参考訳(メタデータ) (2022-11-28T04:29:57Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z) - A Hypergradient Approach to Robust Regression without Correspondence [85.49775273716503]
本稿では,入力データと出力データとの対応が不十分な回帰問題について考察する。
ほとんどの既存手法はサンプルサイズが小さい場合にのみ適用できる。
シャッフル回帰問題に対する新しい計算フレームワークであるROBOTを提案する。
論文 参考訳(メタデータ) (2020-11-30T21:47:38Z) - Fractional ridge regression: a fast, interpretable reparameterization of
ridge regression [0.0]
リッジ回帰(RR)は、線形回帰における係数のL2-ノルムをペナライズする正規化手法である。
我々は、FRRを解くアルゴリズムと、Pythonのオープンソースソフトウェア実装を提供する。
論文 参考訳(メタデータ) (2020-05-07T03:12:23Z) - Multivariate Functional Regression via Nested Reduced-Rank
Regularization [2.730097437607271]
多変量関数応答と予測器を備えた回帰モデルに適用するネスト型低ランク回帰(NRRR)手法を提案する。
非漸近解析により、NRRRは少なくとも低ランク回帰と同等の誤差率を達成できることを示す。
NRRRを電力需要問題に適用し、日中電力消費の軌跡と日中電力消費の軌跡を関連づける。
論文 参考訳(メタデータ) (2020-03-10T14:58:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。