論文の概要: Federated Sufficient Dimension Reduction Through High-Dimensional Sparse
Sliced Inverse Regression
- arxiv url: http://arxiv.org/abs/2301.09500v1
- Date: Mon, 23 Jan 2023 15:53:06 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-24 13:17:16.620826
- Title: Federated Sufficient Dimension Reduction Through High-Dimensional Sparse
Sliced Inverse Regression
- Title(参考訳): 高次元スパーススライス逆回帰によるフェデレートな次元削減
- Authors: Wenquan Cui, Yue Zhao, Jianjun Xu, Haoyang Cheng
- Abstract要約: フェデレーション学習は、ビッグデータ時代において、近年人気の高いツールとなっている。
本稿では,初めてフェデレートされたスパースススライス逆回帰アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 4.561305216067566
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning has become a popular tool in the big data era nowadays. It
trains a centralized model based on data from different clients while keeping
data decentralized. In this paper, we propose a federated sparse sliced inverse
regression algorithm for the first time. Our method can simultaneously estimate
the central dimension reduction subspace and perform variable selection in a
federated setting. We transform this federated high-dimensional sparse sliced
inverse regression problem into a convex optimization problem by constructing
the covariance matrix safely and losslessly. We then use a linearized
alternating direction method of multipliers algorithm to estimate the central
subspace. We also give approaches of Bayesian information criterion and
hold-out validation to ascertain the dimension of the central subspace and the
hyper-parameter of the algorithm. We establish an upper bound of the
statistical error rate of our estimator under the heterogeneous setting. We
demonstrate the effectiveness of our method through simulations and real world
applications.
- Abstract(参考訳): フェデレーション学習は、ビッグデータ時代において、近年人気ツールとなっている。
データを分散化しながら、異なるクライアントのデータに基づいて集中モデルをトレーニングする。
本稿では,フェデレートされたスパースススライス逆回帰アルゴリズムを初めて提案する。
本手法では,中央次元縮小部分空間を同時推定し,フェデレーション設定で変数選択を行うことができる。
共分散行列を安全かつ無損失に構成することにより, この連立高次元スパースス逆回帰問題を凸最適化問題に変換する。
次に、乗算アルゴリズムの線形交互方向法を用いて中央部分空間を推定する。
また、中央部分空間の次元とアルゴリズムのハイパーパラメータを確認するため、ベイズ情報規準とホールドアウト検証のアプローチを提案する。
我々は,不均質な設定下で推定器の統計的誤差率の上限を定式化する。
本手法の有効性をシミュレーションと実世界応用により実証する。
関連論文リスト
- A flexible empirical Bayes approach to multiple linear regression and
connections with penalized regression [5.955705779125574]
大規模多重回帰に対する新しい経験的ベイズ手法を提案する。
提案手法は2つの主要な概念を組み合わせる: (i) 正規分布のスケール混合の非適応的な族を近似したフレキシブルな「パラメトリック収縮」事前の使用。
提案手法の後方平均値は, ペナル化回帰問題の解法として解釈できることを示す。
論文 参考訳(メタデータ) (2022-08-23T12:42:57Z) - Distributed Sketching for Randomized Optimization: Exact
Characterization, Concentration and Lower Bounds [54.51566432934556]
我々はヘシアンの形成が困難である問題に対する分散最適化法を検討する。
ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。
論文 参考訳(メタデータ) (2022-03-18T05:49:13Z) - Dimension Reduction and Data Visualization for Fr\'echet Regression [8.713190936209156]
Fr'echet回帰モデルは、計量空間値応答を用いた回帰分析のための有望なフレームワークを提供する。
本研究では,Fr'echet回帰のためのフレキシブルな十分次元縮小法(SDR)を導入し,二つの目的を達成した。
論文 参考訳(メタデータ) (2021-10-01T15:01:32Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳(メタデータ) (2021-04-13T23:21:01Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z) - Piecewise linear regression and classification [0.20305676256390928]
本稿では,線形予測器を用いた多変量回帰と分類問題の解法を提案する。
本論文で記述されたアルゴリズムのpython実装は、http://cse.lab.imtlucca.it/bemporad/parcで利用可能である。
論文 参考訳(メタデータ) (2021-03-10T17:07:57Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - A spectral algorithm for robust regression with subgaussian rates [0.0]
本研究では, 試料の分布に強い仮定がない場合の線形回帰に対する2次時間に対する新しい線形アルゴリズムについて検討する。
目的は、データが有限モーメントしか持たなくても最適な準ガウス誤差を達成できる手順を設計することである。
論文 参考訳(メタデータ) (2020-07-12T19:33:50Z) - Robust Locality-Aware Regression for Labeled Data Classification [5.432221650286726]
本稿では,ロバスト局所性認識回帰(RLAR)という特徴抽出フレームワークを提案する。
本モデルでは,クラス間の平均差を使わずに,適応的に境界表現学習を行うために再ターゲット回帰を導入する。
外れ値の乱れを緩和し、過度な適合を防止するため、L2,1ノルムによる正規化項とともに回帰項と局所性を考慮した項を計測する。
論文 参考訳(メタデータ) (2020-06-15T11:36:59Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z) - Optimal Feature Manipulation Attacks Against Linear Regression [64.54500628124511]
本稿では,データセットに慎重に設計した有害なデータポイントを付加したり,元のデータポイントを修正したりすることで,線形回帰による係数の操作方法について検討する。
エネルギー予算を考慮し, 目標が指定された回帰係数を1つ変更する場合に, 最適毒素データ点の閉形式解をまず提示する。
次に、攻撃者が1つの特定の回帰係数を変更しつつ、他をできるだけ小さく変更することを目的とした、より困難なシナリオに分析を拡張します。
論文 参考訳(メタデータ) (2020-02-29T04:26:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。