論文の概要: Regularized Modal Regression on Markov-dependent Observations: A Theoretical Assessment

• arxiv url: http://arxiv.org/abs/2112.04779v1
• Date: Thu, 9 Dec 2021 09:08:52 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-10 14:18:06.464289
• Title: Regularized Modal Regression on Markov-dependent Observations: A Theoretical Assessment
• Title（参考訳）: マルコフ依存性観測における正規化モード回帰 : 理論的評価
• Authors: Tielang Gong, Yuxin Dong, Hong Chen, Bo Dong, Wei Feng, Chen Li
• Abstract要約: 本稿では,マルコフ依存構造における正規化モード回帰(RMR)の統計的性質について述べる。 適度な条件下では,RMR推定器の上限を確立し,学習率を明示する。 以上の結果から,マルコフ連鎖のスペクトルギャップに依存する乗算因子によってサンプルサイズが割引される場合,マルコフ依存性が一般化誤差に与える影響が示唆された。
• 参考スコア（独自算出の注目度）: 13.852720406291875
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modal regression, a widely used regression protocol, has been extensively investigated in statistical and machine learning communities due to its robustness to outliers and heavy-tailed noises. Understanding modal regression's theoretical behavior can be fundamental in learning theory. Despite significant progress in characterizing its statistical property, the majority of the results are based on the assumption that samples are independent and identical distributed (i.i.d.), which is too restrictive for real-world applications. This paper concerns the statistical property of regularized modal regression (RMR) within an important dependence structure - Markov dependent. Specifically, we establish the upper bound for RMR estimator under moderate conditions and give an explicit learning rate. Our results show that the Markov dependence impacts on the generalization error in the way that sample size would be discounted by a multiplicative factor depending on the spectral gap of underlying Markov chain. This result shed a new light on characterizing the theoretical underpinning for robust regression.
• Abstract（参考訳）: 広く使われている回帰プロトコルであるモード回帰は、外れ値に対する頑丈さと重み付き雑音のため、統計的および機械学習のコミュニティで広く研究されている。 モーダル回帰の理論的振る舞いを理解することは、学習理論において基礎となる。 統計学的特性の著しい進歩にもかかわらず、その結果の大部分は、サンプルが独立で同一の分散(すなわち、実世界のアプリケーションには制限的すぎる)であるという仮定に基づいている。 本稿では、マルコフ依存構造における正規化モード回帰(RMR)の統計的性質について述べる。 具体的には, rmr推定器の上限を適度な条件下で定め, 明示的な学習率を与える。 以上の結果から,マルコフ連鎖のスペクトルギャップに依存する乗算因子によってサンプルサイズが割引される場合,マルコフ依存性が一般化誤差に与える影響が示唆された。 この結果、ロバスト回帰の理論的基礎を特徴づける新しい光が浮かび上がった。

関連論文リスト

• Statistical Agnostic Regression: a machine learning method to validate regression models [0.0]
  本稿では,MLに基づく線形回帰の統計的意義を評価する手法として,統計的回帰(Agnostic Regression, SAR)を提案する。 我々は、説明的(機能)変数と反応(ラベル)変数の間の集団に線形関係があることを結論付けるために、少なくとも1-etaの確率で十分な証拠が存在することを示すしきい値を定義する。
  論文  参考訳（メタデータ） (2024-02-23T09:19:26Z)
• Trade-off Between Dependence and Complexity for Nonparametric Learning -- an Empirical Process Approach [10.27974860479791]
  データが時間的依存を示す多くのアプリケーションでは、対応する経験的プロセスは理解されていない。 標準的な$beta/rho$-mixingの仮定の下では、経験過程の期待上限に一般化する。 長距離依存下であっても、i.d.設定と同じ速度で達成できることが示される。
  論文  参考訳（メタデータ） (2024-01-17T05:08:37Z)
• A Unified Generalization Analysis of Re-Weighting and Logit-Adjustment for Imbalanced Learning [129.63326990812234]
  そこで本研究では,データ依存型コンダクタンス(Data-dependent contraction)と呼ばれる手法を提案する。 この技術に加えて、不均衡学習のための微粒な一般化境界が確立され、再重み付けとロジット調整の謎を明らかにするのに役立つ。
  論文  参考訳（メタデータ） (2023-10-07T09:15:08Z)
• Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
  ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。 提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。 複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
  論文  参考訳（メタデータ） (2023-06-09T08:30:51Z)
• On LASSO for High Dimensional Predictive Regression [0.0]
  本稿では,L_1$-penalized regression法であるLASSOを高次元線形回帰法で検討する。 LASSOの整合性は、回帰器の交叉積の偏差境界と誤差項の2つの重要な成分に基づいて決定される。 機械学習とマクロ経済分野の専門知識を用いて、LASSOは失業率の予測において高いパフォーマンスを示す。
  論文  参考訳（メタデータ） (2022-12-14T06:14:58Z)
• Are Latent Factor Regression and Sparse Regression Adequate? [0.49416305961918056]
  準ガウス雑音と重み付き雑音の存在下でのモデル推定に関する理論的保証を提供する。 本稿ではFacter-Adjusted de-Biased Test (FabTest) と2段階のANOVA型テストを提案する。 数値計算の結果,潜在因子回帰モデルと疎線形回帰モデルに対するモデルの有効性と有効性を示した。
  論文  参考訳（メタデータ） (2022-03-02T16:22:23Z)
• Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma Distributions [91.63716984911278]
  このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。 実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
  論文  参考訳（メタデータ） (2021-11-11T14:28:12Z)
• Inference for Network Regression Models with Community Structure [1.7188280334580197]
  コミュニティベースの依存構造から生じるエラーをモデル化する新しい回帰モデリングフレームワークを提案する。 本稿では,その後の誤差分布の交換可能性特性を利用して,回帰パラメータの擬似標準誤差を求める。
  論文  参考訳（メタデータ） (2021-06-08T12:04:31Z)
• Counterfactual Maximum Likelihood Estimation for Training Deep Networks [83.44219640437657]
  深層学習モデルは、予測的手がかりとして学習すべきでない急激な相関を学習する傾向がある。 本研究では,観測可能な共同設立者による相関関係の緩和を目的とした因果関係に基づくトレーニングフレームワークを提案する。 自然言語推論(NLI)と画像キャプションという2つの実世界の課題について実験を行った。
  論文  参考訳（メタデータ） (2021-06-07T17:47:16Z)
• Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
  経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。 分散による離散乗法雑音のパラメータによく現れることを示す。 最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
  論文  参考訳（メタデータ） (2020-06-11T09:58:01Z)
• GenDICE: Generalized Offline Estimation of Stationary Values [108.17309783125398]
  重要なアプリケーションでは,効果的な推定が依然として可能であることを示す。 我々のアプローチは、定常分布と経験分布の差を補正する比率を推定することに基づいている。 結果として得られるアルゴリズム、GenDICEは単純で効果的である。
  論文  参考訳（メタデータ） (2020-02-21T00:27:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。