論文の概要: Median-of-Means as an Extremal Convex Estimator and a Nonconvex Route to the Trimmed Oracle
- arxiv url: http://arxiv.org/abs/2609.01689v1
- Date: Tue, 01 Sep 2026 15:39:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:17.685053
- Title: Median-of-Means as an Extremal Convex Estimator and a Nonconvex Route to the Trimmed Oracle
- Title(参考訳): 極端凸推定器としての中間値とトリミングされたOracleへの非凸経路
- Abstract要約: 重み付きおよび逆向きに破損したデータを用いた堅牢な学習のためのファミリーブロックLp推定器を開発した。
ブロックLpの目的は、すべての局所的なミニマが真実に近づき、悪い盆地が存在しない、良質な景観を持つことが示される。
- 参考スコア(独自算出の注目度): 11.62669179647184
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We revisit median-of-means estimation from a deterministic optimization viewpoint and develop a family of block-Lp estimators for robust learning with heavy-tailed and adversarially corrupted data. In a block contamination model with at least a fraction 1 minus epsilon of good blocks, we first show that every convex block M-estimator has worst-case robustness constant at least 1 divided by 1 minus 2 epsilon. This matches the classical median-of-means bound and proves that the trimmed-block oracle constant 1 divided by 1 minus epsilon cannot be attained within the convex class. We then introduce a nonconvex block-Lp family for p between 0 and 1 and derive finite-sample deterministic robustness bounds for all global minimizers. As p decreases from 1 toward 0, these bounds continuously approach the trimmed-block oracle constant. For sufficiently small p, the global minimizers coincide with those of the oracle under a mild separation condition. We also show that the block-Lp objectives have a benign landscape, with all local minima remaining close to the truth and no bad basins. Combining these results with block-level concentration yields sub-Gaussian deviation bounds under finite 2 plus delta moments and high-dimensional extensions to robust mean estimation and sparse regression.
- Abstract(参考訳): 我々は,決定論的最適化の観点から中央値推定を再検討し,重み付きおよび逆向きに破損したデータを用いた頑健な学習のためのブロックLp推定器群を開発した。
良ブロックの少なくとも1分の1のエプシロンを有するブロック汚染モデルにおいて、まず、各凸ブロックM-推定器が1のマイナス2エプシロンで分割された最低ケースのロバスト性定数を有することを示す。
これは古典的な平均中央値境界と一致し、トリミングブロックのオラクル定数 1 が 1 つのマイナスエプシロンで割られたとき、凸クラス内では到達できないことを証明している。
次に、0 と 1 の間の p に対する非凸ブロック-Lp 族を導入し、すべての大域最小化に対して有限サンプル決定論的ロバスト性境界を導出する。
p が 1 から 0 に減少するにつれて、これらの境界はトリミングブロックのオラクル定数に連続的に近づく。
十分に小さいpでは、大域最小化器は軽度の分離条件下でのオラクルのものと一致する。
また,ブロックLpの目的は,すべての局所的ミニマが真実に近づき,悪い盆地が存在しない,良質な景観を持つことも示している。
これらの結果とブロックレベルの濃度を組み合わせると、有限2以下のガウス偏差境界と、頑健な平均推定とスパース回帰への高次元拡張が得られる。
関連論文リスト
- Resolving Multi-Modal Regression by Difference-Quotient-Based Clustering:Fast Coarse Conditional-Label Assignment [0.0]
Different-Quotient Clustering (DQC) はクラスタ内の出力-vs-入出力の差を最小限にするためにデータを分割する。
より大きなクラスタ内矛盾はより深いネットワークを必要とし、オラクルラベルはクラスタ由来の等価値よりも少ないサンプルから一般化される。
論文 参考訳(メタデータ) (2026-08-26T07:34:23Z) - Global Minimax Readout of a Qubit Direction [5.246986428523558]
我々は、パラメータ非依存の読み出しを用いて、既知のBloch-vector長で未知のキュービット方向を推定する、最悪のフィッシャー情報コストを正確に決定する。
記録された古典的ランダム化を含む固定局所アーキテクチャはすべて、ブロッホ球上のゼロバリー中心確率測度に正確に還元する。
すべてのフルランク量子ビットと全てのトレースバランスのスペクトルフィッシャー損失に対して、結果として生じるミニマックス問題は厳密である。
論文 参考訳(メタデータ) (2026-08-17T17:26:32Z) - HOMER: Huber-of-Means for Efficient and Robust Estimation in Hilbert Spaces [0.26856688022781555]
本稿では,ロバスト推定のためのemphHOMER(Huber-of-Means)を提案する。
正準および擬似ハッバー形式はそれぞれのブロックスコアを束縛し、中央値のような頑健さと経験平均を補間する。
我々は,ブロックサマリーの少数が置き換えられた場合,HOMERは安定していることを示す。
論文 参考訳(メタデータ) (2026-07-29T23:51:17Z) - Local LMO: Constrained Gradient Optimization via a Local Linear Minimization Oracle [51.714334316332476]
Local Lは制約付き最適化のための新しいプロジェクションフリー型である。
局所LMOはGD(Gradient Descent)のオラクルと見なされる。
論文 参考訳(メタデータ) (2026-05-09T10:03:24Z) - From Tail Universality to Bernstein-von Mises: A Unified Statistical Theory of Semi-Implicit Variational Inference [0.12183405753834557]
半単純変分推論 (SIVI) は$q() = int k(| z) r(dz)$ という形の近似後部を構成する
本稿では,このような家族に対する「近似最適化統計学」を統一的に展開する。
論文 参考訳(メタデータ) (2025-12-05T19:26:25Z) - Closing the Approximation Gap of Partial AUC Optimization: A Tale of Two Formulations [121.39938773554523]
ROC曲線の下の領域(AUC)は、クラス不均衡と決定制約の両方を持つ実世界のシナリオにおける重要な評価指標である。
PAUC最適化の近似ギャップを埋めるために,2つの簡単なインスタンス単位のミニマックス修正を提案する。
得られたアルゴリズムは、サンプルサイズと典型的な一方方向と双方向のPAUCに対して$O(-2/3)$の収束率の線形パーイテレーション計算複雑性を享受する。
論文 参考訳(メタデータ) (2025-12-01T02:52:33Z) - Near-Optimal Clustering in Mixture of Markov Chains [74.3828414695655]
我々は、長さ$H$の軌跡を、大きさ$S$の有限状態空間上の未知のエルゴードマルコフ鎖の1つによって生成される、$T$ trajectories of length $H$の問題を研究する。
我々は、連鎖の遷移核間の重み付きKL分散によって支配されるクラスタリングエラー率に基づいて、インスタンス依存で高い確率の低い境界を導出する。
次に,新しい2段階クラスタリングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-06-02T05:10:40Z) - Towards a Sharp Analysis of Offline Policy Learning for $f$-Divergence-Regularized Contextual Bandits [49.96531901205305]
我々は$f$-divergence-regularized offline policy learningを分析する。
逆Kullback-Leibler (KL) の発散に対して、単極集中性の下での最初の$tildeO(epsilon-1)$サンプル複雑性を与える。
これらの結果は,$f$-divergence-regularized policy learningの包括的理解に向けて大きな一歩を踏み出したものと考えられる。
論文 参考訳(メタデータ) (2025-02-09T22:14:45Z) - Stochastic regularized majorization-minimization with weakly convex and
multi-convex surrogates [0.0]
提案アルゴリズムの最初の最適性ギャップは,非テンソル依存データ設定下での様々な手法の期待損失率で減衰することを示す。
非テンション依存データ設定の下で, 各種手法の収束点を求める。
論文 参考訳(メタデータ) (2022-01-05T15:17:35Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Federated Functional Gradient Boosting [75.06942944563572]
フェデレーション学習における機能最小化に関する研究
FFGB.C と FFGB.L は、特徴分布がより均一になるにつれて収束半径が 0 に縮まる。
論文 参考訳(メタデータ) (2021-03-11T21:49:19Z) - Computationally efficient sparse clustering [67.95910835079825]
我々はPCAに基づく新しいクラスタリングアルゴリズムの有限サンプル解析を行う。
ここでは,ミニマックス最適誤クラスタ化率を,体制$|theta infty$で達成することを示す。
論文 参考訳(メタデータ) (2020-05-21T17:51:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。