論文の概要: Approximate Risk Minimization Over Shrinking-Thresholding Rules in Normal Mean Estimation
- arxiv url: http://arxiv.org/abs/2607.06367v1
- Date: Tue, 07 Jul 2026 15:04:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-08 21:24:51.560866
- Title: Approximate Risk Minimization Over Shrinking-Thresholding Rules in Normal Mean Estimation
- Title（参考訳）: 正常平均推定における収縮閾値ルールに対する近似的リスク最小化
- Abstract要約: 本研究では, リスク最小化フレームワークを開発し, 通常の平均問題における推定値の保持について検討する。
オラクルリスクとデータ駆動型近似リスク最小化の両方に対して最適条件を導出する。
結果は、標準および相関した正規平均推定と線形回帰をまたいだ縮小、しきい値化、正規化のための統一されたリスクベースのフレームワークを提供する。
- 参考スコア（独自算出の注目度）: 3.695296650216182
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We develop an approximate risk minimization framework for shrinkage-thresholding estimation in normal mean problems. In the canonical multivariate normal mean model, we introduce a general functional class of estimators that contains classical shrinkage and thresholding behavior, including James-Stein-type and lasso-type rules. We express quadratic risk as a functional over this class, derive optimality conditions for both oracle risk and data-driven approximate risk minimization, and construct a feasible approximate risk criterion from the observed data when the oracle risk is unavailable. The resulting estimator, NOMAD, is obtained by minimizing this approximate risk over the proposed class. For the canonical model, we develop an approximate risk minimization theory that includes optimizer characterization, sieve-based consistency under regularity conditions, and approximate-risk inequalities relative to benchmark procedures in the admissible class. We then extend the framework to multivariate normal mean estimation with correlated observations, develop both MLE-based and conditional MLE-based constructions, and establish consistency results under regularity conditions. We further apply the framework to linear regression and derive an equivalent penalized regression representation in which the shrinkage-thresholding map induces a data-adaptive penalty, recovering ridge-type and lasso-type behavior as special cases or limiting forms. The results provide a unified risk-based framework for shrinkage, thresholding, and regularization across canonical and correlated normal mean estimation and linear regression.
- Abstract（参考訳）: 我々は,通常の平均問題における縮小閾値推定のための近似リスク最小化フレームワークを開発した。
正準多変量平均モデルでは、ジェームズ・スタイン型やラッソ型規則を含む古典的収縮としきい値の振舞いを含む一般関数型推定器を導入する。
本研究は,2次リスクを機能として表現し,オラクルリスクとデータ駆動型近似リスク最小化の両方に対する最適条件を導出し,オラクルリスクが利用できない場合に観測データから可能な近似リスク基準を構築する。
得られた推定器であるNOMADは、提案したクラスに対するこの近似リスクを最小化することによって得られる。
正準モデルに対しては、最適化器のキャラクタリゼーション、正則性条件下でのシーブに基づく一貫性、許容クラスのベンチマーク手順に対する近似リスク不等式を含む近似リスク最小化理論を開発する。
次に,本フレームワークを拡張して,相関観測による正規平均推定を多変量化し,MLEベースと条件MLEベースの両方を構築し,規則性条件下での整合性を確立した。
さらに、この枠組みを線形回帰に適用し、縮退閾値マップがデータ適応的ペナルティを誘導し、特殊ケースや制限形式としてリッジ型およびラッソ型挙動を回復する等価なペナル化回帰表現を導出する。
結果は、標準および相関した正規平均推定と線形回帰をまたいだ縮小、しきい値化、正規化のための統一されたリスクベースのフレームワークを提供する。
関連論文リスト
- SHARP: Social Harm Analysis via Risk Profiles for Measuring Inequities in Large Language Models [0.5599792629509229]
本稿では,リスクプロファイルを用いた社会的ハーム分析について紹介する。
同様の平均リスクを持つモデルでは、尾の露出とボラティリティの2倍以上の違いが示される。
論文 参考訳（メタデータ） (2026-01-29T03:54:25Z) - Causal Inference as Distribution Adaptation: Optimizing ATE Risk under Propensity Uncertainty [0.0]
我々は、分散シフトの下で、ATE推定をテキストドメイン適応問題として再フレーミングする。
結果モデルの共同学習を行うためのtextbfJoint Robust Estimator (JRE) を提案する。
論文 参考訳（メタデータ） (2025-12-19T21:40:46Z) - In-Context Learning as Nonparametric Conditional Probability Estimation: Risk Bounds and Optimality [9.893068784551879]
我々は各タスクをラベル付き例のシーケンスとして形式化し、次にクエリ入力を行い、事前訓練されたモデルがクエリの条件付きクラス確率を推定する。
予測余剰リスクは、予測された条件クラス分布と真条件クラス分布の間の平均トラルバック・リーブラー(KL)偏差として定義される。
我々は、このリスクに対して、KLの発散に基づく新しいオラクルの不等式を、マルチクラス分類において確立する。
論文 参考訳（メタデータ） (2025-08-12T06:42:10Z) - Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。
我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。
車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
論文 参考訳（メタデータ） (2024-07-24T12:00:30Z) - Error Bounds of Supervised Classification from Information-Theoretic Perspective [0.0]
我々は、情報理論の観点から、教師付き分類にディープニューラルネットワークを使用する場合の予測リスクのバウンダリについて検討する。
経験的リスクをさらに分解したモデルリスクとフィッティングエラーを導入する。
論文 参考訳（メタデータ） (2024-06-07T01:07:35Z) - Bayesian Nonparametrics Meets Data-Driven Distributionally Robust Optimization [29.24821214671497]
機械学習と統計モデルのトレーニングは、しばしばデータ駆動型リスク基準の最適化を伴う。
ベイズ的非パラメトリック(ディリクレ過程)理論と、スムーズなあいまいさ-逆選好の最近の決定論的モデルを組み合わせた、新しいロバストな基準を提案する。
実用的な実装として、よく知られたディリクレプロセスの表現に基づいて、評価基準の抽出可能な近似を提案し、研究する。
論文 参考訳（メタデータ） (2024-01-28T21:19:15Z) - Model-Based Epistemic Variance of Values for Risk-Aware Policy Optimization [59.758009422067]
モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。
本稿では,リスク・サーキングとリスク・アバース・ポリシー最適化のいずれにも適用可能な汎用ポリシー最適化アルゴリズムQ-Uncertainty Soft Actor-Critic (QU-SAC)を導入する。
論文 参考訳（メタデータ） (2023-12-07T15:55:58Z) - On Regularization and Inference with Label Constraints [62.60903248392479]
機械学習パイプラインにおけるラベル制約を符号化するための2つの戦略、制約付き正規化、制約付き推論を比較した。
正規化については、制約に不整合なモデルを前置することで一般化ギャップを狭めることを示す。
制約付き推論では、モデルの違反を訂正することで人口リスクを低減し、それによってその違反を有利にすることを示す。
論文 参考訳（メタデータ） (2023-07-08T03:39:22Z) - On the Importance of Gradient Norm in PAC-Bayesian Bounds [92.82627080794491]
対数ソボレフ不等式の縮約性を利用する新しい一般化法を提案する。
我々は、この新たな損失段階的ノルム項が異なるニューラルネットワークに与える影響を実証的に分析する。
論文 参考訳（メタデータ） (2022-10-12T12:49:20Z) - Mitigating multiple descents: A model-agnostic framework for risk
monotonization [84.6382406922369]
クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。
本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
論文 参考訳（メタデータ） (2022-05-25T17:41:40Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳（メタデータ） (2021-07-05T21:05:11Z) - Asymptotic normality of robust risk minimizers [2.0432586732993374]
本稿では,古典的経験的リスクのロバストな類似と見なせるアルゴリズムの特性について検討する。
幅広いパラメトリック問題に対して、適切に定義されたリスクのロバストプロキシの最小化は、同じ速度で真のリスクの最小化に収束することを示す。
論文 参考訳（メタデータ） (2020-04-05T22:03:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。