論文の概要: C-SURE: Shrinkage Estimator and Prototype Classifier for Complex-Valued
Deep Learning
- arxiv url: http://arxiv.org/abs/2006.12590v1
- Date: Mon, 22 Jun 2020 20:02:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-18 05:12:16.077189
- Title: C-SURE: Shrinkage Estimator and Prototype Classifier for Complex-Valued
Deep Learning
- Title(参考訳): c-sure: 複雑値深層学習のための縮小推定器とプロトタイプ分類器
- Authors: Yifei Xing, Rudrasis Chakraborty, Minxuan Duan, Stella Yu
- Abstract要約: 複素数値データの多様体上でのJS推定器の非バイアスリスク推定(SURE)であるC-SUREを提案する。
C-SUREはSurRealより正確で頑健であり、同じプロトタイプ分類器の場合、収縮推定器はMLEよりも常に優れている。
- 参考スコア(独自算出の注目度): 15.906530504220179
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The James-Stein (JS) shrinkage estimator is a biased estimator that captures
the mean of Gaussian random vectors.While it has a desirable statistical
property of dominance over the maximum likelihood estimator (MLE) in terms of
mean squared error (MSE), not much progress has been made on extending the
estimator onto manifold-valued data.
We propose C-SURE, a novel Stein's unbiased risk estimate (SURE) of the JS
estimator on the manifold of complex-valued data with a theoretically proven
optimum over MLE. Adapting the architecture of the complex-valued SurReal
classifier, we further incorporate C-SURE into a prototype convolutional neural
network (CNN) classifier. We compare C-SURE with SurReal and a real-valued
baseline on complex-valued MSTAR and RadioML datasets.
C-SURE is more accurate and robust than SurReal, and the shrinkage estimator
is always better than MLE for the same prototype classifier. Like SurReal,
C-SURE is much smaller, outperforming the real-valued baseline on MSTAR
(RadioML) with less than 1 percent (3 percent) of the baseline size
- Abstract(参考訳): james-stein (js) shrinkage estimator は、ガウス確率ベクトルの平均をキャプチャするバイアス付き推定器であり、平均二乗誤差 (mse) の観点で、mle (maximum probability estimator) よりも支配的であることが望ましいが、この推定器を多様体値データに拡張することにはあまり進展がない。
本研究では,mle 上で理論上最適であることが証明された複素数値データ多様体上の js 推定器の stein's unbiased risk estimation (sure) である c-sure を提案する。
複雑な値を持つSurReal分類器のアーキテクチャに適応し、C-SUREをさらにプロトタイプ畳み込みニューラルネットワーク(CNN)分類器に組み込む。
複素値mstarとradiomlデータセットのc-sureとsurrealおよびreal-valued baseを比較した。
C-SUREはSurRealより正確で頑健であり、同じプロトタイプ分類器の場合、収縮推定器はMLEよりも常に優れている。
SurRealと同様、C-SUREははるかに小さく、ベースラインサイズが1%未満のMSTAR(RadioML)の実際の値ベースラインを上回っている。
関連論文リスト
- Precise Model Benchmarking with Only a Few Observations [6.092112060364272]
本稿では,各サブグループの直接推定と回帰推定を個別にバランスする経験的ベイズ推定器を提案する。
EBは、直接的および回帰的アプローチと比較して、LCM性能のより正確な推定を一貫して提供する。
論文 参考訳(メタデータ) (2024-10-07T17:26:31Z) - How Much is Unseen Depends Chiefly on Information About the Seen [2.169081345816618]
トレーニングデータに現れないクラスに属する未知の集団におけるデータポイントの割合は、トレーニングデータに同じ回数に現れるクラスの数$f_k$によってほぼ完全に決定される。
サンプルのみを用いて最小平均二乗誤差(MSE)を持つ推定器を探索する遺伝的アルゴリズムを開発した。
論文 参考訳(メタデータ) (2024-02-08T17:12:49Z) - Sparse PCA with Oracle Property [115.72363972222622]
新規な正規化を伴うスパースPCAの半定緩和に基づく推定器群を提案する。
我々は、家族内の別の推定器が、スパースPCAの標準半定緩和よりも、より急激な収束率を達成することを証明した。
論文 参考訳(メタデータ) (2023-12-28T02:52:54Z) - Provably Efficient CVaR RL in Low-rank MDPs [58.58570425202862]
リスクに敏感な強化学習(RL)について検討する。
本稿では, CVaR RLにおける探索, 搾取, 表現学習の相互作用のバランスをとるための, 新たなアッパー信頼境界(UCB)ボーナス駆動アルゴリズムを提案する。
提案アルゴリズムは,各エピソードの長さが$H$,アクション空間が$A$,表現の次元が$d$であるような,エプシロン$最適CVaRのサンプル複雑性を実現する。
論文 参考訳(メタデータ) (2023-11-20T17:44:40Z) - Error Reduction from Stacked Regressions [12.657895453939298]
積み重ね回帰は、予測精度を高めるために異なる回帰推定器の線形結合を形成するアンサンブル手法である。
本稿では,非負性制約を受ける経験的リスクの正規化バージョンを最小化することにより,これらの重みを類似的に学習する。
適応的縮小効果により、結果として生じる累積推定量は、最も優れた単一推定値よりも人口リスクが厳しく小さい。
論文 参考訳(メタデータ) (2023-09-18T15:42:12Z) - Consensus-Adaptive RANSAC [104.87576373187426]
本稿では,パラメータ空間の探索を学習する新しいRANSACフレームワークを提案する。
注意機構は、ポイント・ツー・モデル残差のバッチで動作し、軽量のワンステップ・トランスフォーマーで見いだされたコンセンサスを考慮するために、ポイント・ツー・モデル推定状態を更新する。
論文 参考訳(メタデータ) (2023-07-26T08:25:46Z) - A Model-Based Method for Minimizing CVaR and Beyond [7.751691910877239]
CVaR(Conditional Value-at-Risk)目標の最小化のために, Prox-linear 法の変種を開発した。
CVaRは最悪のケースのパフォーマンスを最小化することに焦点を当てたリスク尺度であり、損失の最上位量の平均として定義される。
機械学習では、そのようなリスク尺度はより堅牢なモデルをトレーニングするのに有用である。
論文 参考訳(メタデータ) (2023-05-27T15:38:53Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳(メタデータ) (2021-10-24T10:23:51Z) - SLOE: A Faster Method for Statistical Inference in High-Dimensional
Logistic Regression [68.66245730450915]
実用データセットに対する予測の偏見を回避し、頻繁な不確実性を推定する改善された手法を開発している。
私たちの主な貢献は、推定と推論の計算時間をマグニチュードの順序で短縮する収束保証付き信号強度の推定器SLOEです。
論文 参考訳(メタデータ) (2021-03-23T17:48:56Z) - Breaking the Sample Size Barrier in Model-Based Reinforcement Learning
with a Generative Model [50.38446482252857]
本稿では、生成モデル(シミュレータ)へのアクセスを想定して、強化学習のサンプル効率について検討する。
最初に$gamma$-discounted infinite-horizon Markov decision process (MDPs) with state space $mathcalS$ and action space $mathcalA$を考える。
対象の精度を考慮すれば,モデルに基づく計画アルゴリズムが最小限のサンプルの複雑さを実現するのに十分であることを示す。
論文 参考訳(メタデータ) (2020-05-26T17:53:18Z) - Robust subgaussian estimation with VC-dimension [0.0]
この研究は、MOM推定器の余剰リスクを束縛する新しい一般的な方法を提案する。
中心となる技術は、統計複雑性を測定するためにVC次元(ラデマッハの複雑さの代わりに)を用いることである。
論文 参考訳(メタデータ) (2020-04-24T13:21:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。