論文の概要: The Voronoigram: Minimax Estimation of Bounded Variation Functions From
Scattered Data
- arxiv url: http://arxiv.org/abs/2212.14514v1
- Date: Fri, 30 Dec 2022 01:52:44 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-02 16:12:35.953642
- Title: The Voronoigram: Minimax Estimation of Bounded Variation Functions From
Scattered Data
- Title（参考訳）: ボロノイグラム:散乱データによる境界変動関数の最小推定
- Authors: Addison J. Hu, Alden Green, Ryan J. Tibshirani
- Abstract要約: 本研究では,設計点のボロノイ図を構成する推定器について検討し,ある離散的な総変分(TV)の概念に従って正規化する最適化問題を解く。
これは、テレビの通常の連続体(測度理論)概念に従って正則化する変分最適化問題と等価であると見なされるが、一度ドメインをボロノイ図形上で断片的に定数な関数に制限する。
- 参考スコア（独自算出の注目度）: 7.906608953906888
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of estimating a multivariate function $f_0$ of
bounded variation (BV), from noisy observations $y_i = f_0(x_i) + z_i$ made at
random design points $x_i \in \mathbb{R}^d$, $i=1,\ldots,n$. We study an
estimator that forms the Voronoi diagram of the design points, and then solves
an optimization problem that regularizes according to a certain discrete notion
of total variation (TV): the sum of weighted absolute differences of parameters
$\theta_i,\theta_j$ (which estimate the function values $f_0(x_i),f_0(x_j)$) at
all neighboring cells $i,j$ in the Voronoi diagram. This is seen to be
equivalent to a variational optimization problem that regularizes according to
the usual continuum (measure-theoretic) notion of TV, once we restrict the
domain to functions that are piecewise constant over the Voronoi diagram.
The regression estimator under consideration hence performs (shrunken) local
averaging over adaptively formed unions of Voronoi cells, and we refer to it as
the Voronoigram, following the ideas in Koenker (2005), and drawing inspiration
from Tukey's regressogram (Tukey, 1961). Our contributions in this paper span
both the conceptual and theoretical frontiers: we discuss some of the unique
properties of the Voronoigram in comparison to TV-regularized estimators that
use other graph-based discretizations; we derive the asymptotic limit of the
Voronoi TV functional; and we prove that the Voronoigram is minimax rate
optimal (up to log factors) for estimating BV functions that are essentially
bounded.
- Abstract（参考訳）: 多変量関数 $f_0$ of bounded variation (bv) を、ランダムな設計点において y_i = f_0(x_i) + z_i$ から推定する問題は、x_i \in \mathbb{r}^d$, $i=1,\ldots,n$ である。
設計点のボロノイ図を定式化する推定器について検討し、次に全変分(TV)の離散的な概念に従って正規化する最適化問題を解く: パラメータの重み付き絶対差の和 $\theta_i,\theta_j$ (函数の値 $f_0(x_i),f_0(x_j)$) の任意の近傍セル $i,j$。
これは、ボロノイ図上で区分的に定数な関数にドメインを限定すると、テレビの通常の連続体(測定-理論)の概念に従って正則化する変分最適化問題と同値である。
それゆえ、検討中の回帰推定器は(シュランケン)局所的平均化をボロノイ細胞の適応的に形成された結合上で行い、これをボロノイグラム(voronoigram)と呼び、koenker (2005) のアイデアに従い、tukey's regressogram (tukey, 1961) からインスピレーションを得ている。
この論文における我々の貢献は、概念的および理論的フロンティアの両方にまたがる: 他のグラフに基づく離散化を用いたテレビ規則化推定器と比較して、ボロノイグラムのユニークな性質を議論する; ボロノイテレビ汎函数の漸近極限を導出する; ボロノイグラムが本質的に有界なBV関数を推定するための最小値(対数因子まで)であることを証明する。
関連論文リスト
- A Unified Analysis for Finite Weight Averaging [50.75116992029417]
Gradient Descent(SGD)の平均イテレーションは、SWA(Weight Averaging)、EMA(Exponential moving Average)、LAWA(Latest Weight Averaging)といったディープラーニングモデルのトレーニングにおいて、経験的な成功を収めている。
本稿では、LAWAを有限重み平均化(FWA)として一般化し、最適化と一般化の観点からSGDと比較して、それらの利点を説明する。
論文 参考訳（メタデータ） (2024-11-20T10:08:22Z) - Generalizing Stochastic Smoothing for Differentiation and Gradient Estimation [59.86921150579892]
アルゴリズム,演算子,シミュレータ,その他の微分不可能関数の微分可能緩和に対する勾配推定の問題に対処する。
我々は、微分可能なソートとランキングのための分散化戦略、グラフ上の微分可能なショートパス、ポーズ推定のための微分可能なレンダリング、および微分可能なCryo-ETシミュレーションを開発する。
論文 参考訳（メタデータ） (2024-10-10T17:10:00Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳（メタデータ） (2024-07-11T13:28:34Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳（メタデータ） (2023-01-16T02:57:37Z) - Confidence Sets under Generalized Self-Concordance [2.0305676256390934]
本稿では,非漸近的理論の観点から,統計学の基本的問題を再考する。
非漸近的な方法でその挙動を特徴づける推定器の指数的バウンドを確立する。
その依存性の重要な痕跡は、有効次元によって捉えられる。
論文 参考訳（メタデータ） (2022-12-31T17:45:11Z) - A generalization gap estimation for overparameterized models via the
Langevin functional variance [6.231304401179968]
関数分散は過パラメータ設定においても一般化ギャップを特徴付けることを示す。
本稿では,関数分散の効率的な近似,関数分散のランゲヴィン近似(Langevin FV)を提案する。
論文 参考訳（メタデータ） (2021-12-07T12:43:05Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳（メタデータ） (2021-09-24T14:48:20Z) - Learning Sparse Graph with Minimax Concave Penalty under Gaussian Markov
Random Fields [51.07460861448716]
本稿では,データから学ぶための凸解析フレームワークを提案する。
三角凸分解はその上部に対応する変換によって保証されることを示す。
論文 参考訳（メタデータ） (2021-09-17T17:46:12Z) - Approximation of BV functions by neural networks: A regularity theory
approach [0.0]
我々は、単位円上にReLU活性化関数を持つ単一の隠れ層ニューラルネットワークによる関数の近似を懸念する。
まず,ペナリゼーションを伴うコスト関数に関連する勾配流の平衡への収束について検討した。
ペナリゼーションが有界な重みをバイアスするので、有界な重みを持つネットワークが有界な変動の与えられた関数をいかによく近似できるかを研究できる。
論文 参考訳（メタデータ） (2020-12-15T13:58:44Z) - Isotonic regression with unknown permutations: Statistics, computation,
and adaptation [13.96377843988598]
我々は、推定のミニマックスリスク(実証的な$L$損失)と適応の基本的な限界(適応度指数で定式化)について検討する。
バニラ時間プロシージャで可能な最小適応率を達成しつつ、最小限の最適化が可能なミルスキー分割推定器を提供する。
相補的な方向において、既存の推定器の自然な修正は、デシデラタの最適統計性能、計算効率、高速適応の少なくとも1つを満たすことができないことを示す。
論文 参考訳（メタデータ） (2020-09-05T22:17:51Z) - Nearest Neighbour Based Estimates of Gradients: Sharp Nonasymptotic
Bounds and Applications [0.6445605125467573]
勾配推定は統計学と学習理論において重要である。
ここでは古典的な回帰設定を考えると、実値の正方形可積分 r.v.$Y$ が予測される。
代替推定法で得られた値に対して, 漸近的境界が改良されることを証明した。
論文 参考訳（メタデータ） (2020-06-26T15:19:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。