論文の概要: On the minmax regret for statistical manifolds: the role of curvature

• arxiv url: http://arxiv.org/abs/2007.02904v1
• Date: Mon, 6 Jul 2020 17:28:19 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-11 04:01:10.253424
• Title: On the minmax regret for statistical manifolds: the role of curvature
• Title（参考訳）: 統計多様体に対する minmax regret について-曲率の役割
• Authors: Bruno Mera, Paulo Mateus, Alexandra M. Carvalho
• Abstract要約: 2つの部分のコードと最小記述長は、最高のモデルを選別するための手順を提供するのに成功している。 我々は、フィッシャー情報計量のスカラー曲率が支配的な役割を果たす複雑さによって与えられる標準表現よりも、よりシャープな表現を導出する。
• 参考スコア（独自算出の注目度）: 68.8204255655161
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Model complexity plays an essential role in its selection, namely, by choosing a model that fits the data and is also succinct. Two-part codes and the minimum description length have been successful in delivering procedures to single out the best models, avoiding overfitting. In this work, we pursue this approach and complement it by performing further assumptions in the parameter space. Concretely, we assume that the parameter space is a smooth manifold, and by using tools of Riemannian geometry, we derive a sharper expression than the standard one given by the stochastic complexity, where the scalar curvature of the Fisher information metric plays a dominant role. Furthermore, we derive the minmax regret for general statistical manifolds and apply our results to derive optimal dimensional reduction in the context of principal component analysis.
• Abstract（参考訳）: モデル複雑性は、データに適合し簡潔であるモデルを選択することで、その選択において重要な役割を果たす。 2つの部分のコードと最小記述長は、過度な適合を避けるため、最高のモデルを選別する手順を提供することに成功した。 本研究では、パラメータ空間でさらなる仮定を行うことで、このアプローチを追求し、補完する。 具体的には、パラメータ空間が滑らかな多様体であると仮定し、リーマン幾何学のツールを用いて、フィッシャー情報計量のスカラー曲率が支配的な役割を果たす確率的複雑性によって与えられる標準表現よりも鋭い表現を導出する。 さらに, 一般統計多様体に対するミンマックスの後悔を導き, 主成分分析の文脈における最適次元還元法を応用した。

関連論文リスト

• Data-freeWeight Compress and Denoise for Large Language Models [101.53420111286952]
  パラメータ行列を圧縮する手法として,データフリーなジョイントランクk近似を提案する。 キャリブレーションデータなしで、元の性能の93.43%を維持しながら80%のパラメータのモデルプルーニングを実現する。
  論文  参考訳（メタデータ） (2024-02-26T05:51:47Z)
• On the Consistency of Maximum Likelihood Estimation of Probabilistic Principal Component Analysis [1.0528389538549636]
  PPCAは科学や工学から定量的ファイナンスまで幅広い分野の応用がある。 様々な分野に適用可能であるにもかかわらず、このモデルに対する最大可能性(ML)解の健全性を正当化する理論的な保証はほとんど存在しない。 商位相空間を用いた新しいアプローチを提案し、特に、最大極大解が適切な商ユークリッド空間において一貫したことを示す。
  論文  参考訳（メタデータ） (2023-11-08T22:40:45Z)
• Curvature-Independent Last-Iterate Convergence for Games on Riemannian Manifolds [77.4346324549323]
  本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。 我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• Riemannian Metric Learning via Optimal Transport [34.557360177483595]
  進化する確率測度の断面サンプルからメトリックを学習するための最適輸送ベースモデルを提案する。 本手法を用いて学習したメトリクスは,cRNAと鳥の移動データに基づく軌道推定の精度を向上させる。
  論文  参考訳（メタデータ） (2022-05-18T23:32:20Z)
• Statistical Analysis of Wasserstein Distributionally Robust Estimators [9.208007322096535]
  データ駆動の最適化と学習問題において,分極分布に頑健な定式化を実行する統計的手法を検討する。 結果として得られる分布ロバスト最適化(DRO)の定式化は、最適な輸送現象を用いて規定される。 このチュートリアルは、min-maxの定式化によって選択された逆数の性質に関する洞察と、最適輸送射影のさらなる応用に捧げられている。
  論文  参考訳（メタデータ） (2021-08-04T15:45:47Z)
• Bayesian Quadrature on Riemannian Data Manifolds [79.71142807798284]
  データに固有の非線形幾何学構造をモデル化する原則的な方法が提供される。 しかし、これらの演算は通常計算的に要求される。 特に、正規法則上の積分を数値計算するためにベイズ二次(bq)に焦点を当てる。 先行知識と活発な探索手法を両立させることで,BQは必要な評価回数を大幅に削減できることを示す。
  論文  参考訳（メタデータ） (2021-02-12T17:38:04Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• On Projection Robust Optimal Transport: Sample Complexity and Model Misspecification [101.0377583883137]
  射影ロバスト(PR)OTは、2つの測度の間のOTコストを最大化するために、射影可能な$k$次元部分空間を選択する。 私たちの最初の貢献は、PRワッサーシュタイン距離のいくつかの基本的な統計的性質を確立することである。 次に、部分空間を最適化するのではなく平均化することにより、PRW距離の代替として積分PRワッサーシュタイン距離(IPRW)を提案する。
  論文  参考訳（メタデータ） (2020-06-22T14:35:33Z)
• Fundamental Limits of Ridge-Regularized Empirical Risk Minimization in High Dimensions [41.7567932118769]
  経験的リスク最小化アルゴリズムは、様々な推定や予測タスクで広く利用されている。 本稿では,コンベックスEMMの統計的精度に関する基礎的限界を推論のために初めて特徴づける。
  論文  参考訳（メタデータ） (2020-06-16T04:27:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。