論文の概要: Improved MDL Estimators Using Fiber Bundle of Local Exponential Families for Non-exponential Families

• arxiv url: http://arxiv.org/abs/2311.03852v1
• Date: Tue, 7 Nov 2023 10:09:04 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-08 15:58:58.059097
• Title: Improved MDL Estimators Using Fiber Bundle of Local Exponential Families for Non-exponential Families
• Title（参考訳）: 非指数家庭における局所指数家庭の繊維束を用いたMDL推定器の改良
• Authors: Kohei Miyamoto, Andrew R. Barron, and Jun'ichi Takeuchi
• Abstract要約: 目的のファミリーMに対する符号の後悔は、符号長とMの要素によって達成される理想的な符号長との差である。 これは Gr"unwald による指数族に対する結果の一般化である。
• 参考スコア（独自算出の注目度）: 1.6385815610837167
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Minimum Description Length (MDL) estimators, using two-part codes for universal coding, are analyzed. For general parametric families under certain regularity conditions, we introduce a two-part code whose regret is close to the minimax regret, where regret of a code with respect to a target family M is the difference between the code length of the code and the ideal code length achieved by an element in M. This is a generalization of the result for exponential families by Gr\"unwald. Our code is constructed by using an augmented structure of M with a bundle of local exponential families for data description, which is not needed for exponential families. This result gives a tight upper bound on risk and loss of the MDL estimators based on the theory introduced by Barron and Cover in 1991. Further, we show that we can apply the result to mixture families, which are a typical example of non-exponential families.
• Abstract（参考訳）: ユニバーサルコーディングのための2部分符号を用いた最小記述長(MDL)推定器を解析した。 特定の正規性条件下での一般パラメトリックな族に対して、後悔がミニマックスの後悔に近い2つの部分のコードを導入する。そこでは、対象ファミリーmに関するコードの後悔は、コードのコード長とmの要素によって達成される理想的なコード長との差である。これは、指数関数的ファミリーに対するgr\"unwaldによる結果の一般化である。 我々のコードは、指数族には不要なデータ記述のために、局所指数族を束ねたMの強化構造を用いて構築される。 この結果は、1991年にバロンとカバーによって導入された理論に基づいて、mdl推定器のリスクと損失の厳密な上限を与える。 さらに,非経験的家族の典型例である混合族に結果を適用することができることを示す。

関連論文リスト

• Deriving Lehmer and Hölder means as maximum weighted likelihood estimates for the multivariate exponential family [1.3812010983144798]
  リーマーとH'olderの平均的なファミリーと重み付き最大可能性推定器とのリンクが最近確立されている。 この記事では、これらの手段の族を確率論的に解釈し、様々な応用においてそれらの用途を広げることができる。
  論文  参考訳（メタデータ） (2024-05-02T03:02:25Z)
• Machine Learning-Aided Efficient Decoding of Reed-Muller Subcodes [59.55193427277134]
  Reed-Muller (RM) 符号は、一般的なバイナリインプットメモリレス対称チャネルの容量を達成する。 RM符号は制限されたレートのみを許容する。 効率的なデコーダは、RM符号に対して有限長で利用可能である。
  論文  参考訳（メタデータ） (2023-01-16T04:11:14Z)
• Clustering above Exponential Families with Tempered Exponential Measures [28.532545355403123]
  指数関数族とのリンクにより、$k$-meansクラスタリングは、幅広いデータ生成分布に一般化できるようになった。 指数族を超えて働くための枠組みは、公理化で彫られた人口最小化の頑丈さが欠如しているなど、道路ブロックを持ち上げるために重要である。
  論文  参考訳（メタデータ） (2022-11-04T21:58:40Z)
• Bilinear Exponential Family of MDPs: Frequentist Regret Bound with Tractable Exploration and Planning [0.0]
  本研究では,不確実な報酬と遷移を伴う連続状態行動空間におけるエピソード強化学習の課題について検討する。 我々は,未知のパラメータを学習するために,ペナライズされた最大確率推定器を用いたアルゴリズムBEF-RLSVIを提案する。
  論文  参考訳（メタデータ） (2022-10-05T08:26:49Z)
• Finite-Time Regret of Thompson Sampling Algorithms for Exponential Family Multi-Armed Bandits [88.21288104408556]
  本研究では,指数関数族バンドイットに対するトンプソンサンプリング (TS) アルゴリズムの遺残について検討する。 最適な腕の過小評価を避けるために,新しいサンプリング分布を用いたトンプソンサンプリング(Expulli)を提案する。
  論文  参考訳（メタデータ） (2022-06-07T18:08:21Z)
• Robust Estimation for Nonparametric Families via Generative Adversarial Networks [92.64483100338724]
  我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。 我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。 技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
  論文  参考訳（メタデータ） (2022-02-02T20:11:33Z)
• Bregman Deviations of Generic Exponential Families [28.592975143984006]
  ラプラス法(Laplace method)とも呼ばれる混合手法の手法を再検討し、一般指数族における濃度現象について検討する。 我々の境界は時間的一様であり、古典的な情報ゲインを指数関数族に拡張する量であるように見える。
  論文  参考訳（メタデータ） (2022-01-18T20:50:05Z)
• Exponential Family Model-Based Reinforcement Learning via Score Matching [97.31477125728844]
  有限水平表層強化学習(RL)のための楽観的モデルベースアルゴリズムSMRLを提案する。 SMRLは、リッジ回帰によるモデルパラメータの効率的な推定を可能にする非正規化密度推定手法であるスコアマッチングを用いる。
  論文  参考訳（メタデータ） (2021-12-28T15:51:07Z)
• Convergence Rates for the MAP of an Exponential Family and Stochastic Mirror Descent -- an Open Problem [33.74484936098467]
  最大推定値の対数的部分最適度を上界化することの問題点を考察する。 驚いたことに、この問題に対する一般的な解決策は文献には見つからなかった。
  論文  参考訳（メタデータ） (2021-11-12T17:18:06Z)
• Dimension Free Generalization Bounds for Non Linear Metric Learning [61.193693608166114]
  我々はスパース体制と非スパース体制という2つの体制に対して一様一般化境界を提供する。 解の異なる新しい性質を頼りにすることで、次元自由一般化保証を提供することができることを示す。
  論文  参考訳（メタデータ） (2021-02-07T14:47:00Z)
• Relative Deviation Margin Bounds [55.22251993239944]
  我々はRademacher複雑性の観点から、分布依存と一般家庭に有効な2種類の学習境界を与える。 有限モーメントの仮定の下で、非有界な損失関数に対する分布依存的一般化境界を導出する。
  論文  参考訳（メタデータ） (2020-06-26T12:37:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。