論文の概要: Geometry of EM and related iterative algorithms
- arxiv url: http://arxiv.org/abs/2209.01301v1
- Date: Sat, 3 Sep 2022 00:23:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-07 12:49:57.042488
- Title: Geometry of EM and related iterative algorithms
- Title(参考訳): EMおよび関連反復アルゴリズムの幾何学
- Authors: Hideitsu Hino and Shotaro Akaho and Noboru Murata
- Abstract要約: 期待-最大化(EM)アルゴリズムは、統計的推論の方法論として長年使われてきた単純なメタアルゴリズムである。
本稿では,EMアルゴリズムの情報幾何学的定式化である$em$アルゴリズムとその拡張と様々な問題への応用について紹介する。
- 参考スコア(独自算出の注目度): 8.228889210180268
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Expectation--Maximization (EM) algorithm is a simple meta-algorithm that
has been used for many years as a methodology for statistical inference when
there are missing measurements in the observed data or when the data is
composed of observables and unobservables. Its general properties are well
studied, and also, there are countless ways to apply it to individual problems.
In this paper, we introduce the $em$ algorithm, an information geometric
formulation of the EM algorithm, and its extensions and applications to various
problems. Specifically, we will see that it is possible to formulate an
outlier-robust inference algorithm, an algorithm for calculating channel
capacity, parameter estimation methods on probability simplex, particular
multivariate analysis methods such as principal component analysis in a space
of probability models and modal regression, matrix factorization, and learning
generative models, which have recently attracted attention in deep learning,
from the geometric perspective.
- Abstract(参考訳): expectation-maximization (em) アルゴリズムは単純なメタアルゴリズムであり、観測データに測定値が欠けている場合や観測可能データと観測可能データからなる場合、統計推論の方法論として長年にわたって用いられてきた。
一般の性質はよく研究されており、個々の問題に適用する方法も数え切れないほどある。
本稿では,EMアルゴリズムの情報幾何学的定式化である$em$アルゴリズムとその拡張と様々な問題への応用について紹介する。
具体的には, 確率モデルの空間における主成分分析やモーダル回帰, 行列分解, 学習生成モデルといった, チャネル容量の計算アルゴリズム, 確率シンプレックスのパラメータ推定法, 特定の多変量解析法を, 幾何的な観点から, 深層学習において最近注目されているような外乱ロバスト推定アルゴリズムを定式化することが可能であることを示す。
関連論文リスト
- Elliptical Wishart distributions: information geometry, maximum likelihood estimator, performance analysis and statistical learning [7.499241611226476]
確率推定器(MLE)を演算する2つのアルゴリズムを提案する。
The $t$-Wishart distribution, the MLE and statistics learning algorithm are evaluation。
論文 参考訳(メタデータ) (2024-11-05T01:52:27Z) - An evaluation framework for dimensionality reduction through sectional
curvature [59.40521061783166]
本研究は,非教師付き次元減少性能指標を初めて導入することを目的としている。
その実現可能性をテストするために、この測定基準は最もよく使われる次元削減アルゴリズムの性能を評価するために用いられている。
新しいパラメータ化問題インスタンスジェネレータが関数ジェネレータの形式で構築されている。
論文 参考訳(メタデータ) (2023-03-17T11:59:33Z) - Learning to Bound Counterfactual Inference in Structural Causal Models
from Observational and Randomised Data [64.96984404868411]
我々は、従来のEMベースのアルゴリズムを拡張するための全体的なデータの特徴付けを導出する。
新しいアルゴリズムは、そのような混合データソースからモデルパラメータの(不特定性)領域を近似することを学ぶ。
反実的な結果に間隔近似を与え、それが特定可能な場合の点に崩壊する。
論文 参考訳(メタデータ) (2022-12-06T12:42:11Z) - Understanding High Dimensional Spaces through Visual Means Employing
Multidimensional Projections [0.0]
データ視覚化分野における関連する2つのアルゴリズムは、t分散近傍埋め込み(t-SNE)とLSP(Last-Square Projection)である。
これらのアルゴリズムは、データセットへの影響を含む、いくつかの数学的機能を理解するために使用することができる。
本稿では,多次元投影アルゴリズムの視覚的結果を用いて,それらの数学的枠組みのパラメータを理解・微調整する方法について述べる。
論文 参考訳(メタデータ) (2022-07-12T20:30:33Z) - Group invariant machine learning by fundamental domain projections [0.5156484100374058]
我々は幾何学的トポロジーの観点から、教師付き群不変および同変機械学習のよく研究された問題にアプローチする。
本稿では,入力データを幾何学的空間に投影する前処理ステップを用いた新しい手法を提案する。
この新しいデータは任意の機械学習モデルの入力になる。
論文 参考訳(メタデータ) (2022-02-04T14:45:57Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳(メタデータ) (2021-06-09T08:05:36Z) - Quantum Algorithms for Data Representation and Analysis [68.754953879193]
機械学習におけるデータ表現のための固有problemsの解を高速化する量子手続きを提供する。
これらのサブルーチンのパワーと実用性は、主成分分析、対応解析、潜在意味解析のための入力行列の大きさのサブ線形量子アルゴリズムによって示される。
その結果、入力のサイズに依存しない実行時のパラメータは妥当であり、計算モデル上の誤差が小さいことが示され、競合的な分類性能が得られる。
論文 参考訳(メタデータ) (2021-04-19T00:41:43Z) - Generalized Matrix Factorization: efficient algorithms for fitting
generalized linear latent variable models to large data arrays [62.997667081978825]
一般化線形潜在変数モデル(GLLVM)は、そのような因子モデルを非ガウス応答に一般化する。
GLLVMのモデルパラメータを推定する現在のアルゴリズムは、集約的な計算を必要とし、大規模なデータセットにスケールしない。
本稿では,GLLVMを高次元データセットに適用するための新しい手法を提案する。
論文 参考訳(メタデータ) (2020-10-06T04:28:19Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳(メタデータ) (2020-05-22T22:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。