論文の概要: Mutual Information Estimation via Normalizing Flows
- arxiv url: http://arxiv.org/abs/2403.02187v2
- Date: Tue, 5 Mar 2024 12:43:12 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-06 18:07:23.478892
- Title: Mutual Information Estimation via Normalizing Flows
- Title(参考訳): 正規化流れによる相互情報推定
- Authors: Ivan Butakov, Alexander Tolmachev, Sofia Malanchuk, Anna Neopryatnaya,
Alexey Frolov
- Abstract要約: 本稿では,正規化フローベース推定器の導入による相互情報(MI)推定問題に対する新しいアプローチを提案する。
提案手法は,元のデータに対してMI推定値が得られることを示す。
- 参考スコア(独自算出の注目度): 41.94295877935867
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a novel approach to the problem of mutual information (MI)
estimation via introducing normalizing flows-based estimator. The estimator
maps original data to the target distribution with known closed-form expression
for MI. We demonstrate that our approach yields MI estimates for the original
data. Experiments with high-dimensional data are provided to show the
advantages of the proposed estimator.
- Abstract(参考訳): 本稿では,正規化フローベース推定器の導入による相互情報(MI)推定問題に対する新しいアプローチを提案する。
推定器は、MIの既知のクローズドフォーム表現を用いて、元のデータをターゲット分布にマッピングする。
このアプローチが元のデータに対するmiの推定結果をもたらすことを実証する。
提案手法の利点を示すため,高次元データを用いた実験を行った。
関連論文リスト
- The Mixtures and the Neural Critics: On the Pointwise Mutual Information
Profiles of Fine Distributions [52.85079110699378]
本稿では,情報分布の微細化をポイントワイドな情報プロファイルの近似に利用する方法を示す。
また, 相互情報のモデルに基づくベイズ推定において, 詳細な分布をいかに利用できるかを示す。
論文 参考訳(メタデータ) (2023-10-16T10:02:24Z) - Beyond Normal: On the Evaluation of Mutual Information Estimators [52.85079110699378]
そこで本研究では,既知の地道的相互情報を用いて,多種多様な分布群を構築する方法について述べる。
本稿では,問題の難易度に適応した適切な推定器の選択方法について,実践者のためのガイドラインを提供する。
論文 参考訳(メタデータ) (2023-06-19T17:26:34Z) - STEERING: Stein Information Directed Exploration for Model-Based
Reinforcement Learning [111.75423966239092]
遷移モデルの現在の推定値と未知の最適値との間の積分確率距離(IPM)の観点から探索インセンティブを提案する。
KSDに基づく新しいアルゴリズムを開発した。 textbfSTEin information dirtextbfEcted Explor for model-based textbfReinforcement Learntextbfing。
論文 参考訳(メタデータ) (2023-01-28T00:49:28Z) - Mixture of von Mises-Fisher distribution with sparse prototypes [0.0]
von Mises-Fisher分布の混合は、単位超球面上のデータをクラスタリングするのに使うことができる。
本稿では,l1のペナル化確率を用いてフォン・ミーゼス混合物を推定する。
論文 参考訳(メタデータ) (2022-12-30T08:00:38Z) - Prediction Errors for Penalized Regressions based on Generalized
Approximate Message Passing [0.0]
C_p$ criterion, Information criteria, and leave-one-out Cross Validation (LOOCV) error。
GAMPの枠組みでは,推定値の分散を利用して情報基準を表現できることが示されている。
論文 参考訳(メタデータ) (2022-06-26T09:42:39Z) - Learning Bias-Invariant Representation by Cross-Sample Mutual
Information Minimization [77.8735802150511]
対象タスクが誤用したバイアス情報を除去するために,クロスサンプル対逆脱バイアス法(CSAD)を提案する。
相関測定は, 対向的偏り評価において重要な役割を担い, クロスサンプル型相互情報推定器によって行われる。
我々は,提案手法の最先端手法に対する利点を検証するために,公開データセットの徹底的な実験を行った。
論文 参考訳(メタデータ) (2021-08-11T21:17:02Z) - Statistical Inference after Kernel Ridge Regression Imputation under
item nonresponse [0.76146285961466]
カーネルリッジ回帰法による非パラメトリックな計算手法を考察し、一貫した分散推定を提案する。
提案した分散推定器はエントロピー法を用いて密度比を推定する線形化手法に基づいている。
論文 参考訳(メタデータ) (2021-01-29T20:46:33Z) - Meta-Learning Conjugate Priors for Few-Shot Bayesian Optimization [0.0]
メタラーニングを用いて情報共役の事前分布の推定を自動化する新しい手法を提案する。
このプロセスから、元のデータ分布の形状パラメータを推定するために、わずかなデータしか必要としない先行データを生成する。
論文 参考訳(メタデータ) (2021-01-03T23:58:32Z) - C-MI-GAN : Estimation of Conditional Mutual Information using MinMax
formulation [20.57104064155529]
我々は,条件付き相互情報(CMI)推定を,その定式化をミニマックス最適化問題として利用して検討する。
提案した推定器は,様々なシミュレーションデータセットに対する既存手法よりも優れた推定値を提供する。
CMI推定の応用として、実データ上での条件付き独立テスト(CI)のための推定器をデプロイし、最先端のCIテスタよりも優れた結果を得る。
論文 参考訳(メタデータ) (2020-05-17T11:22:12Z) - Batch Stationary Distribution Estimation [98.18201132095066]
サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。
与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
論文 参考訳(メタデータ) (2020-03-02T09:10:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。