Fugu-MT 論文翻訳(概要): Neural Mutual Information Estimation with Vector Copulas

論文の概要: Neural Mutual Information Estimation with Vector Copulas

arxiv url: http://arxiv.org/abs/2510.20968v1
Date: Thu, 23 Oct 2025 19:54:56 GMT
ステータス: 翻訳完了
システム内更新日: 2025-10-28 06:57:23.350337
Title: Neural Mutual Information Estimation with Vector Copulas
Title（参考訳）: ベクトルコプラを用いた神経相互情報推定
Authors: Yanzhi Chen, Zijing Ou, Adrian Weller, Michael U. Gutmann,
Abstract要約: 相互情報(MI)の推定は、データサイエンスと機械学習の基本的な課題である。複雑性とキャパシティのトレードオフを改善するために、これらの2つの極端の間に原則を定めます。
参考スコア（独自算出の注目度）: 42.48277336237606
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Estimating mutual information (MI) is a fundamental task in data science and machine learning. Existing estimators mainly rely on either highly flexible models (e.g., neural networks), which require large amounts of data, or overly simplified models (e.g., Gaussian copula), which fail to capture complex distributions. Drawing upon recent vector copula theory, we propose a principled interpolation between these two extremes to achieve a better trade-off between complexity and capacity. Experiments on state-of-the-art synthetic benchmarks and real-world data with diverse modalities demonstrate the advantages of the proposed estimator.
Abstract（参考訳）: 相互情報(MI)の推定は、データサイエンスと機械学習の基本的な課題である。既存の推定器は主に、大量のデータを必要とする高度に柔軟なモデル(例えばニューラルネットワーク)か、複雑な分布を捉えない過度に単純化されたモデル(例えばガウスコプラ)に依存している。最近のベクトルコプラ理論に基づいて、複雑性とキャパシティのトレードオフを改善するために、これらの2つの極端間の原理的補間を提案する。様々なモダリティを持つ最先端の合成ベンチマークと実世界のデータに関する実験は、提案した推定器の利点を実証している。

関連論文リスト

Information-theoretic Quantification of High-order Feature Effects in Classification Problems [0.19791587637442676]
特徴重要度(Hi-Fi)法における高次相互作用の情報理論拡張について述べる。私たちのフレームワークは、機能のコントリビューションをユニークでシナジスティックで冗長なコンポーネントに分解します。その結果,提案した推定器は理論的および予測された結果を正確に復元することがわかった。
論文参考訳（メタデータ） (2025-07-06T11:50:30Z)
Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文参考訳（メタデータ） (2024-04-11T09:23:36Z)
Surprisal Driven $k$-NN for Robust and Interpretable Nonparametric Learning [1.4293924404819704]
我々は情報理論の観点から、隣り合う従来のアルゴリズムに新たな光を当てた。単一モデルを用いた分類,回帰,密度推定,異常検出などのタスクに対する頑健で解釈可能なフレームワークを提案する。我々の研究は、分類と異常検出における最先端の成果を達成することによって、アーキテクチャの汎用性を示す。
論文参考訳（メタデータ） (2023-11-17T00:35:38Z)
Tackling Computational Heterogeneity in FL: A Few Theoretical Insights [68.8204255655161]
我々は、計算異種データの形式化と処理を可能にする新しい集約フレームワークを導入し、分析する。提案するアグリゲーションアルゴリズムは理論的および実験的予測から広範囲に解析される。
論文参考訳（メタデータ） (2023-07-12T16:28:21Z)
Mutual Information Estimation via $f$-Divergence and Data Derangements [6.43826005042477]
本稿では,$f$-divergenceの変動表現に基づく,新たな識別情報推定手法を提案する。提案した推定器は、優れたバイアス/分散トレードオフを示すため、柔軟である。
論文参考訳（メタデータ） (2023-05-31T16:54:25Z)
h-analysis and data-parallel physics-informed neural networks [0.7614628596146599]
物理インフォームドニューラルネットワーク(PINN)に着目した機械学習スキームのデータ並列高速化について検討する。我々はHorovodトレーニングフレームワークを通じて、$h$-analysisとデータ並列アクセラレーションに基づく新しいプロトコルを詳述する。アクセラレーションは実装が簡単で、トレーニングを損なわず、非常に効率的で制御可能であることを示す。
論文参考訳（メタデータ） (2023-02-17T12:15:18Z)
DIFFormer: Scalable (Graph) Transformers Induced by Energy Constrained Diffusion [66.21290235237808]
本稿では,データセットからのインスタンスのバッチを進化状態にエンコードするエネルギー制約拡散モデルを提案する。任意のインスタンス対間の対拡散強度に対する閉形式最適推定を示唆する厳密な理論を提供する。各種タスクにおいて優れた性能を有する汎用エンコーダバックボーンとして,本モデルの適用性を示す実験を行った。
論文参考訳（メタデータ） (2023-01-23T15:18:54Z)
HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文参考訳（メタデータ） (2022-06-15T19:10:35Z)
Inducing Gaussian Process Networks [80.40892394020797]
本稿では,特徴空間と誘導点を同時に学習するシンプルなフレームワークであるGaussian Process Network (IGN)を提案する。特に誘導点は特徴空間で直接学習され、複雑な構造化領域のシームレスな表現を可能にする。実世界のデータセットに対する実験結果から,IGNは最先端の手法よりも大幅に進歩していることを示す。
論文参考訳（メタデータ） (2022-04-21T05:27:09Z)
Extrapolatable Relational Reasoning With Comparators in Low-Dimensional Manifolds [7.769102711230249]
本稿では,現在のニューラルネットワークアーキテクチャと容易に融合可能な,神経科学にインスパイアされた誘導バイアスモジュールを提案する。この誘導バイアスを持つニューラルネットは、様々な関係推論タスクにおいて、O.o.d一般化性能を著しく向上させることを示す。
論文参考訳（メタデータ） (2020-06-15T19:09:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。