論文の概要: Towards Diverse and Comprehensive Benchmarks for Mutual Information Estimation
- arxiv url: http://arxiv.org/abs/2607.03487v1
- Date: Fri, 03 Jul 2026 16:55:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.631639
- Title: Towards Diverse and Comprehensive Benchmarks for Mutual Information Estimation
- Title（参考訳）: 相互情報推定のための多元的・包括的ベンチマークに向けて
- Abstract要約: 相互情報推定は、機械学習と統計学における中心的な問題である。
既存のベンチマークでは、単純化された低次元分布上の推定器を評価し、複雑な現実的なデータに対する性能はほとんど探索されていない。
我々はこのギャップを、統一されたコプラ理論の観点から、包括的なベンチマークフレームワークで解決する。
- 参考スコア（独自算出の注目度）: 47.29900218955283
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Mutual information (MI) estimation is a central problem in machine learning and statistics; however, existing benchmarks typically evaluate estimators on simplified, low-dimensional distributions, leaving their performance on complex, realistic data largely unexplored. We address this gap with a comprehensive benchmarking framework grounded in a unified copula-theoretic perspective that subsumes existing benchmarks as special cases. Within this framework, we propose two complementary families of tests: a copula-first family that systematically varies ground-truth MI, dimensionality, and marginal complexity using synthetic and flow-based transformations; and a marginals-first family that couples real-world image data with controlled dependency structures, extending the classic same-class-pairing paradigm. We use this suite to extensively evaluate three classes of estimators: non-parametric, discriminative, and generative. Contrary to prevailing assumptions, our results indicate that there is no universal winner: each category can systematically outperform all other estimators under specific setups. By analyzing these cases, we identify fundamental estimation barriers and propose new tests that more effectively stress these specific limitations. We share the open source code at https://github.com/VanessB/mutinfo.
- Abstract（参考訳）: 相互情報(MI)推定は、機械学習と統計学において中心的な問題であるが、既存のベンチマークでは、単純化された低次元分布における推定器の評価が一般的であり、複雑な現実的なデータに対する性能はほとんど探索されていない。
このギャップは、既存のベンチマークを特別なケースと仮定する、統一されたコプラ理論的な視点に基づく包括的なベンチマークフレームワークによって解決される。
本枠組みでは, 地中MIを体系的に変化させるコプラファーストファミリー, 合成およびフローベース変換を用いた次元性, 限界複雑性, および, 実世界の画像データを制御された依存構造に結合し, 古典的な同類ペアリングパラダイムを拡張した限界ファーストファミリーを提案する。
このスイートを用いて、非パラメトリック、識別、生成の3つのクラスを広範囲に評価する。
一般的な仮定とは対照的に、我々の結果は普遍的な勝者が存在しないことを示している。
これらのケースを解析することにより、基本的な推定障壁を特定し、これらの制限をより効果的に強調する新しいテストを提案する。
オープンソースコードはhttps://github.com/VanessB/mutinfo.comで公開しています。
関連論文リスト
- Every Token Counts: Exact Likert-Scale Distributions for Measuring LLM Attitudes and Biases [0.0]
大規模言語モデル(LLM)の制御行動評価のための分析的正確なフレームワークを提案する。
因果的主因果的および相互作用的効果を系統的に分離するために,非構造的プロンプトを完全クロスファクター実験に置き換える。
我々は、これらのPMFを解析的に処理するために、多変量順序のコンセンサスメトリックと分布ANOVAを導出する。
当社の枠組みは,5つのLDMを対象とした消費者倫理中心主義のケーススタディを用いて検証し,我々のアプローチが,ベンチマークを不明瞭に集約する全体的国家偏見をいかに分離するかを実証した。
論文 参考訳（メタデータ） (2026-08-11T05:20:06Z) - Multiple-Prediction-Powered Inference [57.30769275944024]
この研究は、MultiPPI推定器のミニマックス最適性、有限サンプル性能、正規性に関する理論的保証を提供する。
我々は,MultiPPIが既存のベースラインよりも低い推定誤差を実現することを示す。
論文 参考訳（メタデータ） (2026-03-28T21:24:00Z) - Bridging the Evaluation Gap: Standardized Benchmarks for Multi-Objective Search [19.834978083336022]
我々は、MOS(Multi-objective search)の正確で近似的なベンチマークスイートを初めて導入する。
我々のスイートは、現実世界の道路網、構造化された合成グラフ、ゲームベースのグリッド環境、高次元ロボットモーションプランニングロードマップという、構造的に多様な4つの領域にまたがっている。
論文 参考訳（メタデータ） (2026-03-25T08:45:33Z) - TOPO-Bench: An Open-Source Topological Mapping Evaluation Framework with Quantifiable Perceptual Aliasing [10.736029638634504]
トポロジカル一貫性をトポロジカルマップの基本特性として定式化し、ローカライゼーション精度が効率的な代理計量を提供することを示す。
本研究では,環境間の公正な比較を可能にするために,データセットのあいまいさに関する最初の定量的尺度を提案する。
すべてのデータセット、ベースライン、評価ツールは完全にオープンソースであり、トポロジカルマッピングにおける一貫した再現可能な研究を促進する。
論文 参考訳（メタデータ） (2025-10-05T08:58:08Z) - NDCG-Consistent Softmax Approximation with Accelerated Convergence [67.10365329542365]
本稿では,ランキングの指標と直接一致した新たな損失定式化を提案する。
提案したRG損失を高効率な Alternating Least Squares (ALS) 最適化手法と統合する。
実世界のデータセットに対する実証的な評価は、我々のアプローチが同等または上位のパフォーマンスを達成することを示す。
論文 参考訳（メタデータ） (2025-06-11T06:59:17Z) - Beyond Normal: On the Evaluation of Mutual Information Estimators [52.85079110699378]
そこで本研究では,既知の地道的相互情報を用いて,多種多様な分布群を構築する方法について述べる。
本稿では,問題の難易度に適応した適切な推定器の選択方法について,実践者のためのガイドラインを提供する。
論文 参考訳（メタデータ） (2023-06-19T17:26:34Z) - Relational Proxies: Emergent Relationships as Fine-Grained
Discriminators [52.17542855760418]
本稿では,オブジェクトのグローバル部分とローカル部分の間の情報を利用してラベルを符号化する手法を提案する。
我々は、理論的な結果に基づいてプロキシを設計し、7つの挑戦的なきめ細かいベンチマークデータセットに基づいて評価する。
また、この理論を実験的に検証し、複数のベンチマークで一貫した結果を得る。
論文 参考訳（メタデータ） (2022-10-05T11:08:04Z) - Predicting Out-of-Domain Generalization with Neighborhood Invariance [59.05399533508682]
局所変換近傍における分類器の出力不変性の尺度を提案する。
私たちの測度は計算が簡単で、テストポイントの真のラベルに依存しません。
画像分類,感情分析,自然言語推論のベンチマーク実験において,我々の測定値と実際のOOD一般化との間に強い相関関係を示す。
論文 参考訳（メタデータ） (2022-07-05T14:55:16Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳（メタデータ） (2022-06-15T19:10:35Z) - Adversarial Estimators [0.0]
我々は、敵推定器(A推定器)の理論を開発する。
そこで本研究では,A推定器の収束率をポイントワイドおよび部分同定の両方で特徴付ける。
我々の理論は、ニューラルネットワークM-推定器の一般関数の正規性ももたらしている。
論文 参考訳（メタデータ） (2022-04-22T04:39:44Z) - Transductive Few-Shot Learning: Clustering is All You Need? [31.21306826132773]
そこで本研究では,プロトタイプをベースとした超越的数ショット学習の汎用的定式化について検討する。
提案手法は, 精度と最適化の観点から, 大きな問題にスケールアップしながら, 競争性能を向上する。
驚いたことに、私たちの一般的なモデルは、最先端の学習と比較して、すでに競争力のあるパフォーマンスを実現しています。
論文 参考訳（メタデータ） (2021-06-16T16:14:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。