論文の概要: InfoAtlas: A Foundation Model for Zero-Shot Statistical Dependence Estimate
- arxiv url: http://arxiv.org/abs/2606.00241v1
- Date: Fri, 29 May 2026 18:16:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.174147
- Title: InfoAtlas: A Foundation Model for Zero-Shot Statistical Dependence Estimate
- Title(参考訳): InfoAtlas: ゼロショット統計依存推定のための基礎モデル
- Abstract要約: InfoAtlasは、反復最適化の必要性を排除する基礎的なモデルのようなアーキテクチャである。
さまざまな依存構造を特定し、データセットから直接MIを予測することを学ぶ。
実験の結果、InfoAtlasは最先端のニューラル推定器と精度で一致し、100倍のスピードアップを達成した。
- 参考スコア(独自算出の注目度): 68.14572758582081
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Measuring statistical dependency between high-dimensional random variables is a fundamental task in data science and machine learning. Neural mutual information (MI) estimators offer a promising avenue, but they typically require costly iterative optimization for each new dataset, making them impractical for real-time applications. We present InfoAtlas, a foundation model-like architecture that eliminates this bottleneck by directly inferring MI in a single forward pass. Pretrained on large-scale synthetic data with rich dependence patterns, InfoAtlas learns to identify diverse dependence structures and predict MI directly from the dataset. Comprehensive experiments demonstrate that InfoAtlas matches state-of-the-art neural estimators in accuracy while achieving $100\times$ speedup, can flexibly handle varying dimensions and sample sizes through a single unified model, and generalizes effectively to complex, real-world scenarios. By reformulating MI estimation as an inference task, InfoAtlas establishes a foundation for real-time dependency analysis.
- Abstract(参考訳): 高次元の確率変数間の統計的依存関係を測定することは、データサイエンスと機械学習の基本的な課題である。
ニューラル相互情報(MI)推定器は、有望な道を提供するが、通常、新しいデータセットごとにコストのかかる反復的な最適化を必要とするため、リアルタイムアプリケーションには実用的ではない。
本稿では,MIを直接フォワードパスで推論することで,このボトルネックを解消する基盤モデルのようなアーキテクチャであるInfoAtlasを紹介する。
InfoAtlasは、豊富な依存パターンを持つ大規模合成データに基づいて、多様な依存構造を特定し、データセットから直接MIを予測することを学ぶ。
包括的な実験では、InfoAtlasは100ドル以上のスピードアップを達成しながら、最先端のニューラルネットワーク推定器と精度で一致し、単一の統一モデルを通じて様々な次元とサンプルサイズを柔軟に処理し、複雑な実世界のシナリオに効果的に一般化することができる。
MI推定を推論タスクとして再構成することにより、InfoAtlasはリアルタイム依存分析の基礎を確立する。
関連論文リスト
- Data-Efficient Deep Learning: Empirical Guidelines for Training Set Size Estimation in Inertial Sensor Classification [0.0]
本稿では,バイナリとマルチクラスの両方のシナリオで分類性能を解析する統合フレームワークを提案する。
本稿では,学習曲線の安定化に必要なサンプルサイズとして定義される定量的安定点測定法を提案する。
小型のパイロット実験からデータ要求を抽出するための一般化可能なフレームワークを提供する。
論文 参考訳(メタデータ) (2026-07-10T13:30:28Z) - OpenSeisML: Open Large-Scale Real Seismic and well-log Dataset for Generative AI [1.379457310965574]
我々は, 地震インバージョンのための生成AI(Gen-AI)を支援する, 実地震の集合であるOpenSeisMLを提案する。
データセットは、英国国立データリポジトリ(NDR)で公開されている調査から収集される。
我々は、チェックショットデータを用いて、時間-深度関係を確立し、データセットを通して速度モデルを構築し、ポストスタック地震データの正確な変換を行う。
論文 参考訳(メタデータ) (2026-05-19T22:22:46Z) - Earth System Foundation Model (ESFM): A unified framework for heterogeneous data integration and forecasting [52.53742727060265]
地球系の基礎モデル(FM)は、大量のデータセットにわたる物理変数間の統計的関係を学習する。
本稿では,アース・システム・ファンデーション・モデル(ESFM)について紹介する。
本研究では,高密度グリッドデータ (ERA5, CMIP6) , 地域密集データ, 疎グリッドMODIS衛星データ, 局データを用いた。
結果は、最先端のベンチマークと比較して、競争力や優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2026-04-20T11:40:39Z) - Meta-Statistical Learning: Supervised Learning of Statistical Inference [59.463430294611626]
この研究は、大きな言語モデル(LLM)の成功を駆動するツールと原則が、分散レベルのタスクに取り組むために再利用可能であることを実証している。
本稿では,統計的推論タスクを教師付き学習問題として再構成するマルチインスタンス学習に触発されたメタ統計学習を提案する。
論文 参考訳(メタデータ) (2025-02-17T18:04:39Z) - A Benchmark Suite for Evaluating Neural Mutual Information Estimators on Unstructured Datasets [3.2228025627337864]
相互情報(MI)は、2つの確率変数間の依存性を定量化するための基本的な指標である。
本研究では、非構造化データセット上でのニューラルMI推定値を評価するための総合ベンチマークスイートを提案する。
論文 参考訳(メタデータ) (2024-10-14T14:22:38Z) - PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection [51.20479454379662]
私たちはaを提案します。
フェデレートされた異常検出フレームワークであるPeFADは、プライバシーの懸念が高まっている。
我々は、4つの実際のデータセットに対して広範な評価を行い、PeFADは既存の最先端ベースラインを最大28.74%上回っている。
論文 参考訳(メタデータ) (2024-06-04T13:51:08Z) - Exploring Federated Deep Learning for Standardising Naming Conventions
in Radiotherapy Data [0.18749305679160366]
放射線治療(RT)データにおける構造容積名の標準化は、データマイニングと分析を可能にするために必要である。
RT患者記録が複数のデータセンターに分散していると考える研究はない。
本稿では,現実の環境をエミュレートして標準化された命名法を提案する。
RTデータをフェデレーション設定で標準化するために,マルチモーダル深層ニューラルネットワークを提案する。
論文 参考訳(メタデータ) (2024-02-14T07:52:28Z) - Federated Learning with Projected Trajectory Regularization [65.6266768678291]
フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。
連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。
本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-22T02:12:08Z) - Post-Estimation Smoothing: A Simple Baseline for Learning with Side
Information [102.18616819054368]
本稿では,構造指標データを予測に組み込む高速かつ効率的な手法として,後推定平滑化演算子を提案する。
滑らかなステップは元の予測器とは分離されているため、機械学習タスクの幅広いクラスに適用できる。
大規模な空間的・時間的データセットに関する実験は,実測後のスムース化の速度と正確さを浮き彫りにした。
論文 参考訳(メタデータ) (2020-03-12T18:04:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。