論文の概要: Marformer: A Transformer for Predicting Missing Data Distributions

• arxiv url: http://arxiv.org/abs/2610.12379v1
• Date: Thu, 08 Oct 2026 17:33:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.228551
• Title: Marformer: A Transformer for Predicting Missing Data Distributions
• Title（参考訳）: Marformer: データ分散の欠落を予測するためのトランスフォーマー
• Abstract要約: 観測値の集合が与えられた条件境界を直接予測するように訓練された変換器であるMarformerを提示する。 Marformerは完全な関節分布をモデル化せず、データ生成プロセスのドメイン知識を必要とせず、全ての予測を単一の前方通過で行う。
• 参考スコア（独自算出の注目度）: 13.322083456441192
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Real decisions are made under incomplete information. If we observe only some of the random variables we need, we can predict the others. The \textbf{conditional marginals} over the missing variables are the key ingredient for computing Bayes risk and Value of Information (VOI), the expected gain from acquiring one more observation before deciding. We present the Marformer, a Transformer trained to directly predict conditional marginals given any set of observed values. Like BERT, which is trained to predict missing words from context, the Marformer constructs a hidden-vector representation for each distribution $p(X_i)$ and iteratively refines it through attention to other distributions $p(X_j)$. Unlike generative approaches, the Marformer does not model the full joint distribution, requires no domain knowledge of the data-generating process, and makes all predictions in a single forward pass. We evaluate across three synthetic domains with missing data---Bayesian networks, discretized multivariate Gaussians, and structured annotation data. The Marformer can match or outperform classical missing-data methods, even when those methods are given the true model family and prior that generated the synthetic data. We also evaluate on a real annotation dataset, where the Marformer outperforms the evaluated baselines at the largest training size. In both cases, the Marformer is substantially faster than the evaluated generative baselines.
• Abstract（参考訳）: 実際の決定は不完全な情報の下で行われる。 必要なランダム変数のいくつかだけを観測すれば、他の変数を予測できる。 不足変数に対するtextbf{conditional marginals} はベイズリスクと情報の価値(VOI)を計算する上で重要な要素である。 観測値の集合が与えられた条件境界を直接予測するように訓練された変換器であるMarformerを提示する。 コンテキストから欠落した単語を予測するためにトレーニングされたBERTと同じように、Marformerは各ディストリビューションに対して$p(X_i)$の隠れベクター表現を構築し、他のディストリビューションに注意を払って反復的に洗練する。 生成的アプローチとは異なり、Marformerは完全な関節分布をモデル化せず、データ生成プロセスのドメイン知識を必要とせず、全ての予測を単一の前方通過で行う。 ベイジアンネットワーク, 離散化多変量ガウス, 構造化アノテーションデータを含む3つの合成ドメインについて評価を行った。 Marformerは、それらのメソッドに真のモデルファミリが与えられ、合成データを生成する前にも、古典的な欠落データメソッドにマッチまたは性能を向上することができる。 Marformerは、評価されたベースラインを最大のトレーニングサイズで上回る、実際のアノテーションデータセットも評価します。 どちらの場合も、Marformerは評価された生成ベースラインよりもかなり高速である。

関連論文リスト

• Do Tabular Foundation Models Agree with Themselves? [9.642976236410833]
  モデルの予測は,任意の関節分布から得られるのか? 一つは辺化整合性であり、これは辺化条件が直接予測された辺化と等しいことを要求している。 2つ目は分解の整合性であり、これは異なる分解の順序が等しく結合分布をもたらすことを要求する。
  論文  参考訳（メタデータ） (2026-08-06T13:09:54Z)
• Impugan: Learning Conditional Generative Models for Robust Data Imputation [0.21847754147782886]
  Impuganは、欠落した値を計算し、異種データセットを統合するための条件付きジェネレーティブ・アドバイサル・ネットワーク(cGAN)である。 推論中、ジェネレータは、利用可能な特徴から欠落したエントリを再構成し、識別器は、インプットされたデータと真を区別してリアリズムを強制する。
  論文  参考訳（メタデータ） (2025-12-05T18:46:33Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• SimPro: A Simple Probabilistic Framework Towards Realistic Long-Tailed Semi-Supervised Learning [49.94607673097326]
  ラベルなしデータの分散に関する前提を前提としない、高度に適応可能なフレームワークをSimProとして提案する。 我々のフレームワークは確率モデルに基づいており、期待最大化アルゴリズムを革新的に洗練する。 本手法は,様々なベンチマークやデータ分散シナリオにまたがる一貫した最先端性能を示す。
  論文  参考訳（メタデータ） (2024-02-21T03:39:04Z)
• Learning from aggregated data with a maximum entropy model [73.63512438583375]
  我々は,観測されていない特徴分布を最大エントロピー仮説で近似することにより,ロジスティック回帰と類似した新しいモデルが,集約データからのみ学習されることを示す。 我々は、この方法で学習したモデルが、完全な非凝集データでトレーニングされたロジスティックモデルに匹敵するパフォーマンスを達成することができるという、いくつかの公開データセットに関する実証的な証拠を提示する。
  論文  参考訳（メタデータ） (2022-10-05T09:17:27Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Learning Posterior and Prior for Uncertainty Modeling in Person Re-Identification [11.651410633259543]
  我々は、潜在空間におけるサンプル後部分布とクラス先行分布を学習し、代表的特徴だけでなく、モデルによって不確実性を構築することができる。 Market1501、DukeMTMC、MARS、ノイズデータセットでも実験が行われている。
  論文  参考訳（メタデータ） (2020-07-17T07:20:39Z)
• Characterizing and Avoiding Problematic Global Optima of Variational Autoencoders [28.36260646471421]
  変分自動エンコーダ(VAEs)は、深部生成潜在変数モデルである。 最近の研究は、伝統的な訓練手法がデシダラタに反する解決策をもたらす傾向があることを示している。 どちらの問題も、VAEトレーニング目標のグローバルな最適度が望ましくない解決策とよく一致するという事実に起因していることを示す。
  論文  参考訳（メタデータ） (2020-03-17T15:14:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。