論文の概要: EquiTabPFN: A Target-Permutation Equivariant Prior Fitted Networks
- arxiv url: http://arxiv.org/abs/2502.06684v1
- Date: Mon, 10 Feb 2025 17:11:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-11 14:34:23.578984
- Title: EquiTabPFN: A Target-Permutation Equivariant Prior Fitted Networks
- Title（参考訳）: EquiTabPFN: 予め設定されたネットワークのターゲット置換等価性
- Authors: Michael Arbel, David Salinas, Frank Hutter,
- Abstract要約: 本研究では,この過小評価を不圧縮誤差の原因とみなし,等分散ギャップとよばれ,予測の不安定性を生じさせる。
これらの問題を緩和するために,出力次元の等値性を維持するために設計された新しいモデルを提案する。
- 参考スコア（独自算出の注目度）: 55.214444066134114
- License:
- Abstract: Recent foundational models for tabular data, such as TabPFN, have demonstrated remarkable effectiveness in adapting to new tasks through in-context learning. However, these models overlook a crucial equivariance property: the arbitrary ordering of target dimensions should not influence model predictions. In this study, we identify this oversight as a source of incompressible error, termed the equivariance gap, which introduces instability in predictions. To mitigate these issues, we propose a novel model designed to preserve equivariance across output dimensions. Our experimental results indicate that our proposed model not only addresses these pitfalls effectively but also achieves competitive benchmark performance.
- Abstract（参考訳）: TabPFNのような最近の表型データの基本モデルは、コンテキスト内学習を通じて新しいタスクに適応する際、顕著な効果を示した。
しかし、これらのモデルは重要な同値性を見落としている: 対象次元の任意の順序付けはモデル予測に影響を与えるべきではない。
本研究では,この過小評価を不圧縮誤差の原因とみなし,等分散ギャップとよばれ,予測の不安定性を生じさせる。
これらの問題を緩和するために,出力次元の等値性を維持するために設計された新しいモデルを提案する。
実験結果から,提案モデルがこれらの落とし穴に効果的に対処するだけでなく,競合するベンチマーク性能も達成できることが示唆された。
関連論文リスト
- Influence Functions for Scalable Data Attribution in Diffusion Models [52.92223039302037]
拡散モデルは、生成的モデリングに大きな進歩をもたらした。
しかし、彼らの普及はデータ属性と解釈可能性に関する課題を引き起こす。
これらの課題に対処するための影響関数フレームワークを開発する。
論文 参考訳（メタデータ） (2024-10-17T17:59:02Z) - An Experimental Study on the Rashomon Effect of Balancing Methods in Imbalanced Classification [0.0]
本稿では,ラショモン効果を用いた予測多重度に及ぼすバランス法の影響について検討する。
データ中心のAIにおける盲点モデル選択は、ほぼ同じ精度のモデルのセットからリスクが高いため、非常に重要です。
論文 参考訳（メタデータ） (2024-03-22T13:08:22Z) - Natural Evolution Strategies as a Black Box Estimator for Stochastic
Variational Inference [0.0]
VAEはバイアスのない低分散推定を可能にし、作成可能なモデルのタイプを制限する。
自然進化戦略に基づく別の勾配推定器を提案する。
この推定器は、使用するディストリビューションの種類を仮定せず、そうでなければVAEフレームワークでは不可能なモデルを作成することができる。
論文 参考訳（メタデータ） (2023-08-15T21:43:11Z) - Training on Test Data with Bayesian Adaptation for Covariate Shift [96.3250517412545]
ディープニューラルネットワークは、信頼できない不確実性推定で不正確な予測を行うことが多い。
分布シフトの下でのラベルなし入力とモデルパラメータとの明確に定義された関係を提供するベイズモデルを導出する。
本手法は精度と不確実性の両方を向上することを示す。
論文 参考訳（メタデータ） (2021-09-27T01:09:08Z) - Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。
堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。
異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
論文 参考訳（メタデータ） (2020-07-21T08:18:06Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z) - Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。
本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。
4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
論文 参考訳（メタデータ） (2020-02-27T10:22:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。