論文の概要: Data Presentation Over Architecture: Resampling Strategies for Credit Risk Prediction with Tabular Foundation Models
- arxiv url: http://arxiv.org/abs/2605.18635v1
- Date: Mon, 18 May 2026 16:43:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:50.098954
- Title: Data Presentation Over Architecture: Resampling Strategies for Credit Risk Prediction with Tabular Foundation Models
- Title(参考訳): アーキテクチャに関するデータ提示: タブラルファンデーションモデルによる信用リスク予測のための戦略の再検討
- Authors: Aditya Tanna, Mitul Solanki, Mohamed Bouadi, Nassim Bouarour, Pratinav Seth, Vinay Kumar Sankarapu,
- Abstract要約: 4つの古典的モデルと5つのタブラル基礎モデル(TFM)をHome Credit and Lending Clubデータセット上でベンチマークする。
5Kから10Kのバランスの取れたコンテキストで、最強のTFMは、全データに基づいてトレーニングされた古典的なベースラインのAUCに到達する。
私たちはこれを、アーキテクチャの選択ではなく、コンテキスト構築が、不均衡な信用リスク設定におけるTFMの主要なデプロイレバーである、という証拠として捉えています。
- 参考スコア(独自算出の注目度): 3.478921293603811
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Credit default prediction is a tabular learning problem with severe class imbalance, heterogeneous features, and tight latency budgets. Tabular Foundation Models (TFMs) approach this problem through in-context learning, which makes their predictions sensitive to how the context window is built. We benchmark four classical models and five TFMs on the Home Credit and Lending Club datasets, varying the context-construction strategy (seven options) and the context size (1K to 50K). On both datasets, the choice of context strategy explains more variance in AUC-ROC than the choice of TFM family: balanced and hybrid sampling add 3 to 4 AUC points over uniform sampling, and the gap exceeds the spread between TFMs. With a balanced context of 5K to 10K examples, the strongest TFMs reach the AUC of classical baselines trained on the full data, while also recovering meaningful default-class recall that default-threshold GBDTs do not. We frame this as evidence that context construction, rather than architecture choice, is the primary deployment lever for TFMs in imbalanced credit-risk settings.
- Abstract(参考訳): 信用デフォルト予測は、厳格なクラス不均衡、不均一な機能、厳格なレイテンシ予算を備えた表形式の学習問題である。
Tabular Foundation Models (TFMs) はコンテキスト内学習を通じてこの問題にアプローチし、コンテキストウィンドウの構築方法に敏感な予測を行う。
4つの古典的モデルと5つのFMをHome Credit and Lending Clubデータセットでベンチマークし、コンテキスト構成戦略(7つのオプション)とコンテキストサイズ(1Kから50K)を変化させた。
両データセットにおいて、文脈戦略の選択は、TFMファミリーの選択よりもAUC-ROCのばらつきをより説明し、バランスとハイブリッドサンプリングは、一様サンプリングよりも3から4のAUCポイントを加算し、そのギャップはTFM間の拡散を超えた。
5Kから10Kのバランスの取れたコンテキストで、最強のTFMは、全データに基づいてトレーニングされた古典的なベースラインのAUCに到達すると同時に、デフォルトのスレッショルドGBDTが実行しない意味のあるデフォルトクラスのリコールを回復する。
私たちはこれを、アーキテクチャの選択ではなく、コンテキスト構築が、不均衡な信用リスク設定におけるTFMの主要なデプロイレバーである、という証拠として捉えています。
関連論文リスト
- KGPFN: Unlocking the Potential of Knowledge Graph Foundation Model via In-Context Learning [51.44698654440413]
知識グラフ(KG)基盤モデルは、伝達可能な関係構造を学習することによって、目に見えない実体と関係を持つグラフを一般化することを目的としている。
そこで我々は,KGPFNを提案する。KGPFN,KGPFN,KGPFN,KGPFN,KGPFN,KGPFN,KGPFN,KGPFN,KGPFN。
57KGベンチマークの実験では、KGPFNは、文脈内学習だけで、これまで見られなかったグラフに強く適応することを示した。
論文 参考訳(メタデータ) (2026-05-14T14:41:19Z) - Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。
グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。
特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
論文 参考訳(メタデータ) (2026-04-20T16:43:28Z) - KumoRFM-2: Scaling Foundation Models for Relational Learning [48.88283881350858]
KumoRFM-2は、リレーショナルデータのための事前訓練された基礎モデルの次のイテレーションである。
コンテキスト内学習と微調整をサポートし、幅広い予測タスクに適用できる。
論文 参考訳(メタデータ) (2026-04-14T11:24:11Z) - $V_{0.5}$: Generalist Value Model as a Prior for Sparse RL Rollouts [81.48669089692189]
一般値モデル(例えば$V_0.5$)は、コンテキスト内のモデル機能を明示的にエンコードすることで、事前訓練された値推定を実現する。
本稿では,このような値モデルにより予測されるベースラインと,スパースロールアウトから導出される経験的平均とを適応的に融合する$V_0.5$を提案する。
V_0.5$はGRPOとDAPOを大きく上回り、より高速な収束と約10%のパフォーマンス向上を実現している。
論文 参考訳(メタデータ) (2026-03-11T14:57:41Z) - Tabular Foundation Models Can Learn Association Rules [3.3577668667253247]
本稿では,アソシエーションルールマイニングのためのモデルに依存しないアソシエーションルール学習フレームワークを提案する。
次に, TFMを条件付き確率推定器として利用するTabProbeを紹介した。
その結果,TFMは高い予測性能を有する簡潔で高品質なアソシエーションルールを一貫して生成することがわかった。
論文 参考訳(メタデータ) (2026-02-16T10:25:55Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
パラメータを好みに置き換えることは、よりスケーラブルでプライバシに保護される未来を表している、と私たちは主張する。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを用いた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化、堅牢性、およびクロスクライアント適応性において、連邦化されたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-01-31T03:11:51Z) - FIRE: Multi-fidelity Regression with Distribution-conditioned In-context Learning using Tabular Foundation Models [3.8824066002669855]
MF(Multi-fidelity)レグレッションは、極端なデータ不均衡のレギュレーションでしばしば機能する。
トレーニングフリーなMFフレームワークであるFIREを紹介する。
Fireは、最先端のGPベースまたはディープラーニングのMF回帰メソッドの7つよりもパフォーマンスタイムのトレードオフが強い。
論文 参考訳(メタデータ) (2026-01-29T22:29:58Z) - Estimating Time Series Foundation Model Transferability via In-Context Learning [74.65355820906355]
時系列基礎モデル(TSFM)は、大規模な事前訓練を通じて強力なゼロショット予測を提供する。
微調整は、公開データに制限のあるドメインのパフォーマンス向上に依然として不可欠である。
モデル選択をコンテキスト内学習問題として再キャストする転送可能性推定フレームワークであるTimeTicを紹介する。
論文 参考訳(メタデータ) (2025-09-28T07:07:13Z) - ALCo-FM: Adaptive Long-Context Foundation Model for Accident Prediction [1.3654846342364306]
本稿では,入力データに対するコンテキストウィンドウを動的に選択するためのボラティリティ事前スコアを演算する適応長コンテキスト基盤モデルであるALCo-FMを紹介する。
ALCo-FMは15都市のデータに基づいて訓練され、0.94の精度、0.92のF1、そして0.04のECEを達成し、大規模な都市リスク予測において20以上の最先端のベースラインを上回ります。
論文 参考訳(メタデータ) (2025-07-10T20:22:26Z) - On the Robustness of Tabular Foundation Models: Test-Time Attacks and In-Context Defenses [15.82984689613575]
テスト入力に対する小さな構造的摂動は、トレーニングコンテキストが固定されたままであっても、予測精度を著しく低下させることができることを示す。
モデル重みを更新することなく、コンテキストを逆向きのインスタンスに漸進的に置き換える、コンテキスト内逆向きのトレーニング戦略を導入する。
論文 参考訳(メタデータ) (2025-06-03T15:15:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。