論文の概要: Tabular foundation model for GEOAI benchmark problems BM/AirportSoilProperties/2/2025

• arxiv url: http://arxiv.org/abs/2509.03191v1
• Date: Wed, 03 Sep 2025 10:21:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-04 21:40:46.48693
• Title: Tabular foundation model for GEOAI benchmark problems BM/AirportSoilProperties/2/2025
• Title（参考訳）: GEOAIベンチマーク問題BM/AirportSoilProperties/2/2025のタブラル基礎モデル
• Authors: Taiga Saito, Yu Otake, Stephen Wu,
• Abstract要約: 本稿では,GEOAIベンチマークBM/AirportSoilProperties/2/2025で定義されたサイト特性問題に対する Tabular Prior-Data Fitted Network (TabPFN) の新たな応用について述べる。 我々は、TabPFNをゼロトレーニング、少数ショット、空間内学習設定に適用し、大きな間接データベース(BID)から追加のコンテキストを提供する。 この研究は、TabPFNが汎用基礎モデルとして優れた精度とよく校正された予測分布を達成したことを示す。
• 参考スコア（独自算出の注目度）: 2.07098502859192
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper presents a novel application of the Tabular Prior-Data Fitted Network (TabPFN) - a transformer-based foundation model for tabular data - to geotechnical site characterization problems defined in the GEOAI benchmark BM/AirportSoilProperties/2/2025. Two tasks are addressed: (1) predicting the spatial variation of undrained shear strength (su) across borehole depth profiles, and (2) imputing missing mechanical parameters in a dense-site dataset. We apply TabPFN in a zero-training, few-shot, in-context learning setting - without hyper-parameter tuning - and provide it with additional context from the big indirect database (BID). The study demonstrates that TabPFN, as a general-purpose foundation model, achieved superior accuracy and well-calibrated predictive distributions compared to a conventional hierarchical Bayesian model (HBM) baseline, while also offering significant gains in inference efficiency. In Benchmark Problem #1 (spatial su prediction), TabPFN outperformed the HBM in prediction accuracy and delivered an order-of-magnitude faster runtime. In Benchmark Problem #2 (missing mechanical parameter imputation), TabPFN likewise achieved lower RMSE for all target parameters with well-quantified uncertainties, though its cumulative computation cost was higher than HBM's due to its one-variable-at-a-time inference. These results mark the first successful use of a tabular foundation model in geotechnical modeling, suggesting a potential paradigm shift in probabilistic site characterization.
• Abstract（参考訳）: 本稿では, GEOAIベンチマークBM/AirportSoilProperties/2/2025で定義された地盤特性問題に対する, 表層データに対する変換器ベース基盤モデルであるTabular Pre-Data Fitted Network (TabPFN) の新たな適用法を提案する。 1) 坑井深度分布の空間的変化を予測し, 2) 深度データセットにおける機械的パラメータの欠如を示唆する。 我々は、TabPFNをハイパーパラメータチューニングなしで、ゼロトレーニング、少数ショット、コンテキスト内学習設定に適用し、大きな間接データベース(BID)から追加のコンテキストを提供する。 本研究では,一般的な基礎モデルであるTabPFNが,従来の階層型ベイズモデル (HBM) ベースラインよりも精度が高く,精度の高い予測分布を実現し,推論効率も向上したことを示す。 ベンチマーク問題#1(spatial su prediction)では、TabPFNは予測精度でHBMを上回り、桁違いの高速実行を実現した。 Benchmark Issue #2 (Missing Mechanical parameter imputation) では、TabPFN は1変数の時間推定により計算コストが HBM よりも高かったが、精度の良い不確実性を持つ全てのターゲットパラメータに対して、RMSE を低く達成した。 これらの結果は、ジオテクニカルモデリングにおける表層基盤モデルの最初の成功例であり、確率的サイトキャラクタリゼーションにおける潜在的なパラダイムシフトを示唆している。

関連論文リスト

• Causal Pre-training Under the Fairness Lens: An Empirical Study of TabPFN [3.059960033014892]
  Tabular Prior-data Fitted Network (TabPFN) とその微調整版の評価を行った。 以上の結果から,TabPFNはベースラインに比べて高い予測精度を達成できるが,公平性の改善は適度で矛盾することがわかった。 以上の結果から,TabPFNの因果前訓練はアルゴリズム的公平性には不十分であることが示唆された。
  論文  参考訳（メタデータ） (2026-01-25T17:17:12Z)
• Revisiting the Scaling Properties of Downstream Metrics in Large Language Model Training [11.179110411255708]
  トレーニング予算からベンチマークパフォーマンスのスケーリングをモデル化するための直接的なフレームワークを提案する。 その結果, 直接的アプローチは従来提案していた2段階の手順よりも優れていることがわかった。 事前学習損失と下流評価結果の完全なセットを公表する。
  論文  参考訳（メタデータ） (2025-12-09T18:33:48Z)
• Robust Tabular Foundation Models [0.7539295827164078]
  重要な発見は、TFMは完全に合成データセット上で事前訓練可能であることである。 TFM性能と最高の達成可能な性能の差から得られる最適性ギャップ尺度を導入する。 これらの結果は、合成データのみを用いて、ターゲットとなる敵の訓練とTFMの微調整のための有望な新しいデータセットを浮き彫りにした。
  論文  参考訳（メタデータ） (2025-12-02T23:40:39Z)
• GEO-Bench-2: From Performance to Capability, Rethinking Evaluation in Geospatial AI [52.13138825802668]
  GeoFMは地球観測を変革しているが、評価には標準化されたプロトコルが欠けている。 GEO-Bench-2は、分類、セグメンテーション、回帰、オブジェクト検出、インスタンスセグメンテーションにまたがる包括的なフレームワークでこの問題に対処する。 GEO-Bench-2のコード、データ、およびリーダーボードは、パーミッシブライセンスの下で公開されている。
  論文  参考訳（メタデータ） (2025-11-19T17:45:02Z)
• State-Space Models for Tabular Prior-Data Fitted Networks [1.9815629827604246]
  本研究では,TabPFNにおけるトランスフォーマーの代替として,双方向線形時間構造状態空間モデルであるHydraを用いる可能性を検討する。 実験により,本手法は順序依存性を低減し,従来のTabPFNモデルと競合する予測性能を実現する。
  論文  参考訳（メタデータ） (2025-10-16T11:31:51Z)
• Practical Bayes-Optimal Membership Inference Attacks [57.06788930775812]
  我々は、独立および同一分散データ(すなわち、d)とグラフ構造化データの両方に対して、実用的かつ理論的に基礎付けられたメンバーシップ推論攻撃(MIA)を開発する。 Sublayrollesらによるベイズ決定理論の枠組みに基づいて、グラフニューラルネットワークに対するノードレベルのMIAに対するベイズ最適メンバシップ推定規則を導出する。
  論文  参考訳（メタデータ） (2025-05-30T00:23:01Z)
• Effortless, Simulation-Efficient Bayesian Inference using Tabular Foundation Models [5.952993835541411]
  本研究では,TabPFNをシミュレーションベース推論のための自己回帰条件密度推定器として用いる方法を示す。 NPE-PFは、推論ネットワークの選択、トレーニング、ハイパーパラメータチューニングの必要性を排除する。 モデルミス特定に優れたロバスト性を示し、TabPFNのコンテキストサイズ限界を超えるシミュレーション予算にスケールできる。
  論文  参考訳（メタデータ） (2025-04-24T15:29:39Z)
• A Closer Look at TabPFN v2: Understanding Its Strengths and Extending Its Capabilities [51.08999772842298]
  Tabular Prior-data Fitted Network v2 (TabPFN v2)は、さまざまな下流データセット間で、前例のないコンテキスト内学習性能を達成する。 本研究では,TabPFN v2が属性トークンをランダムに入力しても属性関係を推測可能であることを示す。 我々はTabPFN v2の制限がテスト時間分割・コンテキスト戦略によって対処できることを実証した。
  論文  参考訳（メタデータ） (2025-02-24T17:38:42Z)
• From Tables to Time: How TabPFN-v2 Outperforms Specialized Time Series Forecasting Models [40.19199376033612]
  本稿では,TabPFN-v2と軽量機能工学を組み合わせた簡易な手法TabPFN-TSを導入する。 その単純さとコンパクトなサイズ(11Mパラメータ)にもかかわらず、TabPFN-TSは両方の予測タスクで公開GIFT-Evalリーダーボードのトップランクを獲得している。
  論文  参考訳（メタデータ） (2025-01-06T11:38:19Z)
• Drift-Resilient TabPFN: In-Context Learning Temporal Distribution Shifts on Tabular Data [39.40116554523575]
  In-Context Learning with a Prior-Data Fitted Network に基づく新しいアプローチである Drift-Resilient TabPFN を提案する。 先行した合成データセットのベイズ推定を近似することを学ぶ。 精度は0.688から0.744に向上し、OC AUCは0.786から0.832に向上し、キャリブレーションも強化された。
  論文  参考訳（メタデータ） (2024-11-15T23:49:23Z)
• Enhancing Microgrid Performance Prediction with Attention-based Deep Learning Models [0.0]
  本研究の目的は、グリッド不安定性に寄与する電力振動を特徴とするマイクログリッドシステムの運用上の課題に対処することである。 畳み込みとGRU(Gated Recurrent Unit)の強みを活かした統合戦略が提案されている。 このフレームワークは、包括的な負荷予測を行うMulti-Layer Perceptron(MLP)モデルによって固定されている。
  論文  参考訳（メタデータ） (2024-07-20T21:24:11Z)
• Minimally Supervised Learning using Topological Projections in Self-Organizing Maps [55.31182147885694]
  自己組織化マップ(SOM)におけるトポロジカルプロジェクションに基づく半教師付き学習手法を提案する。 提案手法は,まずラベル付きデータ上でSOMを訓練し,最小限のラベル付きデータポイントをキーベストマッチングユニット(BMU)に割り当てる。 提案した最小教師付きモデルが従来の回帰手法を大幅に上回ることを示す。
  論文  参考訳（メタデータ） (2024-01-12T22:51:48Z)
• Uncovering the Hidden Cost of Model Compression [43.62624133952414]
  視覚プロンプティングは、コンピュータビジョンにおける伝達学習の重要な方法として登場した。 モデル圧縮は視覚的プロンプトベース転送の性能に有害である。 しかし、量子化によってモデルが圧縮されるとき、キャリブレーションに対する負の効果は存在しない。
  論文  参考訳（メタデータ） (2023-08-29T01:47:49Z)
• Sample-Efficient Optimisation with Probabilistic Transformer Surrogates [66.98962321504085]
  本稿では,ベイズ最適化における最先端確率変換器の適用可能性について検討する。 トレーニング手順と損失定義から生じる2つの欠点を観察し、ブラックボックス最適化のプロキシとして直接デプロイすることを妨げる。 1)非一様分散点を前処理するBO調整トレーニング,2)予測性能を向上させるために最適な定常点をフィルタする新しい近似後正則整定器トレードオフ精度と入力感度を導入する。
  論文  参考訳（メタデータ） (2022-05-27T11:13:17Z)
• DSEE: Dually Sparsity-embedded Efficient Tuning of Pre-trained Language Models [152.29364079385635]
  事前訓練されたモデルが大きくなればなるほど、微調整のプロセスは時間がかかり、計算コストがかかる可能性がある。 本稿では,重み更新と最終モデルの重み付けに先立って,疎度を活用することで,資源・パラメータ効率の微調整を行うフレームワークを提案する。 提案するフレームワークは,Dually Sparsity-Embeded Efficient Tuning (DSEE)と呼ばれ,パラメータ効率のよい微調整とリソース効率の推論という2つの重要な目標を達成することを目的としている。
  論文  参考訳（メタデータ） (2021-10-30T03:29:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。