論文の概要: When, Where, How: Active In-Context Learning for Tabular Foundation Models
- arxiv url: http://arxiv.org/abs/2611.07886v1
- Date: Thu, 05 Nov 2026 12:04:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.674325
- Title: When, Where, How: Active In-Context Learning for Tabular Foundation Models
- Title(参考訳): タブラル基礎モデルのアクティブ・インコンテキスト・ラーニング
- Abstract要約: Tabular Foundation Models (TFM) は、コンテキスト内のラベル付き行のみを通じて新しいタスクに適応する。
アクティブ・イン・コンテキスト学習は古典的な取得ルールをこの設定に転送する。
本研究では,Target-Aware Nearest Neighbor (TANN) の買収と予測情報獲得について検討した。
- 参考スコア(独自算出の注目度): 0.6768558752130311
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Tabular Foundation Models (TFMs) adapt to a new task only through the labeled rows in their context. However, labels are expensive to acquire in real-world scenarios due to the need for highly specific domain knowledge to ensure high-quality data. Active in-context learning transfers classical acquisition rules to this setting, in which the model that guides acquisition changes with every label added. We ask how the value of diversity, predictive uncertainty and target-aware information gain changes as a frozen TFM acquires more context. For that, we study Target-Aware Nearest Neighbor (TANN) acquisition and the Expected Predictive Information Gain in Context (EPIC) and evaluate them against classical rules. Our study across twenty benchmarks with two well-established TFMs and classical GBDTs highlights three findings: (i) When: diversity-based acquisition is best during the first acquisition iterations; (ii) Where: labeling pool rows that serve the target inputs via a simple target-aware nearest-neighbor rule matters substantially; (iii) How: EPIC yields the best models at the label budget, retains on average 80--87% of the chance-corrected full-data performance with only 5-10% of the pool labeled on the eight benchmarks with the largest pools, and selects labels that also improve the predictive performance of gradient-boosted decision trees.
- Abstract(参考訳): Tabular Foundation Models (TFM) は、コンテキスト内のラベル付き行のみを通じて新しいタスクに適応する。
しかし、ラベルは高品質なデータを保証するために、高度に特定のドメイン知識を必要とするため、現実世界のシナリオで取得する費用がかかる。
アクティブ・イン・コンテキスト・ラーニング(Active In-context learning)は、古典的な取得ルールをこの設定に転送する。
凍結したTFMがより多くのコンテキストを取得するにつれて、多様性、予測の不確実性、ターゲット認識情報の価値がどのように変化するかを問う。
そこで我々は,Target-Aware Nearest Neighbor (TANN) の買収と Context (EPIC) における予測情報獲得について検討し,それらを古典的ルールと比較した。
TFMとGBDTを併用した20のベンチマークによる調査では,以下の3つの結果が示された。
二 多様性に基づく取得が第一回の取得において最善であるとき。
二 目的の入力に供するプール行のラベル付けを、簡易な目標に気付く最寄りの規則により行う場合。
三 EPICは、ラベル予算において、最高のモデルを獲得し、最大8つのベンチマークにラベル付けされたプールの5~10%の確率補正フルデータのパフォーマンスを平均80~87%保持し、グラデーションブースト決定木の予測性能を向上させるラベルを選択する。
関連論文リスト
- Benchmarking Self-Supervised 3D Medical Vision Foundation Models and Transferability Estimation [57.65266782182578]
セルフ教師付き事前トレーニングは、3D医療基盤モデルのプールを拡張したが、異なるデータセット、エンドポイント、微調整プロトコルを使用した評価を公表した。
14のセグメンテーション、分類、回帰タスク、複数の解剖学とモダリティにまたがる23の候補をベンチマークした。
3モデルショートリストは、7つのセグメンテーションタスクで記録された抜粋+訓練ジョブ時間を85.8%削減した。
論文 参考訳(メタデータ) (2026-10-13T01:52:19Z) - Labeled TrustSet Guided: Batch Active Learning with Reinforcement Learning [24.986820294329622]
バッチアクティブラーニング(BAL)は、ラベリングコストを削減し、データ効率を向上させるための重要な手法である。
ラベル付きデータセットから最も情報性の高いデータを選択する新しいアプローチであるTrustSetを紹介する。
ラベルのないデータから高品質なTrustSet候補の選択を近似する強化学習(RL)に基づくサンプリングポリシーを提案する。
論文 参考訳(メタデータ) (2026-04-14T05:22:59Z) - A Novel Two-Step Fine-Tuning Pipeline for Cold-Start Active Learning in Text Classification Tasks [7.72751543977484]
本研究は, 寒冷開始シナリオにおけるアクティブラーニング(AL)タスクにおけるBERTベースのコンテキスト埋め込みの有効性について検討する。
私たちの主な貢献は、より堅牢な微調整パイプラインであるDoTCALの提案です。
本評価では,Bag of Words (BoW), Latent Semantic Indexing (LSI), FastTextなど,BERTベースの埋め込みと他の一般的なテキスト表現パラダイムとの対比を行った。
論文 参考訳(メタデータ) (2024-07-24T13:50:21Z) - BAL: Balancing Diversity and Novelty for Active Learning [53.289700543331925]
多様な不確実なデータのバランスをとるために適応的なサブプールを構築する新しいフレームワークであるBalancing Active Learning (BAL)を導入する。
我々のアプローチは、広く認識されているベンチマークにおいて、確立されたすべてのアクティブな学習方法より1.20%優れています。
論文 参考訳(メタデータ) (2023-12-26T08:14:46Z) - S$^3$VAADA: Submodular Subset Selection for Virtual Adversarial Active
Domain Adaptation [49.01925978752677]
現実のシナリオでは、少数のターゲットデータに対してラベルを取得することは可能かもしれません。
我々は,S$3$VAADAを提案する。これは,ラベルに対する最大情報サブセットを選択するための,新しいサブモジュール基準を導入し,また,クラスタベースのDA手順を強化する。
我々のアプローチは、ドメインシフトの度合いの異なるデータセットにおいて、競合する最先端のアプローチよりも一貫して優れています。
論文 参考訳(メタデータ) (2021-09-18T10:53:57Z) - On Universal Black-Box Domain Adaptation [53.7611757926922]
実践的な展開という観点から,ドメイン適応の最小限の制約条件について検討する。
ソースモデルのインターフェースのみがターゲットドメインで利用可能であり、2つのドメイン間のラベル空間関係が異なることや未知であることが許されている。
対象試料の局所近傍における予測の整合性によって正規化された自己訓練フレームワークに統一することを提案する。
論文 参考訳(メタデータ) (2021-04-10T02:21:09Z) - An Empirical Study on Large-Scale Multi-Label Text Classification
Including Few and Zero-Shot Labels [49.036212158261215]
大規模なMulti-label Text Classification (LMTC) は、幅広い自然言語処理 (NLP) アプリケーションを持つ。
Label-Wise Attention Networks (LWANs) を用いた最新のLMTCモデル
確率的ラベル木(PLT)に基づく階層的手法がLWANより優れていることを示す。
BERTとLWANを組み合わせた最先端手法を提案する。
論文 参考訳(メタデータ) (2020-10-04T18:55:47Z) - Task-Aware Variational Adversarial Active Learning [42.334671410592065]
本稿では,タスク非依存のVAALを修飾するタスク対応可変逆数AL(TA-VAAL)を提案する。
提案するTA-VAALは、バランスの取れたラベルとバランスの取れないラベルの分類のための様々なベンチマークデータセットにおいて、最先端の性能を向上する。
論文 参考訳(メタデータ) (2020-02-11T22:00:48Z) - Low-Budget Label Query through Domain Alignment Enforcement [48.06803561387064]
我々は低予算ラベルクエリと呼ばれる新しい問題に取り組む。
まず、ソースとターゲットドメインの整合性を改善するために、Unsupervised Domain Adaptation (UDA) 法を改善します。
そこで我々は,予測整合分布の均一サンプリングに基づく簡易かつ効果的な選択法を提案する。
論文 参考訳(メタデータ) (2020-01-01T16:52:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。