論文の概要: ARASH: Adaptive Retrieval And Shot Selection for Tabular Prediction
- arxiv url: http://arxiv.org/abs/2608.17856v1
- Date: Tue, 18 Aug 2026 14:48:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.371236
- Title: ARASH: Adaptive Retrieval And Shot Selection for Tabular Prediction
- Title(参考訳): ARASH: タブラル予測のための適応検索とショットセレクション
- Abstract要約: 一般的な戦略は、TabPFNのような専門タブラル・ファンデーション・モデル(TFM)の訓練や微調整である。
ショートショットプロンプトは、パフォーマンスを高めるためのリソース効率の良い代替手段を提供する。
本稿では,局所的近傍分析に基づいて最適なショットを選択することにより,TFM効率を向上させる手法であるARASHを紹介する。
- 参考スコア(独自算出の注目度): 6.839864649147237
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Tabular prediction is a critical task across numerous applications. The recent success of large language models has sparked various approaches for adapting them to the tabular domain. A prevalent strategy involves training or fine-tuning specialized Tabular Foundation Models (TFMs) such as TabPFN. However, TFMs require substantial computational resources, and frequent model retraining is often impractical. In-context learning (ICL), specifically, few-shot prompting, offers a resource-efficient alternative to enhance performance. Yet, identifying the most relevant rows to serve as shots remains a challenge for tabular data. This paper introduces ARASH (Adaptive, query-specific Retrieval And Shot selection), a method that improves TFM efficiency by selecting optimal shots based on local neighborhood analysis within the training set. Our results demonstrate that ARASH reduces the prompt length and memory usage of TabPFN by 1261.5$\times$ and 2.56$\times$, respectively, while providing comparable accuracy.
- Abstract(参考訳): タブラル予測は多くのアプリケーションにおいて重要なタスクである。
近年の大規模言語モデルの成功は、それらを表領域に適応するための様々なアプローチを引き起こしている。
一般的な戦略は、TabPFNのような専門タブラル・ファンデーション・モデル(TFM)の訓練や微調整である。
しかし、TFMにはかなりの計算資源が必要であり、頻繁なモデル再訓練はしばしば実用的ではない。
In-context Learning (ICL) は、パフォーマンスを高めるためのリソース効率の良い代替手段を提供する。
しかし、ショットとして機能する最も関連性の高い行を特定することは、表データにとって依然として難しい課題だ。
本稿では、学習セット内の局所的近傍分析に基づいて最適なショットを選択することにより、TFM効率を向上させる方法であるARASH(Adaptive, query-specific Retrieval And Shot selection)を紹介する。
その結果、ARASHはTabPFNの即時長とメモリ使用量を1261.5$\times$と2.56$\times$に削減し、同等の精度を提供することを示した。
関連論文リスト
- REAR: Test-time Preference Realignment through Reward Decomposition [68.09214603569744]
本稿では,タスクを階層化問題としてモデル化する新しいフレームワークを提案する。
これら2つの報酬項の比率を選択的に再スケールするREAR(Realignment Reward)を導出する。
我々は,REARをトークンレベルのポリシログ確率の線形結合として定式化することができ,様々なTSアルゴリズムと容易に統合できることを示す。
論文 参考訳(メタデータ) (2026-06-29T14:17:53Z) - Utility-Diversity Aware Online Batch Selection for LLM Supervised Fine-tuning [49.04912820721943]
Supervised Fine-tuning (SFT) は計算コストが高く、時にはオーバーフィットやバイアス増幅に悩まされる。
本研究は、トレーニングプロセス中にサンプルを動的にスコア付け、フィルタリングするオンラインバッチ選択ファミリについて研究する。
SFTにおける効率的なオンラインバッチ選択のためのフレームワークである textbfUDS (Utility-Diversity Sampling) を開発した。
論文 参考訳(メタデータ) (2025-10-19T15:32:01Z) - SPaRFT: Self-Paced Reinforcement Fine-Tuning for Large Language Models [51.74498855100541]
大規模言語モデル(LLM)は、強化学習(RL)による微調整時に強い推論能力を示す。
トレーニング対象のモデルの性能に基づいて,効率的な学習を可能にする自己評価学習フレームワークである textbfSPaRFT を提案する。
論文 参考訳(メタデータ) (2025-08-07T03:50:48Z) - Can Prompt Difficulty be Online Predicted for Accelerating RL Finetuning of Reasoning Models? [65.18157595903124]
本研究では任意のプロンプトの反復的近似評価について検討する。
Model Predictive Prompt Selection (MoPPS)はベイズにおけるリスク予測フレームワークである。
MoPPSは迅速な困難を確実に予測し、ロールアウトを大幅に削減したトレーニングを加速する。
論文 参考訳(メタデータ) (2025-07-07T03:20:52Z) - MUSS: Multilevel Subset Selection for Relevance and Diversity [4.8254343133177295]
レコメンデーションシステムでは、さまざまなレコメンデーションを提供しながら、関連する項目を選択することに興味がある。
本稿では,このタイプの問題を解析するための新しい理論的アプローチを提案し,その手法が最適目的の定数係数近似を実現することを示す。
論文 参考訳(メタデータ) (2025-03-14T06:37:17Z) - Tokenize features, enhancing tables: the FT-TABPFN model for tabular classification [13.481699494376809]
FT-TabPFNはTabPFNの拡張版で、分類機能をよりよく扱うための新しい機能トークン化レイヤを含んでいる。
私たちの完全なソースコードは、コミュニティの利用と開発に利用可能です。
論文 参考訳(メタデータ) (2024-06-11T02:13:46Z) - Interpretable Machine Learning for TabPFN [5.012821694203072]
TabPFNモデルは、様々な分類タスクで最先端のパフォーマンスを達成することができる。
モデルのユニークな性質を利用することで、我々の適応はより効率的な計算を可能にします。
論文 参考訳(メタデータ) (2024-03-16T13:35:15Z) - TuneTables: Context Optimization for Scalable Prior-Data Fitted Networks [90.00817095558094]
事前データ対応ネットワーク(PFN)は、事前学習とコンテキスト内学習を利用して、1つのフォワードパスで新しいタスクの強力なパフォーマンスを実現する。
我々は、大規模なデータセットをより小さな学習コンテキストに圧縮するPFNのパラメータ効率の良い微調整戦略であるTuneTablesを紹介した。
我々は、TuneTablesを解釈可能性ツールとして使用することができ、公平性目標を最適化することでバイアスを軽減することができることを示した。
論文 参考訳(メタデータ) (2024-02-17T00:02:23Z) - MinPrompt: Graph-based Minimal Prompt Data Augmentation for Few-shot Question Answering [64.6741991162092]
オープンドメイン質問応答のための最小限のデータ拡張フレームワークMinPromptを提案する。
我々は、生テキストをグラフ構造に変換し、異なる事実文間の接続を構築する。
次に、グラフアルゴリズムを適用して、原文のほとんどの情報をカバーするのに必要な最小限の文の集合を識別する。
同定された文サブセットに基づいてQAペアを生成し、選択した文に基づいてモデルをトレーニングし、最終モデルを得る。
論文 参考訳(メタデータ) (2023-10-08T04:44:36Z) - Few-Shot Parameter-Efficient Fine-Tuning is Better and Cheaper than
In-Context Learning [81.3514358542452]
ICL (Few-shot in-context Learning) は、予測を行うたびにトレーニング例を全て処理するので、かなりの計算、メモリ、ストレージコストを発生させる。
パラメータ効率の良い微調整は、モデルの新たなタスクの実行を可能にするために、小さなパラメータセットをトレーニングする、代替パラダイムを提供する。
本稿では,少数ショットICLとパラメータ効率の微調整を厳密に比較し,後者が計算コストを劇的に削減できることを示す。
論文 参考訳(メタデータ) (2022-05-11T17:10:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。