論文の概要: Is It Still Worth Training a Classical Model in the Era of LLMs? A Crossover Benchmark on Tabular Data

• arxiv url: http://arxiv.org/abs/2609.20218v1
• Date: Tue, 28 Jul 2026 19:41:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.638776
• Title: Is It Still Worth Training a Classical Model in the Era of LLMs? A Crossover Benchmark on Tabular Data
• Title（参考訳）: LLMの時代における古典的モデルのトレーニングは依然として価値があるか? 語彙データのクロスオーバーベンチマーク
• Abstract要約: 我々はラベル付きデータ交叉N*で答えを定量化する。 典型的なビジネステーブルでは、証拠は明確である: 数百のラベルを収集し、グラデーションブースされたモデルを訓練する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models can label a tabular row from a plain-English description with no training - a capability now shipping in mainstream spreadsheet tools such as Microsoft Copilot in Excel and Anthropic's Claude for Excel - raising a practical question for the many business prediction problems where labels are expensive: should you prompt a frozen LLM, or collect data and train a model - and if so, how much data? We quantify the answer with the labeled-data crossover N*, the training-set size at which a trained classical model's learning curve overtakes a frozen LLM's training-free (and therefore flat) error. Aggregating 126 independent student evaluations of small GPT models under eight prompting configurations across 18 tabular datasets, paired with authoritative power-law learning curves for six classical model families, we find that training wins fast: even given an oracle choice of its best prompt configuration, a trained classical model beats the small frozen LLM using no more labeled data than is already on hand in 86% of cases, and wins by the smallest labeled subset we evaluate in 40%, with the observed crossover at a median of ~6% of the training set. In-context few-shot examples do not behave like training - error versus shot count does not follow a power law - and the same protocol re-run by independent implementers varies with a coefficient of variation of 0.148. A controlled probe indicates the LLM depends on recognizable feature-name semantics, which plausibly makes our crossover a conservative estimate (we do not claim memorization). For a typical business table, the evidence is clear: collect a few hundred labels and train a gradient-boosted model.
• Abstract（参考訳）: 大規模な言語モデルは、トレーニングなしで平易な英語記述から表の行にラベルを付けることができる - Microsoft Copilot in ExcelやAnthropic's Claude for Excelのようなメインストリームのスプレッドシートツールで現在出荷されている機能 - ラベルが高価である多くのビジネス予測問題に対して、実用的な疑問を提起する。 我々は,学習曲線が凍結LDMのトレーニングフリー(したがってフラット)誤差に乗じる学習セットのサイズであるラベル付きデータクロスオーバーN*を用いて,その解を定量化する。 6つの古典的モデルファミリの権威的学習曲線と組み合わせて、18の表付きデータセットにまたがって、小さなGPTモデルの126人の独立した学生評価を集計すると、トレーニングが速いことが判明した。最高のプロンプト構成のオラクル選択をしても、訓練された古典的モデルは86%のケースで既に手元にある以上のラベル付きデータを使用して小さな凍結LDMを破り、観測されたクロスオーバーはトレーニングセットの中央値から6%である。 コンテキスト内数ショットの例はトレーニングのように振る舞わない - エラー対ショットカウントは電力法則に従わない - 独立した実装者によって再実行される同じプロトコルは0.148の変動係数で異なる。 制御されたプローブは、LLMが認識可能な特徴名意味論に依存していることを示している。 典型的なビジネステーブルでは、証拠は明確である: 数百のラベルを収集し、グラデーションブースされたモデルを訓練する。

関連論文リスト

• Discrete Diffusion Language Models Are Training-Free Multi-Label Classifiers [1.3406606730449597]
  マルチラベルテキスト分類のための個別マスク付き拡散言語モデルを用いた訓練不要なdLLM-SetScoreを提案する。 各候補ラベルについて、短いイエス/ノー質問を行い、2つの回答トークンの確率を1つのマスクされた位置で比較する。
  論文  参考訳（メタデータ） (2026-07-30T15:21:02Z)
• Machine Learning from Explanations [17.28638946021444]
  より小さなデータセット上で信頼性の高い分類モデルをトレーニングするための革新的なアプローチを導入する。 提案手法は,モデル予測精度の向上と,説明に合うように注意を精査する2段階の学習サイクルを中心に展開する。 トレーニングサイクルがより正確で信頼性の高いモデルへの収束を早めることを示す。
  論文  参考訳（メタデータ） (2025-07-07T09:09:52Z)
• Ranked from Within: Ranking Large Multimodal Models Without Labels [73.96543593298426]
  ソフトマックス分布から導かれる不確実性スコアは,様々なタスクにまたがるランキングモデルに対して,ロバストな基礎となることを示す。 これにより、ラベルのないデータに対するLMMのランク付けが容易になり、手動のアノテーションを必要とせずに、多様なターゲットドメインのモデルを選択するための実践的なアプローチを提供する。
  論文  参考訳（メタデータ） (2024-12-09T13:05:43Z)
• Learning with Less: Knowledge Distillation from Large Language Models via Unlabeled Data [54.934578742209716]
  現実世界のNLPアプリケーションでは、Large Language Models (LLMs) は巨大なデータセットの広範なトレーニングのために、有望なソリューションを提供する。 LLKDは、教師と学生の両方の信号を組み込んだ適応的なサンプル選択法である。 総合的な実験により,LLKDは高いデータ効率で,様々なデータセットで優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2024-11-12T18:57:59Z)
• A Lightweight Measure of Classification Difficulty from Application Dataset Characteristics [4.220363193932374]
  効率的なコサイン類似度に基づく分類困難度尺度Sを提案する。 データセットのクラス数とクラス内およびクラス間の類似度メトリクスから計算される。 この手法を実践者が、繰り返しトレーニングやテストによって、6倍から29倍の速度で効率の良いモデルを選択するのにどのように役立つかを示す。
  論文  参考訳（メタデータ） (2024-04-09T03:27:09Z)
• RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
  継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。 本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2023-07-05T12:49:02Z)
• Federated Learning from Only Unlabeled Data with Class-Conditional-Sharing Clients [98.22390453672499]
  Supervised Federated Learning (FL)は、複数のクライアントがラベル付きデータを共有せずにトレーニングされたモデルを共有することを可能にする。 本研究では,教師なし学習(FedUL)のフェデレーションを提案し,各クライアントのラベル付きデータにラベル付きデータを変換する。
  論文  参考訳（メタデータ） (2022-04-07T09:12:00Z)
• Training image classifiers using Semi-Weak Label Data [26.04162590798731]
  多重インスタンス学習(MIL)では、弱ラベルがバッグレベルで提供され、存在/存在情報のみが知られる。 本稿では,この問題を軽減するため,新たな半弱ラベル学習パラダイムを提案する。 半弱ラベルから学習する問題に対処する2段階のフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-03-19T03:06:07Z)
• Self-Tuning for Data-Efficient Deep Learning [75.34320911480008]
  セルフチューニングは、データ効率のよいディープラーニングを可能にする新しいアプローチである。 ラベル付きおよびラベルなしデータの探索と事前訓練されたモデルの転送を統一する。 SSLとTLの5つのタスクをシャープなマージンで上回ります。
  論文  参考訳（メタデータ） (2021-02-25T14:56:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。