論文の概要: LLMs on Tabular Data with Limited Semantics: Evidence from Industrial Car Retrofit Prediction

• arxiv url: http://arxiv.org/abs/2606.15314v1
• Date: Sat, 13 Jun 2026 14:13:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:33.342929
• Title: LLMs on Tabular Data with Limited Semantics: Evidence from Industrial Car Retrofit Prediction
• Title（参考訳）: 限定セマンティックスを用いた語彙データのLLM:産業用自動車の適合予測からの証拠
• Authors: Aina Vila Pons, Ioannis Tzachristas, Constantinos Antoniou,
• Abstract要約: 本稿では,プロトタイプ登録システムとレトロフィット管理システムを結びつける産業データセットについて検討する。 行シリアライズされた入力に対する3つのLCMベースの戦略と、強力な表形式の機械学習ベースラインを比較した。 月次ベンチマークでは、ラグベースの機械学習が時系列基礎モデルを上回っている。
• 参考スコア（独自算出の注目度）: 4.679788938455094
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Industrial retrofit planning depends on structured operational data rather than free text: planners must estimate whether a newly registered prototype will require a retrofit, which retrofit package it will need, and how long the work will take. We study an industrial dataset linking a prototype-registration system (284,271 vehicles) with a retrofit-management system (48,716 cleaned visits), and compare strong tabular machine learning baselines with three LLM-based strategies on row-serialized inputs: embedding features (Amazon Titan), direct prompted classification (Claude Sonnet 4), and an ML+LLM stacking approach. Across binary occurrence prediction, 15-way retrofit-type classification, per-visit duration regression, and an aggregated monthly benchmark, classical tree ensembles remain the strongest standalone models. However, the LLM results reveal a consistent pattern: embeddings remain useful on tables (binary AUC = 0.982), direct prompting collapses once semantic signal is stripped by hashing (binary AUC = 0.500; multiclass weighted F1 = 0.018), and hybrid stacking yields the best manually built multiclass model (weighted F1 = 0.626). On the monthly benchmark, lag-based machine learning outperforms time-series foundation models, though Chronos-small remains competitive in zero-shot forecasting. The results suggest that on privacy-constrained industrial tables, LLMs are more effective as complementary components than as replacements for strong tabular baselines.
• Abstract（参考訳）: 設計者は、新規に登録されたプロトタイプが補修を必要とするかどうか、どの補修パッケージが必要か、作業に要する期間を見積もる必要がある。 本研究では,プロトタイプ登録システム(284,271台)と再適合管理システム(48,716台)をリンクする産業用データセットについて検討し,行シリアライズされた入力に対するLSMベースの3つの戦略 – 埋め込み機能(Amazon Titan),直接帰属型分類(Claude Sonnet 4),ML+LLMスタックリングアプローチと比較した。 2値発生予測、15方向の再適合型分類、訪問時間毎の回帰、月次ベンチマークの合計で、古典的な木のアンサンブルは依然として最強のスタンドアロンモデルである。 しかし、LCMの結果は、テーブル上での埋め込み(バイナリAUC = 0.982)、ハッシュ(バイナリAUC = 0.500;マルチクラス重み付きF1 = 0.018)による直接的な畳み込み(バイナリAUC = 0.626)、そしてハイブリッドスタックは、最も優れた手作業によるマルチクラスモデル(重み付きF1 = 0.626)である。 月次ベンチマークでは、ラグベースの機械学習が時系列基盤モデルを上回っているが、Chronos-smallはゼロショット予測において競争力を維持している。 その結果, プライバシに制約のある産業用テーブルでは, LLMは強力な表表ベースラインを置き換えるよりも, 補完的なコンポーネントとして有効であることが示唆された。

関連論文リスト

• SLE-FNO: Single-Layer Extensions for Task-Agnostic Continual Learning in Fourier Neural Operators [0.4369550829556577]
  新たな実験条件やシミュレーション体制は、以前のデータに再アクセスすることなく、外挿やモデル更新を必要とするため、大きく異なる場合がある。 これにより、破滅的な忘れを防ぎながら、分散シフトに適応できる継続的学習(CL)フレームワークの必要性が生まれます。 本稿では,SLE(Single-Layer Extension)とFNO(Fourier Neural Operator)を組み合わせたアーキテクチャベースアプローチ(SLE-FNO)を提案する。
  論文  参考訳（メタデータ） (2026-03-20T18:30:38Z)
• SPaRFT: Self-Paced Reinforcement Fine-Tuning for Large Language Models [51.74498855100541]
  大規模言語モデル(LLM)は、強化学習(RL)による微調整時に強い推論能力を示す。 トレーニング対象のモデルの性能に基づいて,効率的な学習を可能にする自己評価学習フレームワークである textbfSPaRFT を提案する。
  論文  参考訳（メタデータ） (2025-08-07T03:50:48Z)
• TabICL: A Tabular Foundation Model for In-Context Learning on Large Data [15.08819125687632]
  最大60Kサンプルの合成データセットを事前学習した表層ベースモデルであるTabICLを導入する。 TALENTベンチマークから200を越える分類データセットのうち、TabICLはTabPFNv2と同等であり、体系的に高速(最大10倍)である。 10K以上のサンプルを持つ53のデータセットで、TabICLはTabPFNv2とCatBoostを上回り、大規模データに対するICLの可能性を示している。
  論文  参考訳（メタデータ） (2025-02-08T13:25:04Z)
• TabDPT: Scaling Tabular Foundation Models on Real Data [20.00390825519329]
  ICLに基づく検索と自己教師付き学習を組み合わせた基礎モデルの学習手法を提案する。 事前学習フェーズに実際のデータを組み込むことで、学習が大幅に速くなり、見当たらないデータへの一般化が向上することを示す。 得られたモデルであるTabDPTは回帰 (CTR23) と分類 (CC18) のベンチマークで最高の性能を達成する。
  論文  参考訳（メタデータ） (2024-10-23T18:00:00Z)
• Self-Augmented Preference Optimization: Off-Policy Paradigms for Language Model Alignment [104.18002641195442]
  既存のペアデータを必要としない、効果的でスケーラブルなトレーニングパラダイムである自己拡張型優先度最適化(SAPO)を導入する。 負の反応を自律的に生成するセルフプレイの概念に基づいて、我々はさらに、データ探索とエクスプロイトを強化するために、非政治的な学習パイプラインを組み込む。
  論文  参考訳（メタデータ） (2024-05-31T14:21:04Z)
• Squeezing Lemons with Hammers: An Evaluation of AutoML and Tabular Deep Learning for Data-Scarce Classification Applications [2.663744975320783]
  L2正規化ロジスティック回帰は、最先端の自動機械学習(AutoML)フレームワークと同様の性能を発揮する。 データスカースアプリケーションの第1選択として、ロジスティック回帰を考慮することをお勧めします。
  論文  参考訳（メタデータ） (2024-05-13T11:43:38Z)
• The Languini Kitchen: Enabling Language Modelling Research at Different Scales of Compute [66.84421705029624]
  本稿では,アクセル時間で測定された等価計算に基づくモデル比較を可能にする実験的プロトコルを提案する。 私たちは、既存の学術的ベンチマークを上回り、品質、多様性、文書の長さで上回る、大規模で多様で高品質な書籍データセットを前処理します。 この研究は、GPT-2アーキテクチャから派生したフィードフォワードモデルと、10倍のスループットを持つ新しいLSTMの形式でのリカレントモデルという2つのベースラインモデルも提供する。
  論文  参考訳（メタデータ） (2023-09-20T10:31:17Z)
• MLLM-DataEngine: An Iterative Refinement Approach for MLLM [62.30753425449056]
  本稿では,データ生成,モデルトレーニング,評価を橋渡しする新しいクローズドループシステムを提案する。 各ループ内で、MLLM-DataEngineはまず評価結果に基づいてモデルの弱点を分析する。 ターゲットとして,異なる種類のデータの比率を調整する適応型バッドケースサンプリングモジュールを提案する。 品質については、GPT-4を用いて、各データタイプで高品質なデータを生成する。
  論文  参考訳（メタデータ） (2023-08-25T01:41:04Z)
• Branch-Train-Merge: Embarrassingly Parallel Training of Expert Language Models [106.65127123304842]
  Branch-Train-Merge (BTM) は、大規模言語モデル(LLM)の並列トレーニングのための効率的なアルゴリズムである。 BTMは独立した専門家のLM(ELM)の集合を学習し、それぞれ異なるテキストドメインに特化している。 実験により、BTMはGPTスタイルのトランスフォーマーLMと比較して、ドメイン内および外部のパープレクティビティを改善することが示された。
  論文  参考訳（メタデータ） (2022-08-05T17:46:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。