論文の概要: TILE: Bridging LLMs and Table Foundation Models for Tabular Learning with Strings

• arxiv url: http://arxiv.org/abs/2610.17065v1
• Date: Mon, 12 Oct 2026 16:29:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-18 03:31:58.255056
• Title: TILE: Bridging LLMs and Table Foundation Models for Tabular Learning with Strings
• Title（参考訳）: TILE: 文字列によるタブラリ学習のための LLM と Table Foundation モデルをブリッジする
• Abstract要約: テーブル基礎モデル (TFMs) は数値テーブル上では優れるが、数値的にエンコードされる文字列を必要とする。 大規模言語モデル(LLM)は意味的知識を持っているが、表形式の予測には設計されていない。 LLM とテーブル間のインタフェースは LLM 自体と同じくらい重要であることを示す。
• 参考スコア（独自算出の注目度）: 17.37104505416496
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Real-world tables are often heterogeneous, combining numerical features with free-form string columns. Table foundation models (TFMs) excel on numerical tables but require strings to be encoded numerically, while large language models (LLMs) hold semantic knowledge but are not designed for tabular predictions. Most existing bridges use LLMs as plug-in encoders for cell strings, yet how to extract representations effectively for tabular learning remains underexplored. We show that the interface between LLMs and tables matter as much as the LLM itself. Applied cell-wise, larger LLMs do not give better features. With our interface, the same LLMs improve steadily with size. TILE (Table-Interfaced LLM Embeddings) combines four ingredients: row serialization to provide cross-column context, intermediate-layer extraction to avoid layers specialized for next-token prediction, columnar pooling to remove mean pooling's length bias, and by-pass features to route numbers and categories past the LLM. Paired with TFMs, TILE sets a new state of the art for tables with strings. Across 100 datasets, it beats the strongest baseline on 89% of splits, with gains across 7 LLMs and 10 tabular learners, and ranks first on the 108-dataset STRABLE benchmark.
• Abstract（参考訳）: 実世界のテーブルは、しばしば異種であり、数値的な特徴と自由形式の文字列列を組み合わせたものである。 表基礎モデル (TFMs) は数値表上では優れるが、文字列を数値的にエンコードする必要があるが、大きな言語モデル (LLMs) は意味的な知識を持っているが、表の予測には設計されていない。 既存のほとんどの橋梁では、LLMをセル文字列のプラグインエンコーダとして使っているが、表層学習に効果的に表現を抽出する方法はまだ未定である。 LLM とテーブル間のインタフェースは LLM 自体と同じくらい重要であることを示す。 細胞レベルでは、より大きなLSMはより良い特徴を与えない。 我々のインターフェースでは、同じLLMがサイズで着実に改善されている。 TILE (Table-Interfaced LLM Embeddings) には,行シリアライゼーションによるクロスカラムコンテキストの提供,次トーケン予測に特化したレイヤ回避のための中間層抽出,平均プール長バイアス除去のためのカラムプール,LLMを経由する数やカテゴリへのバイパス機能,の4つの要素が組み合わさっている。 TILE は TFM と組み合わせて,文字列付きテーブルの最先端を新たに設定する。 100データセットで89%のスプリットで最強のベースラインを達成し、7つのLLMと10の表型学習者を獲得し、108データセットのSTRABLEベンチマークで第1位にランクインした。

関連論文リスト

• CORE-T: COherent REtrieval of Tables for Text-to-SQL [91.76918495375384]
  CORE-Tはスケーラブルでトレーニング不要なフレームワークで、テーブルに目的のメタデータを付加し、軽量なテーブル互換キャッシュをプリコンプリートする。 バード、スパイダー、MMQAを越えて、CORE-Tはテーブル選択F1を最大22.7ポイント改善し、最大42%のテーブルを検索する。
  論文  参考訳（メタデータ） (2026-01-19T14:51:23Z)
• LLM Attention Transplant for Transfer Learning of Tabular Data Across Disparate Domains [0.0]
  本稿では,テーブルに構造化された混合データ型の学習を伝達するための軽量な伝達学習フレームワークを提案する。 10組のソース・ターゲット・データセットと12のベースラインを用いた実験により,トランスファー学習におけるLLM-アテンション・トランスポーテーションの優位性を実証した。
  論文  参考訳（メタデータ） (2025-11-08T23:05:31Z)
• TabGemma: Text-Based Tabular ICL via LLM using Continued Pretraining and Retrieval [1.4995278030955144]
  本稿では,行をシーケンスとして扱うスキーマに依存しないインコンテキスト学習ツールであるTabGemmaを紹介する。 推測には、コンパクトなn-gramベースの検索を用いて、128kのウィンドウに収まる情報的例を選択する。 回帰に関しては、小さなサンプルサイズで競合するが、データが大きくなるにつれて従来のアプローチに追随する。
  論文  参考訳（メタデータ） (2025-11-05T15:51:03Z)
• Scalable In-Context Learning on Tabular Data via Retrieval-Augmented Large Language Models [15.603556124006479]
  拡張性のあるTabICLのための検索拡張言語モデルを提案する。 提案手法では,LLMのための検索誘導型命令チューニングと合わせて,検索モジュールをカスタマイズする。 これにより、LLMはより大きなデータセットを効果的に活用することができ、69の広く認識されているデータセット間での大幅なパフォーマンス向上を実現している。
  論文  参考訳（メタデータ） (2025-02-05T13:16:41Z)
• TableTime: Reformulating Time Series Classification as Training-Free Table Understanding with Large Language Models [20.077169400691435]
  大規模言語モデル (LLM) は多変量時系列分類において有効であることを示した。 LLM は LLM の潜在空間内の時系列の埋め込みを直接コードし、LLM の意味空間と一致させる。 MTSCを表理解タスクとして再編成するテーブルタイムを提案する。
  論文  参考訳（メタデータ） (2024-11-24T07:02:32Z)
• TAP4LLM: Table Provider on Sampling, Augmenting, and Packing Semi-structured Data for Large Language Model Reasoning [55.33939289989238]
  テーブルベースタスクにおいて,大規模言語モデル(LLM)を効果的に活用するための汎用プリプロセッサスイートとして,TAP4LLMを提案する。 1)大きなテーブルをクエリセマンティクスに基づいて管理可能なサブテーブルに分解するテーブルサンプリング、(2)外部ソースやモデルから追加の知識でテーブルを拡張するテーブル拡張、(3)テーブルパッキングとシリアライゼーションによりテーブルをLLMの理解に適したさまざまなフォーマットに変換する。
  論文  参考訳（メタデータ） (2023-12-14T15:37:04Z)
• Table Meets LLM: Can Large Language Models Understand Structured Table Data? A Benchmark and Empirical Study [44.39031420687302]
  大規模言語モデル(LLM)は、自然言語(NL)に関連する課題を解決するために、数ショットの推論器として魅力的になってきている。 LLMの構造的理解能力を評価するためのベンチマークを設計して,これを理解しようと試みる。 重要な値や範囲識別など,効率的な構造的プロンプトのための$textitself-augmentation$を提案する。
  論文  参考訳（メタデータ） (2023-05-22T14:23:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。