論文の概要: TabEmbed: Benchmarking and Learning Generalist Embeddings for Tabular Understanding
- arxiv url: http://arxiv.org/abs/2605.04962v1
- Date: Wed, 06 May 2026 14:22:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.871975
- Title: TabEmbed: Benchmarking and Learning Generalist Embeddings for Tabular Understanding
- Title(参考訳): TabEmbed: 語彙理解のためのベンチマークと学習ジェネリストの埋め込み
- Abstract要約: 埋め込みモデルの性能を評価するためにTabular Embedding Benchmark(TabBench)を導入する。
次に,タブ形式の分類と検索を共有埋め込み空間内で統合する最初の一般埋め込みモデルであるTabEmbedを提案する。
TabBenchの実験結果は、TabEmbedが最先端のテキスト埋め込みモデルを大幅に上回っていることを示している。
- 参考スコア(独自算出の注目度): 35.46103363192022
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Foundation models have established unified representations for natural language processing, yet this paradigm remains largely unexplored for tabular data. Existing methods face fundamental limitations: LLM-based approaches lack retrieval-compatible vector outputs, whereas text embedding models often fail to capture tabular structure and numerical semantics. To bridge this gap, we first introduce the Tabular Embedding Benchmark (TabBench), a comprehensive suite designed to evaluate the tabular understanding capability of embedding models. We then propose TabEmbed, the first generalist embedding model that unifies tabular classification and retrieval within a shared embedding space. By reformulating diverse tabular tasks as semantic matching problems, TabEmbed leverages large-scale contrastive learning with positive-aware hard negative mining to discern fine-grained structural and numerical nuances. Experimental results on TabBench demonstrate that TabEmbed significantly outperforms state-of-the-art text embedding models, establishing a new baseline for universal tabular representation learning. Code and datasets are publicly available at https://github.com/qiangminjie27/TabEmbed and https://huggingface.co/datasets/qiangminjie27/TabBench.
- Abstract(参考訳): ファウンデーションモデルは自然言語処理のための統一表現を確立してきたが、このパラダイムは表形式のデータに対してほとんど探索されていない。
LLMベースのアプローチは検索互換のベクトル出力を欠いているが、テキスト埋め込みモデルは表構造や数値意味論を捉えるのに失敗することが多い。
このギャップを埋めるために、まずTabular Embedding Benchmark (TabBench)を紹介します。
次に,タブ形式の分類と検索を共有埋め込み空間内で統合する最初の一般埋め込みモデルであるTabEmbedを提案する。
多様な表のタスクを意味的マッチング問題として再構成することにより、TabEmbedは、正に認識された強負のマイニングによる大規模コントラスト学習を活用して、きめ細かな構造的および数値的ニュアンスを識別する。
TabBenchの実験結果は、TabEmbedが最先端のテキスト埋め込みモデルを大幅に上回っており、普遍的な表象表現学習のための新しいベースラインを確立していることを示している。
コードとデータセットはhttps://github.com/qiangminjie27/TabEmbedとhttps://huggingface.co/datasets/qiangminjie27/TabBenchで公開されている。
関連論文リスト
- SOMTab: Set-Order Mamba for Efficient Tabular In-Context Learning [30.163512246197843]
本稿では,テキスト内学習を効率的に行うためのSet-Order MambaアーキテクチャであるSOMTabを紹介する。
行と列の表現については、順序のないテーブルトークンを安定な潜在スロットにマッピングし、Mambaベースの状態空間混合を適用する。
最終的な予測のために、ラベル付きコンテキストの例からクエリ条件付き検索を保存するために、注意ベースのコンテキスト内学習を保持する。
論文 参考訳(メタデータ) (2026-08-28T03:43:08Z) - TabSwift: An Efficient Tabular Foundation Model with Row-Wise Attention [47.480923979431886]
タブラル基礎モデルは、ラベル付きトレーニング例から直接テストラベルを推測して、コンテキスト内学習を通じて予測を行う。
最近のモデルでは、ますます複雑なアーキテクチャによって精度が向上し、推論コストが高くなり、実用的なデプロイメントが制限されることが多い。
ライトウェイトな行ワイドアテンションのみのバックボーンは、2つの単純な拡張と高い競争力を維持することができることを示す。
論文 参考訳(メタデータ) (2026-06-05T14:55:30Z) - Towards Universal Tabular Embeddings: A Benchmark Across Data Tasks [15.117602507724726]
タブラル表現学習モデルは、タスクやドメイン間で転送されるデータの普遍的な表現を学習することを目的としている。
既存の手法は、直接比較が難しいタスク固有の設定で評価されることが多い。
TEmBedは、4つの表現レベルにまたがる埋め込みを体系的に評価するためのベンチマークである。
論文 参考訳(メタデータ) (2026-04-23T14:05:38Z) - Comparing Task-Agnostic Embedding Models for Tabular Data [1.6479389738270018]
この研究は特に表現学習、すなわち伝達可能なタスクに依存しない埋め込みに焦点を当てている。
テーブルライザ機能は、最近の基礎モデルよりも最大3桁高速で、同等または優れたパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-11-18T09:10:40Z) - Towards Benchmarking Foundation Models for Tabular Data With Text [36.3195231571412]
本稿では,テキストを従来のパイプラインに組み込むための,シンプルで効果的なアブレーション方式の戦略を提案する。
我々は、実世界のデータセットのコレクションを意味のあるテキスト機能で手作業でキュレートすることで、最先端の表層基盤モデルがどのようにテキストデータを扱うことができるかをベンチマークする。
論文 参考訳(メタデータ) (2025-07-10T15:01:31Z) - ConTextTab: A Semantics-Aware Tabular In-Context Learner [1.0999592665107414]
ConTextTabを導入し、セマンティック理解とアライメントをテーブルネイティブなICLフレームワークに統合する。
我々のモデルは、意味的にリッチなCARTEベンチマークで新しい標準を設定しながら、幅広いベンチマークでSOTAと競合する。
論文 参考訳(メタデータ) (2025-06-12T13:57:29Z) - UniTabNet: Bridging Vision and Language Models for Enhanced Table Structure Recognition [55.153629718464565]
我々は、画像からテキストへのモデルに基づくテーブル構造解析のための新しいフレームワークUniTabNetを紹介する。
UniTabNetは、画像とテキストのモデルを使ってテーブルセルを分離し、物理デコーダと論理デコーダを統合して完全なテーブル構造を再構築する。
論文 参考訳(メタデータ) (2024-09-20T01:26:32Z) - LaTable: Towards Large Tabular Models [63.995130144110156]
タブラル生成基盤モデルは、異なるデータセットの不均一な特徴空間のために構築が困難である。
LaTableは、これらの課題に対処し、異なるデータセットでトレーニング可能な、新しい拡散モデルである。
LaTableは、分散生成のベースラインよりも優れており、微調整されたLaTableは、より少ないサンプルで分散データセットをより良く生成できる。
論文 参考訳(メタデータ) (2024-06-25T16:03:50Z) - Rethinking Pre-Training in Tabular Data: A Neighborhood Embedding Perspective [71.45945607871715]
メタ表現(TabPTM)を用いたタブラルデータ事前学習を提案する。
中心となる考え方は、データインスタンスを共有機能空間に埋め込むことで、各インスタンスは、近隣の固定数とそのラベルまでの距離で表現される。
101データセットの大規模な実験は、微調整の有無にかかわらず、分類タスクと回帰タスクの両方においてTabPTMの有効性を確認した。
論文 参考訳(メタデータ) (2023-10-31T18:03:54Z) - STUNT: Few-shot Tabular Learning with Self-generated Tasks from
Unlabeled Tables [64.0903766169603]
我々は,Unlabeled Tables (STUNT) からの自己生成タスクを作成した,数発のセミ教師付き学習のためのフレームワークを提案する。
私たちのキーとなるアイデアは、ランダムに選択された列をターゲットラベルとして扱うことで、多様なショットタスクを自己生成することです。
次に、メタラーニング手法を用いて、構築されたタスクで一般化可能な知識を学習する。
論文 参考訳(メタデータ) (2023-03-02T02:37:54Z) - TabLLM: Few-shot Classification of Tabular Data with Large Language
Models [66.03023402174138]
大規模言語モデルのゼロショットおよび少数ショット分類への応用について検討する。
テンプレートやテーブル・ツー・テキストモデル,大規模言語モデルなど,いくつかのシリアライズ手法を評価する。
このアプローチは、勾配木のような強力な伝統的なベースラインとも競合する。
論文 参考訳(メタデータ) (2022-10-19T17:08:13Z) - PTab: Using the Pre-trained Language Model for Modeling Tabular Data [5.791972449406902]
近年の研究では、ニューラルネットワークモデルがタブラルデータの文脈表現の学習に有効であることが示されている。
本稿では,事前学習言語モデルを用いて,タブラルデータをモデル化する新しいフレームワークPTabを提案する。
提案手法は,最先端のベースラインに比べて,教師付き設定における平均AUCスコアが向上した。
論文 参考訳(メタデータ) (2022-09-15T08:58:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。