論文の概要: LaTable: Towards Large Tabular Models

• arxiv url: http://arxiv.org/abs/2406.17673v1
• Date: Tue, 25 Jun 2024 16:03:50 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-26 13:41:09.740651
• Title: LaTable: Towards Large Tabular Models
• Title（参考訳）: LaTable: 大規模タブラルモデルに向けて
• Authors: Boris van Breugel, Jonathan Crabbé, Rob Davis, Mihaela van der Schaar,
• Abstract要約: タブラル生成基盤モデルは、異なるデータセットの不均一な特徴空間のために構築が困難である。 LaTableは、これらの課題に対処し、異なるデータセットでトレーニング可能な、新しい拡散モデルである。 LaTableは、分散生成のベースラインよりも優れており、微調整されたLaTableは、より少ないサンプルで分散データセットをより良く生成できる。
• 参考スコア（独自算出の注目度）: 63.995130144110156
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Tabular data is one of the most ubiquitous modalities, yet the literature on tabular generative foundation models is lagging far behind its text and vision counterparts. Creating such a model is hard, due to the heterogeneous feature spaces of different tabular datasets, tabular metadata (e.g. dataset description and feature headers), and tables lacking prior knowledge (e.g. feature order). In this work we propose LaTable: a novel tabular diffusion model that addresses these challenges and can be trained across different datasets. Through extensive experiments we find that LaTable outperforms baselines on in-distribution generation, and that finetuning LaTable can generate out-of-distribution datasets better with fewer samples. On the other hand, we explore the poor zero-shot performance of LaTable, and what it may teach us about building generative tabular foundation models with better zero- and few-shot generation capabilities.
• Abstract（参考訳）: タブラルデータは最もユビキタスなモダリティの1つだが、表層生成基盤モデルに関する文献は、テキストや視覚モデルよりもはるかに遅れている。 このようなモデルの作成は、異なる表形式のデータセット、表形式のメタデータ(例:データセット記述とフィーチャーヘッダ)、事前の知識(例:フィーチャー順)が欠けているテーブルなど、不均一な機能空間のため、難しい。 本研究では、これらの課題に対処し、異なるデータセットでトレーニング可能な、新しい表拡散モデルであるLaTableを提案する。 広範な実験により、LaTableは分散生成のベースラインよりも優れており、微調整されたLaTableはより少ないサンプルで分散データセットをより良く生成できることがわかった。 一方、LaTableのゼロショット性能の低さや、より優れたゼロショットおよび少数ショット生成機能を備えた生成可能な表層基盤モデルの構築について学ぶことができるかもしれない。

関連論文リスト

• ArxivDIGESTables: Synthesizing Scientific Literature into Tables using Language Models [58.34560740973768]
  本稿では,言語モデル(LM)を利用して文献レビュー表を生成するフレームワークを提案する。 ArXiv論文から抽出された2,228の文献レビューテーブルの新しいデータセットは、合計で7,542の論文を合成する。 我々は、LMが参照テーブルを再構築する能力を評価し、追加のコンテキストからこのタスクの利点を見出す。
  論文  参考訳（メタデータ） (2024-10-25T18:31:50Z)
• TabSketchFM: Sketch-based Tabular Representation Learning for Data Discovery over Data Lakes [25.169832192255956]
  データレイク上のデータ発見のためのニューラルネットワークタブモデルであるTabFMを提案する。 我々は、結合可能、結合可能、およびサブセットテーブルペアを特定するための事前訓練されたモデルを微調整する。 その結果,最先端技術と比較して,検索におけるF1スコアの大幅な改善が示された。
  論文  参考訳（メタデータ） (2024-06-28T17:28:53Z)
• Large Scale Transfer Learning for Tabular Data via Language Modeling [30.44823668480631]
  グラフ予測のための言語モデルであるTabuLa-8Bを提案する。 4百万を超えるユニークなテーブルから210億行を超えるデータセットを使用します。 その結果,TabuLa-8Bはランダムな推測よりも15ポイント以上高い未確認のテーブル上でゼロショット精度を持つことがわかった。
  論文  参考訳（メタデータ） (2024-06-17T18:58:20Z)
• Privately generating tabular data using language models [80.67328256105891]
  テーブルからプライベートに合成データを生成することは、プライバシ優先の世界の重要なブロックである。 本稿では,テーブル内の各行を文として扱い,差分プライバシーを持つ言語モデルを訓練する簡単な手法を提案し,検討する。
  論文  参考訳（メタデータ） (2023-06-07T21:53:14Z)
• QTSumm: Query-Focused Summarization over Tabular Data [58.62152746690958]
  人々は主に、データ分析を行うか、特定の質問に答えるためにテーブルをコンサルティングします。 そこで本研究では,テキスト生成モデルに人間的な推論を行なわなければならない,クエリ中心のテーブル要約タスクを新たに定義する。 このタスクには,2,934テーブル上の7,111の人間注釈付きクエリ-サマリーペアを含む,QTSummという新しいベンチマークを導入する。
  論文  参考訳（メタデータ） (2023-05-23T17:43:51Z)
• Generative Table Pre-training Empowers Models for Tabular Prediction [71.76829961276032]
  本稿では,テーブル事前学習を利用した最初の試みであるTapTapを提案する。 TapTapは、プライバシ保護、リソースの低さ、価値計算の欠如、不均衡な分類など、さまざまなアプリケーションをサポートするための高品質な合成テーブルを生成することができる。 LightGBM、Multilayer Perceptron (MLP)、Transformerなどのバックボーンモデルと簡単に組み合わせることができる。
  論文  参考訳（メタデータ） (2023-05-16T06:37:38Z)
• Leveraging Data Recasting to Enhance Tabular Reasoning [21.970920861791015]
  これまでの作業は、主に2つのデータ生成戦略に依存していた。 ひとつは人間のアノテーションで、言語学的に多様なデータを生成するが、拡張は困難である。 第2のカテゴリは合成生成であり、スケーラブルで費用対効果があるが、発明性に欠ける。
  論文  参考訳（メタデータ） (2022-11-23T00:04:57Z)
• STable: Table Generation Framework for Encoder-Decoder Models [5.07112098978226]
  本稿では,ライン項目の抽出や共同エンティティ,関係抽出,知識ベース人口といった問題に適用可能なテキスト・ツー・テーブル・ニューラルモデルのためのフレームワークを提案する。 トレーニングは、因子化順序のすべてのランダムな置換にまたがるテーブルの内容に対する、期待されるログの類似度を最大化する。 実験では、いくつかの挑戦的なデータセットに対して最先端の結果を確立するフレームワークの実用的な価値を実証している。
  論文  参考訳（メタデータ） (2022-06-08T17:59:02Z)
• ToTTo: A Controlled Table-To-Text Generation Dataset [61.83159452483026]
  ToTToはオープンドメインの英語のテーブル・トゥ・テキストのデータセットで、12万以上のトレーニングサンプルがある。 本稿では、ウィキペディアから既存の候補文を直接修正するデータセット構築プロセスを紹介する。 通常流動的であるが、既存の方法は多くの場合、表がサポートしていないフレーズを幻覚させる。
  論文  参考訳（メタデータ） (2020-04-29T17:53:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。