論文の概要: TabText: Language-Based Representations of Tabular Health Data for Predictive Modelling

• arxiv url: http://arxiv.org/abs/2206.10381v5
• Date: Fri, 26 Sep 2025 22:08:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-30 22:32:18.612377
• Title: TabText: Language-Based Representations of Tabular Health Data for Predictive Modelling
• Title（参考訳）: TabText:予測モデリングのためのタブラルヘルスデータの言語ベース表現
• Authors: Kimberly Villalobos Carballo, Liangyuan Na, Yu Ma, Léonard Boussioux, Cynthia Zeng, Luis R. Soenksen, Dimitris Bertsimas,
• Abstract要約: 本稿では,前処理および特徴抽出手法であるTabTextを紹介する。 メソッドはテーブルを文脈言語に変換する。 タスク非依存の数値表現を生成するために、事前訓練された大きな言語モデルを適用する。 これらの固定埋め込みは、様々な予測タスクの入力として使用される。
• 参考スコア（独自算出の注目度）: 5.242425869856329
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Tabular medical records remain the most readily available data format for applying machine learning in healthcare. However, traditional data preprocessing ignores valuable contextual information in tables and requires substantial manual cleaning and harmonisation, creating a bottleneck for model development. We introduce TabText, a preprocessing and feature extraction method that leverages contextual information and streamlines the curation of tabular medical data. This method converts tables into contextual language and applies pretrained large language models (LLMs) to generate task-independent numerical representations. These fixed embeddings are then used as input for various predictive tasks. TabText was evaluated on nine inpatient flow prediction tasks (e.g., ICU admission, discharge, mortality) using electronic medical records across six hospitals from a US health system, and on nine publicly available datasets from the UCI Machine Learning Repository, covering tasks such as cancer diagnosis, recurrence, and survival. TabText models trained on unprocessed data from a single hospital (572,964 patient-days, Jan 2018-Dec 2020) achieved accurate performance (AUC 0.75-0.94) when tested prospectively on 265,917 patient-days from Jan 2021-Apr 2022, and generalised well to five additional hospitals not used for training. When augmenting preprocessed tabular records with these contextual embeddings, out-of-sample AUC improved by up to 4 additive percentage points in challenging tasks such as ICU transfer and breast cancer recurrence, while providing little to no benefit for already high-performing tasks. Findings were consistent across both private and public datasets.
• Abstract（参考訳）: タブラル医療記録は、医療に機械学習を適用する上で、最も容易に利用できるデータフォーマットである。 しかし、従来のデータ前処理は、テーブル内の貴重なコンテキスト情報を無視し、相当な手作業によるクリーニングと調和を必要とし、モデル開発のボトルネックを生み出します。 本研究では,コンテキスト情報を活用する前処理および特徴抽出手法であるTabTextを導入し,表型医療データのキュレーションを効率化する。 テーブルを文脈言語に変換し、事前訓練された大規模言語モデル(LLM)を適用してタスク非依存の数値表現を生成する。 これらの固定埋め込みは、様々な予測タスクの入力として使用される。 TabTextは、米国の医療システムから6つの病院にまたがる電子カルテを用いて、9つの入院フロー予測タスク(例えば、ICU入院、退院、死亡)と、がん診断、再発、生存などのタスクをカバーするUCI機械学習リポジトリから公開されている9つのデータセットで評価された。 1つの病院(2018年1月～2020年1月)の未処理データに基づいてトレーニングされたTabTextモデルは、1月2021年4月2022年1月から265,917人の患者日に前向きに検査を行い、訓練に使用されていない5つの病院に最適化された。 これらの文脈埋め込みによって前処理した表状レコードを増大させると、AUCはICU転送や乳がん再発といった課題において最大4つの追加的なポイントを向上し、既に高いパフォーマンスのタスクにはほとんど恩恵を与えなかった。 発見はプライベートデータセットとパブリックデータセットの両方で一貫していた。

関連論文リスト

• Theme-Explanation Structure for Table Summarization using Large Language Models: A Case Study on Korean Tabular Data [1.0621665950143144]
  現在の表要約法は、人間に優しい出力の重要な側面を無視することが多い。 本稿では,Theme-Explanation Structure-based Table Summarization (Tabular-TX) パイプラインを紹介する。
  論文  参考訳（メタデータ） (2025-01-17T08:42:49Z)
• PORTAL: Scalable Tabular Foundation Models via Content-Specific Tokenization [7.036380633387952]
  我々は、クリーニングや前処理を必要とせずに、様々なデータモダリティを処理するフレームワーク、 Portal(Pretraining One-Row-at-a-Time for All tabLes)を紹介します。 オンラインにコンパイルされたデータセットで効果的に事前トレーニングされ、複雑な分類と回帰タスクに関する最先端の手法に適合するように微調整される。
  論文  参考訳（メタデータ） (2024-10-17T13:05:44Z)
• UniTabNet: Bridging Vision and Language Models for Enhanced Table Structure Recognition [55.153629718464565]
  我々は、画像からテキストへのモデルに基づくテーブル構造解析のための新しいフレームワークUniTabNetを紹介する。 UniTabNetは、画像とテキストのモデルを使ってテーブルセルを分離し、物理デコーダと論理デコーダを統合して完全なテーブル構造を再構築する。
  論文  参考訳（メタデータ） (2024-09-20T01:26:32Z)
• LaTable: Towards Large Tabular Models [63.995130144110156]
  タブラル生成基盤モデルは、異なるデータセットの不均一な特徴空間のために構築が困難である。 LaTableは、これらの課題に対処し、異なるデータセットでトレーニング可能な、新しい拡散モデルである。 LaTableは、分散生成のベースラインよりも優れており、微調整されたLaTableは、より少ないサンプルで分散データセットをより良く生成できる。
  論文  参考訳（メタデータ） (2024-06-25T16:03:50Z)
• PixT3: Pixel-based Table-To-Text Generation [66.96636025277536]
  本稿では,線形化と入力サイズ制限の課題を克服するマルチモーダルテーブル・トゥ・テキスト・モデルPixT3を提案する。 ToTToとLogic2Textベンチマークの実験では、PixT3はテキストのみで動作するジェネレータよりも競争力があり、優れていることが示されている。
  論文  参考訳（メタデータ） (2023-11-16T11:32:47Z)
• Towards Table-to-Text Generation with Pretrained Language Model: A Table Structure Understanding and Text Deliberating Approach [60.03002572791552]
  本稿では,テーブル構造理解とテキスト検討手法,すなわちTASDを提案する。 具体的には,表構造を考慮したテキスト生成モデルを実現するために,三層多層アテンションネットワークを考案する。 われわれのアプローチは、様々な種類のテーブルに対して忠実で流動的な記述テキストを生成することができる。
  論文  参考訳（メタデータ） (2023-01-05T14:03:26Z)
• PTab: Using the Pre-trained Language Model for Modeling Tabular Data [5.791972449406902]
  近年の研究では、ニューラルネットワークモデルがタブラルデータの文脈表現の学習に有効であることが示されている。 本稿では,事前学習言語モデルを用いて,タブラルデータをモデル化する新しいフレームワークPTabを提案する。 提案手法は,最先端のベースラインに比べて,教師付き設定における平均AUCスコアが向上した。
  論文  参考訳（メタデータ） (2022-09-15T08:58:42Z)
• SubTab: Subsetting Features of Tabular Data for Self-Supervised Representation Learning [5.5616364225463055]
  私たちはTabular Data(SubTab)のサブセット機能である新しいフレームワークを紹介します。 本稿では,タブラルデータ(SubTab)のサブセット機能である新しいフレームワークを提案する。 我々は、自動エンコーダ設定で、その機能の一部分からデータを再構成することで、その基盤となる表現をよりよく捉えることができると論じている。
  論文  参考訳（メタデータ） (2021-10-08T20:11:09Z)
• TABBIE: Pretrained Representations of Tabular Data [22.444607481407633]
  表データのみから学習する単純な事前学習目標を考案する。 競合するアプローチとは異なり、我々のモデル(TABBIE)は全てのテーブルサブストラクチャの埋め込みを提供する。 学習したセル,列,行の表現を定性的に分析した結果,複雑なテーブルの意味や数値的傾向が理解できた。
  論文  参考訳（メタデータ） (2021-05-06T11:15:16Z)
• Learning Better Representation for Tables by Self-Supervised Tasks [23.69766883380125]
  本稿では,表表現の学習を支援するために,数値順序付けと有意順序付けという2つの自己教師型タスクを提案する。 本手法はNBAゲーム統計と関連ニュースからなるROTOWIREを用いて検証する。
  論文  参考訳（メタデータ） (2020-10-15T09:03:38Z)
• GraPPa: Grammar-Augmented Pre-Training for Table Semantic Parsing [117.98107557103877]
  テーブルセマンティック解析のための効果的な事前学習手法GraPPaを提案する。 我々は、同期文脈自由文法を用いて、高自由度テーブル上に合成質問ペアを構築する。 実世界のデータを表現できるモデルの能力を維持するため、マスキング言語モデリングも含んでいる。
  論文  参考訳（メタデータ） (2020-09-29T08:17:58Z)
• TaBERT: Pretraining for Joint Understanding of Textual and Tabular Data [113.29476656550342]
  本研究では,NL文と表の表現を共同で学習する事前学習型LMであるTaBERTを提案する。 TaBERTは、600万のテーブルとその英語コンテキストからなる大規模なコーパスで訓練されている。 モデルの実装はhttp://fburl.com/TaBERT.comで公開される。
  論文  参考訳（メタデータ） (2020-05-17T17:26:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。