論文の概要: DeepTable: Structural Attention Biases and Tree Path Encoding for Hierarchical Table Understanding
- arxiv url: http://arxiv.org/abs/2609.07707v1
- Date: Mon, 07 Sep 2026 16:19:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 21:20:37.500083
- Title: DeepTable: Structural Attention Biases and Tree Path Encoding for Hierarchical Table Understanding
- Title(参考訳): DeepTable:階層テーブル理解のための構造的アテンションバイアスとツリーパスエンコーディング
- Abstract要約: 大規模言語モデル(LLM)は、テーブル理解において強力な性能を示している。
LLMを用いたテーブル理解のための構造認識手法であるDeepTableを提案する。
- 参考スコア(独自算出の注目度): 10.761232681902394
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) have demonstrated strong performance in table understanding. However, they typically process table content and headers as linearized token sequences. This representation weakens the two-dimensional and hierarchical structural relationships encoded by multi-level row and column headers. Existing parameter-efficient fine-tuning methods incorporate basic row and column information but do not explicitly capture the rich structural dependencies induced by hierarchical table headers. We propose DeepTable, a structure-aware approach for table understanding with LLMs. DeepTable comprises two complementary components. Structural Attention Bias (SAB) introduces learnable biases into the attention logits to explicitly represent whether pairs of table tokens share the same row or column. Tree Path Encoding (TPE) represents each table token using the ancestor paths of its row and column headers, preserving its position within the multi-level table structure. We integrate DeepTable with TableLoRA (He et al., 2025) to inject structural information into parameter-efficient adaptation. Across three LLM backbones, DeepTable consistently improves the corresponding TableLoRA baselines on three table question answering benchmarks, achieving average gains of 7.42 points on HiTab, 3.23 points on WikiTQ, and 2.01 BLEU points on FeTaQA. These results demonstrate the effectiveness of the proposed structural biases across different LLM backbones.
- Abstract(参考訳): 大規模言語モデル(LLM)は、テーブル理解において強力な性能を示している。
しかし、通常はテーブルの内容とヘッダを線形化トークンシーケンスとして処理する。
この表現は、多層列と列ヘッダで符号化された2次元および階層構造関係を弱める。
既存のパラメータ効率の高い微調整手法は基本的な行情報と列情報を含んでいるが、階層テーブルヘッダーによって引き起こされるリッチな構造的依存関係を明示的に捉えていない。
LLMを用いたテーブル理解のための構造認識手法であるDeepTableを提案する。
DeepTableは2つの補完的なコンポーネントから構成される。
構造的注意バイアス(SAB)は、テーブルトークンのペアが同じ行または列を共有するかどうかを明確に表すために、学習可能なバイアスをアテンションロジットに導入する。
Tree Path Encoding (TPE)は、行と列ヘッダの祖先パスを使用してテーブルトークンを表現し、その位置をマルチレベルテーブル構造内に保持する。
我々は、DeepTableとTableLoRA(He et al , 2025)を統合し、パラメータ効率適応に構造情報を注入する。
3つのLLMバックボーンで、DeepTableは3つのテーブル質問応答ベンチマークで対応するTableLoRAベースラインを一貫して改善し、HiTabでは7.42ポイント、WikiTQでは3.23ポイント、FeTaQAでは2.01BLEUポイントの平均ゲインを達成した。
これらの結果は、異なるLDMバックボーンにまたがる構造バイアスの有効性を示す。
関連論文リスト
- H2Table: Hierarchical Hypergraph-Enhanced Large Language Models for Complex Table Reasoning [16.150378428877445]
H2Tableは、複雑なテーブルを階層的なネストハイパーグラフとして表現する新しいフレームワークである。
我々は、ハイパーエッジ(ヘッダ)とノード(セル)間のメッセージパッシングを容易にする調整されたハイパーグラフエンコーダを設計する。
論文 参考訳(メタデータ) (2026-09-01T13:19:42Z) - TabEmb: Joint Semantic-Structure Embedding for Table Annotation [3.03279900330493]
テーブルアノテーションは、下流のNLPアプリケーションで使えるWebおよびエンタープライズテーブルを作るのに不可欠である。
既存のモデルは、2Dテーブルを1Dトークンシーケンスに線形化し、事前訓練された言語モデルでエンコードすることで学習する。
本研究では,構造モデリングからセマンティックエンコーディングを分離することで,これらの制約を直接ターゲットとするTabEmbを提案する。
論文 参考訳(メタデータ) (2026-04-21T00:25:49Z) - TDATR: Improving End-to-End Table Recognition via Table Detail-Aware Learning and Cell-Level Visual Alignment [70.83664203825235]
TDATR(Table Detail-Aware Table Recognition)は、テーブルの詳細学習とセルレベルの視覚アライメントにより、エンドツーエンドのTRを改善する。
データセット固有の微調整なしで、7つのベンチマークで最先端または高い競争性能を達成する。
論文 参考訳(メタデータ) (2026-03-24T05:45:02Z) - Orthogonal Hierarchical Decomposition for Structure-Aware Table Understanding with Large Language Models [13.58784346599112]
LLMの複雑なテーブルの構造保存型入力表現を構成する直交階層分解(OHD)フレームワークを提案する。
この表現に基づいて、各セルのセマンティックな系統を対称的に再構築する2経路アソシエーションプロトコルを設計する。
AITQA と HiTab という2つの複雑なテーブル質問応答ベンチマーク上で OHD フレームワークを評価する。
論文 参考訳(メタデータ) (2026-02-02T11:22:43Z) - TableLoRA: Low-rank Adaptation on Table Structure Understanding for Large Language Models [57.005158277893194]
TableLoRA は、PEFT における LLM のテーブル構造理解を改善するために設計されたモジュールである。
テーブルを特別なトークンエンコーダでシリアライズするための特別なトークンを組み込み、2D LoRAを使ってセル位置の低ランク情報をエンコードする。
論文 参考訳(メタデータ) (2025-03-06T12:50:14Z) - TAP4LLM: Table Provider on Sampling, Augmenting, and Packing Semi-structured Data for Large Language Model Reasoning [55.33939289989238]
テーブルベースタスクにおいて,大規模言語モデル(LLM)を効果的に活用するための汎用プリプロセッサスイートとして,TAP4LLMを提案する。
1)大きなテーブルをクエリセマンティクスに基づいて管理可能なサブテーブルに分解するテーブルサンプリング、(2)外部ソースやモデルから追加の知識でテーブルを拡張するテーブル拡張、(3)テーブルパッキングとシリアライゼーションによりテーブルをLLMの理解に適したさまざまなフォーマットに変換する。
論文 参考訳(メタデータ) (2023-12-14T15:37:04Z) - SEMv2: Table Separation Line Detection Based on Instance Segmentation [96.36188168694781]
SEMv2(SEM: Split, Embed, Merge)と呼ばれるテーブル構造認識器を提案する。
本稿では,テーブル分離ラインのインスタンスレベルの識別問題に対処し,条件付き畳み込みに基づくテーブル分離ライン検出戦略を提案する。
SEMv2を包括的に評価するために、iFLYTABと呼ばれるテーブル構造認識のためのより困難なデータセットも提示する。
論文 参考訳(メタデータ) (2023-03-08T05:15:01Z) - Table Retrieval May Not Necessitate Table-specific Model Design [83.27735758203089]
テーブル検索のタスクに焦点をあてて、"テーブル固有のモデル設計はテーブル検索に必要か?
自然質問データセット (NQ-table) の表に基づく分析の結果, 70%以上の症例では構造が無視できる役割を担っていることがわかった。
次に、テーブル構造、すなわち補助列/カラム埋め込み、ハードアテンションマスク、ソフトリレーションに基づくアテンションバイアスを明示的にエンコードする3つのモジュールを実験する。
いずれも大きな改善は得られず、テーブル固有のモデル設計がテーブル検索に不要である可能性が示唆された。
論文 参考訳(メタデータ) (2022-05-19T20:35:23Z) - TGRNet: A Table Graph Reconstruction Network for Table Structure
Recognition [76.06530816349763]
本稿では,表構造認識のためのエンドツーエンドのトレーニング可能な表グラフ再構成ネットワーク(TGRNet)を提案する。
具体的には,異なる細胞の空間的位置と論理的位置を共同で予測するために,細胞検出枝と細胞論理的位置分岐の2つの主枝を有する。
論文 参考訳(メタデータ) (2021-06-20T01:57:05Z) - TUTA: Tree-based Transformers for Generally Structured Table
Pre-training [47.181660558590515]
テーブル理解に関する最近の試みは、主にリレーショナルテーブルに焦点を当てているが、他の一般的なテーブル構造を見落としている。
本稿では、一般に構造化されたテーブルを理解するための統合事前学習アーキテクチャであるTUTAを提案する。
TUTAは非常に効果的で、広く研究されている5つのデータセットの最先端を実現している。
論文 参考訳(メタデータ) (2020-10-21T13:22:31Z) - Identifying Table Structure in Documents using Conditional Generative
Adversarial Networks [0.0]
多くの産業や学術研究において、情報は主に構造化されていない文書の形で伝達される。
本稿では,まず,テーブルイメージを標準化されたスケルトンテーブル形式にマッピングするために,条件付き生成逆数ネットワークを用いたトップダウンアプローチを提案する。
次に、xy-cutプロジェクションと遺伝的アルゴリズムを用いた潜在テーブル構造を導出する。
論文 参考訳(メタデータ) (2020-01-13T20:42:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。