論文の概要: TAROT: Task-Adaptive Refinement of LLM-prior Graphs for Few-shot Tabular Learning
- arxiv url: http://arxiv.org/abs/2606.11640v1
- Date: Wed, 10 Jun 2026 04:02:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.284503
- Title: TAROT: Task-Adaptive Refinement of LLM-prior Graphs for Few-shot Tabular Learning
- Title(参考訳): TAROT:Few-shot Tabular Learningのための LLM-prior Graphs のタスク適応化
- Authors: Ruxue Shi, Yili Wang, Mengnan Du, Hangting Ye, Yi Chang, Xin Wang,
- Abstract要約: TAROT は GNN ベースのフレームワークで,タスク適応型セマンティックグラフの構築と修正によって,その構造とセマンティックをエンコードする。
LLMの幻覚による構造ノイズを軽減するため、TAROTはタスク適応セマンティックグラフリファインメントを導入している。
- 参考スコア(独自算出の注目度): 35.18087118865049
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Few-shot tabular learning provides a cost-effective approach for real-world applications where annotation is costly and collecting sufficient samples for new tasks is difficult. Existing Traditional and LLM-based methods have demonstrated effectiveness in few-shot scenarios. However, traditional methods need additional training on unlabeled or generated data, which incur significant computational overhead. In addition, LLM-based methods that directly feed raw tabular data into LLMs raise privacy and compliance concerns. More importantly, both paradigms largely overlook the semantic relationships between features, which provide structural and semantic prior for constructing a semantic graph. Semantic graph is essential for modeling meaningful feature interactions in few-shot scenarios. In this paper, we propose TAROT, a GNN-based framework that encodes the structural and semantic prior by constructing and refining a task-adaptive semantic graph from this prior, thereby improving predictive performance in few-shot tabular learning. TAROT first encodes heterogeneous tabular data into unified node semantic representations via a Unified Semantic Tabular Node Encoder (USTNE). Then, it prompts LLMs to infer the semantic relationship between features based on the task description and feature names to construct a semantic graph. To mitigate structural noise introduced by the hallucination of LLMs, TAROT introduces Task-adaptive Semantic Graph Refinement that prunes spurious or task-unrelated edges and adds missing task-related ones, aligning the graph structure with the downstream objective. Finally, a GNN performs message passing over the refined graph to capture task-related semantic dependencies for prediction. Extensive experiments on various few-shot tabular learning benchmarks demonstrate the superior performance of TAROT, establishing it as a state-of-the-art approach in this domain.
- Abstract(参考訳): 注記のコストがかかり、新しいタスクに十分なサンプルを集めるのが難しい実世界のアプリケーションにとって、タブララーニングはコスト効率のよい方法である。
既存の従来のLCM法とLCM法は、数ショットのシナリオで有効性を示した。
しかし、従来の手法ではラベルなしまたは生成されたデータに対する追加のトレーニングが必要であり、計算オーバーヘッドが大幅に増加する。
さらに、LLMに生の表データを直接供給するLLMベースの手法は、プライバシとコンプライアンスの懸念を提起する。
さらに重要なのは、どちらのパラダイムも機能間のセマンティックな関係を概ね見落としており、セマンティックグラフを構築する前に構造的およびセマンティックな関係を提供する。
セマンティックグラフは、数ショットのシナリオで意味のある機能相互作用をモデル化するのに不可欠である。
本稿では,従来のタスク適応型セマンティックグラフの構築と精算により,その構造と意味を符号化したGNNベースのフレームワークであるTAROTを提案する。
TAROTはまず、統一セマンティックタブラルノードエンコーダ(USTNE)を介して、不均一な表層データを統一ノード意味表現にエンコードする。
そして、タスク記述に基づく特徴と特徴名とのセマンティック関係を推測し、セマンティックグラフを構築する。
LLMの幻覚による構造ノイズを軽減するため、TAROTはタスク適応セマンティックグラフリファインメントを導入している。
最後に、GNNは洗練されたグラフ上でメッセージパッシングを行い、予測のためのタスク関連のセマンティック依存関係をキャプチャする。
様々な数ショットの表型学習ベンチマークに対する大規模な実験は、TAROTの優れた性能を示し、この領域における最先端のアプローチとして確立した。
関連論文リスト
- Semi-supervised Instruction Tuning for Large Language Models on Text-Attributed Graphs [62.544129365882014]
本稿では,SIT-Graph というグラフ学習用セミ教師付きインストラクションチューニングパイプラインを提案する。
SIT-Graphはモデルに依存しず、LSMを予測子として利用するグラフ命令チューニングメソッドにシームレスに統合することができる。
SIT-Graphは、最先端グラフチューニング手法に組み込むと、テキスト分散グラフベンチマークの性能を大幅に向上することを示した。
論文 参考訳(メタデータ) (2026-01-19T08:10:53Z) - GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。
textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
論文 参考訳(メタデータ) (2025-10-06T08:09:15Z) - Efficient Graph Understanding with LLMs via Structured Context Injection [8.393355845456659]
本稿では,タスク固有の情報を入力に体系的に組み込んでLLMを誘導し,幅広いグラフ問題を解く構造化コンテキスト注入フレームワークを提案する。
LLMの微調整は不要であり、コスト効率と軽量化を実現している。
我々は,軽量モデルと大規模モデルの両方を用いて,複数のグラフタスクに対するアプローチを評価し,精度と計算コストのトレードオフを強調した。
論文 参考訳(メタデータ) (2025-08-31T08:07:56Z) - Unify Graph Learning with Text: Unleashing LLM Potentials for Session Search [35.20525123189316]
セッション検索は、ユーザの複雑な情報ニーズを満たすための一連の対話的なクエリとアクションを含む。
現在の戦略は、相互作用のグラフ構造を見渡すことで、深い意味理解のためのシーケンシャルなモデリングを優先している。
テキストベースとグラフベースの両方のアプローチを活用することを目的としたSGR(Symbolic Graph Ranker)を提案する。
論文 参考訳(メタデータ) (2025-05-20T10:05:06Z) - PRISM-0: A Predicate-Rich Scene Graph Generation Framework for Zero-Shot Open-Vocabulary Tasks [51.31903029903904]
SGG(Scene Graphs Generation)では、オブジェクトノードの形式で視覚入力から構造化された表現を抽出し、それらを接続する。
PRISM-0はゼロショットオープン語彙SGGのためのフレームワークで、ボトムアップアプローチで基礎モデルをブートストラップする。
PRIMS-0は、イメージキャプションやSentence-to-Graph Retrievalのような下流タスクを改善する意味のあるグラフを生成する。
論文 参考訳(メタデータ) (2025-04-01T14:29:51Z) - Are Large Language Models In-Context Graph Learners? [31.172657860606297]
大規模言語モデル(LLM)は、幅広いタスクにまたがる顕著なコンテキスト内推論機能を持つ。
しかし、非ユークリッド構造に対する理解の欠如のため、グラフのような構造化データを扱うのに苦労している。
グラフデータの学習は、検索強化生成(RAG)プロセスとして概念化できることを示す。
グラフ学習タスクにおけるLLMの文脈内学習能力を高めるための一連のRAGフレームワークを提案する。
論文 参考訳(メタデータ) (2025-02-19T09:14:19Z) - From Anchors to Answers: A Novel Node Tokenizer for Integrating Graph Structure into Large Language Models [27.353083085394008]
グラフ表現のためのアンカーベース位置符号化方式を備えた新しいフレームワークNT-LLMを提案する。
提案手法では,アンカーとして参照ノードを戦略的に選択し,各ノードの位置をアンカーに対してエンコードし,既存の手法の計算負担を伴わずに重要なトポロジ情報を取得する。
NT-LLMは、位置符号化事前訓練のためのランク保存目的を実装することにより、基本構造解析から複雑な推論シナリオに至るまで、多種多様なグラフタスクにまたがる優れた性能を実現する。
論文 参考訳(メタデータ) (2024-10-14T17:21:57Z) - Can Graph Learning Improve Planning in LLM-based Agents? [61.47027387839096]
言語エージェントにおけるタスクプランニングは、大規模言語モデル(LLM)の開発とともに重要な研究トピックとして浮上している。
本稿では,課題計画のためのグラフ学習に基づく手法について検討する。
我々のグラフ学習への関心は、注意のバイアスと自己回帰的損失が、グラフ上の意思決定を効果的にナビゲートするLLMの能力を妨げているという理論的な発見に起因している。
論文 参考訳(メタデータ) (2024-05-29T14:26:24Z) - Task Residual for Tuning Vision-Language Models [69.22958802711017]
タスク残差調整(TaskRes)と呼ばれる視覚言語モデル(VLM)のための新しい効率的なチューニング手法を提案する。
TaskResは、トレーニング済みモデルの事前知識とターゲットタスクに関する新たな知識を明示的に分離する。
提案されたTaskResは単純だが有効であり、11のベンチマークデータセットで以前のメソッドよりも大幅に上回っている。
論文 参考訳(メタデータ) (2022-11-18T15:09:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。