論文の概要: Generalized Context in Cross Attention for Transfer Learning of Disjoint Tabular Data

• arxiv url: http://arxiv.org/abs/2608.28209v1
• Date: Fri, 28 Aug 2026 11:29:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-31 17:16:04.300646
• Title: Generalized Context in Cross Attention for Transfer Learning of Disjoint Tabular Data
• Title（参考訳）: 相補的タブラリデータの伝達学習における交差注意の一般化した文脈
• Abstract要約: 既存の手法では、実際には非現実的なドメイン間の知識伝達を可能にするために、データテーブル間の共有機能を前提としている。 本稿では、ドメイン間の共有機能要件を取り除くために、一般化された文脈学習を導入する。 実験により、CATTLEは1つのソースデータセットから一般化されたコンテキストを学習でき、9つの最先端ベースラインよりもランクワイドで統計的に優れていることが示された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Unlike images and text, applying transfer learning to tabular data is challenging due to heterogeneity in feature types, structures, and semantics across disparate domains. Existing methods assume shared features across data tables to enable knowledge transfer between domains, which is unrealistic in practice. \mds{This paper introduces generalized context learning to remove the requirement of shared features across domains. The generalized context captured by transformer projection weights for $key$, $value$, and $query$ provides rule-based generalization rather than the domain-specific context conventionally learned from transformer activations. Projection weights for $key$ from the source domain interact with the weight for $query$ in the target domain to achieve Cross-domain Attention Transfer Learning (CATTLE) in a data-agnostic manner. Our experiments on ten pairs of disjoint source-target data sets show that CATTLE can learn generalized context from a single source data set and is rank-wise and statistically superior to nine state-of-the-art baselines, including machine learning, deep learning, and transfer learning methods using large-scale pre-trained models. CATTLE achieves the best average rank (2.9) and delivers a 3.7% average AUROC gain over the baseline methods.} The CATTLE source code is available at https://tinyurl.com/pr5s8ywn.
• Abstract（参考訳）: 画像やテキストとは異なり、特徴タイプ、構造、セマンティクスの異質性のため、表データに転送学習を適用することは困難である。 既存の手法では、実際には非現実的なドメイン間の知識伝達を可能にするために、データテーブル間の共有機能を前提としている。 本稿では、ドメイン間の共有機能要件を取り除くために、一般化されたコンテキスト学習を導入する。 変換子プロジェクションの重みによってキャプチャされた一般化コンテキストは、$key$, $value$, $query$ は、従来、変換子アクティベーションから学んだドメイン固有のコンテキストではなく、ルールベースの一般化を提供する。 ソースドメインから$key$の投影重みは、ターゲットドメインで$query$の重みと相互作用し、データに依存しない方法でクロスドメイン注意伝達学習(CATTLE)を達成する。 10組のソース・ターゲット・データセットを用いた実験により,CATTLEは1つのソース・データセットから一般化されたコンテキストを学習でき,大規模事前学習モデルを用いた機械学習,深層学習,移動学習など,9つの最先端ベースラインよりもランクワイドで統計的に優れていることが示された。 CATTLEは最高の平均ランク(2.9)を獲得し、ベースライン法よりも平均3.7%のAUROCゲインを提供する。 CATTLEのソースコードはhttps://tinyurl.com/pr5s8ywn.comで公開されている。

関連論文リスト

• A Source-Free Approach for Domain Adaptation via Multiview Image Transformation and Latent Space Consistency [1.931965175380089]
  ドメイン適応(DA)は、ソースドメインからターゲットドメインへの知識の転送という課題に対処する。 既存のDAメソッドは、しばしばソースドメインデータへのアクセス、敵の訓練、複雑な擬似ラベル技術を必要とする。 本稿では,対象ドメインから直接ドメイン不変性を学習するための,新しいソースフリーなドメイン適応手法を提案する。
  論文  参考訳（メタデータ） (2026-01-28T05:59:20Z)
• Similarity-Based Domain Adaptation with LLMs [13.692329347889212]
  教師なしのドメイン適応は、様々なソースドメインからの豊富なラベル付きデータを活用し、ラベルなしのターゲットデータに一般化する。 本稿では,Large Language Models(LLM)の印象的な一般化機能をターゲットデータアノテーションに活用する,シンプルなフレームワークを提案する。 我々のフレームワークは,SOTA法と比較して2.44%の精度向上を実現している。
  論文  参考訳（メタデータ） (2025-03-07T09:51:07Z)
• Cross-domain Named Entity Recognition via Graph Matching [25.237288970802425]
  クロスドメインのNERは、現実のシナリオにおけるデータの不足から、実用的ながら難しい問題である。 我々は,ラベル関係を確率分布としてモデル化し,ソースとターゲットの両方のラベル空間にラベルグラフを構築する。 ラベル関係をグラフとして表現することにより、グラフマッチング問題としてクロスドメインNERを定式化する。
  論文  参考訳（メタデータ） (2024-08-02T02:31:54Z)
• Table-Filling via Mean Teacher for Cross-domain Aspect Sentiment Triplet Extraction [30.2200481149647]
  クロスドメイン・アスペクト・インスペクティブ・トリプレット抽出(ASTE)は、対象のドメイン文からきめ細かい感情要素を抽出することを目的としている。 textbfMean textbfTeacher (TFMT) を用いた textbfTable-textbfFilling という新しい手法を提案する。 提案手法は,最小パラメータと計算コストで最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-07-23T09:04:08Z)
• Bi-level Alignment for Cross-Domain Crowd Counting [113.78303285148041]
  現在の手法は、補助的なタスクを訓練したり、高価な粗大な見積もりを適用したりするための外部データに依存している。 そこで我々は, 簡易かつ効率的に適用可能な, 逆学習に基づく新しい手法を開発した。 実世界の5つのクラウドカウントベンチマークに対するアプローチを評価し、既存のアプローチを大きなマージンで上回ります。
  論文  参考訳（メタデータ） (2022-05-12T02:23:25Z)
• Feature Extractor Stacking for Cross-domain Few-shot Learning [7.624311495433939]
  クロスドメインの少数ショット学習は、知識を1つ以上のソースドメインから、明確に異なる分布を持つインスタンススカースターゲットドメインに転送する必要がある学習問題に対処する。 ボックスから抽出器の集合から情報を合成する新しいCDFSL法であるFeature extractor stacking (FES)を提案する。 本稿では,古典的累積一般化法にインスパイアされた基本的FESアルゴリズムと,畳み込みFES(ConFES)と正規化FES(ReFES)の2つの変種を紹介する。
  論文  参考訳（メタデータ） (2022-05-12T01:54:22Z)
• Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
  ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。 近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。 本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
  論文  参考訳（メタデータ） (2022-04-24T12:22:19Z)
• Deep Transfer Learning for Multi-source Entity Linkage via Domain Adaptation [63.24594955429465]
  マルチソースエンティティリンクは、データのクリーニングやユーザ縫合といった、高インパクトなアプリケーションにおいて重要である。 AdaMELは、多ソースエンティティリンクを実行するための一般的なハイレベルな知識を学ぶディープトランスファー学習フレームワークである。 本フレームワークは,教師付き学習に基づく平均的手法よりも8.21%向上した最先端の学習結果を実現する。
  論文  参考訳（メタデータ） (2021-10-27T15:20:41Z)
• HRKD: Hierarchical Relational Knowledge Distillation for Cross-domain Language Model Compression [53.90578309960526]
  大規模事前学習言語モデル(PLM)は、従来のニューラルネットワーク手法と比較して圧倒的な性能を示している。 階層的および領域的関係情報の両方を抽出する階層的関係知識蒸留法(HRKD)を提案する。
  論文  参考訳（メタデータ） (2021-10-16T11:23:02Z)
• A Curriculum-style Self-training Approach for Source-Free Semantic Segmentation [91.13472029666312]
  ソースフリーなドメイン適応型セマンティックセマンティックセグメンテーションのためのカリキュラムスタイルの自己学習手法を提案する。 提案手法は, ソースフリーなセマンティックセグメンテーションタスクにおいて, 合成-実-実-実-実-実-実-非実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実
  論文  参考訳（メタデータ） (2021-06-22T10:21:39Z)
• Batch Normalization Embeddings for Deep Domain Generalization [50.51405390150066]
  ドメインの一般化は、異なるドメインと見えないドメインで堅牢に実行されるように機械学習モデルをトレーニングすることを目的としている。 一般的な領域一般化ベンチマークにおいて,最先端技術よりも分類精度が著しく向上したことを示す。
  論文  参考訳（メタデータ） (2020-11-25T12:02:57Z)
• Learning to Combine: Knowledge Aggregation for Multi-Source Domain Adaptation [56.694330303488435]
  マルチソースドメイン適応(LtC-MSDA)フレームワークを併用する学習法を提案する。 簡単に言うと、知識グラフは様々なドメインのプロトタイプ上に構築され、セマンティックに隣接した表現間の情報伝達を実現する。 我々のアプローチは、既存の手法よりも顕著なマージンで優れています。
  論文  参考訳（メタデータ） (2020-07-17T07:52:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。