Fugu-MT 論文翻訳(概要): TPN: Transferable Proto-Learning Network towards Few-shot Document-Level Relation Extraction

論文の概要: TPN: Transferable Proto-Learning Network towards Few-shot Document-Level Relation Extraction

arxiv url: http://arxiv.org/abs/2410.00412v1
Date: Tue, 1 Oct 2024 05:37:31 GMT
ステータス: 処理完了
システム内更新日: 2024-11-05 05:46:46.172652
Title: TPN: Transferable Proto-Learning Network towards Few-shot Document-Level Relation Extraction
Title（参考訳）: TPN:Few-shotドキュメンテーション-レベル関係抽出に向けたトランスファー可能なプロトラーニングネットワーク
Authors: Yu Zhang, Zhao Kang,
Abstract要約: 文書レベルの関係抽出はNOTA関係表現のクロスドメイン転送性により性能が低下する。本稿では,この課題に対処するため,Transferable Proto-Learning Network (TPN)を導入する。 TPNは3つのコアコンポーネントから構成される: ハイブリッド階層は、入力テキストのセマンティックコンテンツをアテンション情報と組み合わせてエンコードし、関係表現を強化する。
参考スコア（独自算出の注目度）: 9.4094500796859
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Few-shot document-level relation extraction suffers from poor performance due to the challenging cross-domain transferability of NOTA (none-of-the-above) relation representation. In this paper, we introduce a Transferable Proto-Learning Network (TPN) to address the challenging issue. It comprises three core components: Hybrid Encoder hierarchically encodes semantic content of input text combined with attention information to enhance the relation representations. As a plug-and-play module for Out-of-Domain (OOD) Detection, Transferable Proto-Learner computes NOTA prototype through an adaptive learnable block, effectively mitigating NOTA bias across various domains. Dynamic Weighting Calibrator detects relation-specific classification confidence, serving as dynamic weights to calibrate the NOTA-dominant loss function. Finally, to bolster the model's cross-domain performance, we complement it with virtual adversarial training (VAT). We conduct extensive experimental analyses on FREDo and ReFREDo, demonstrating the superiority of TPN. Compared to state-of-the-art methods, our approach achieves competitive performance with approximately half the parameter size. Data and code are available at https://github.com/EchoDreamer/TPN.
Abstract（参考訳）: 文書レベルの関係抽出はNOTA(none-of-the-above)関係表現の難易度により性能が低下する。本稿では,この課題に対処するため,Transferable Proto-Learning Network(TPN)を提案する。ハイブリッドエンコーダ階層的に入力テキストの意味内容をアテンション情報と組み合わせてエンコードし、関係表現を強化する。 Out-of-Domain (OOD) 検出のためのプラグアンドプレイモジュールとして、Transferable Proto-Learner はNOTA プロトタイプを適応可能なブロックで計算し、NOTA バイアスを効果的に軽減する。動的重みキャリブレータは、関係性固有の分類信頼度を検出し、NOTA優位損失関数を校正するための動的重みとして機能する。最後に、モデルのクロスドメインパフォーマンスを強化するために、仮想敵訓練(VAT)を補完する。 FREDo と ReFREDo について広範な実験的解析を行い,TPN の優位性を実証した。提案手法は最先端手法と比較して,約半分のパラメータサイズで競合性能を実現する。データとコードはhttps://github.com/EchoDreamer/TPN.comで入手できる。

関連論文リスト

Contrastive Learning and Cycle Consistency-based Transductive Transfer Learning for Target Annotation [11.883617702526193]
本稿では,FIDスコアが大幅に低いH-CUT(Hybrid contrastive learning base unpaired domain translation)ネットワークを提案する。注目とエントロピーの両方を取り入れて、ドメイン固有の領域を強調するとともに、高変動性合成陰性パッチを生成するノイズ混在モジュールや、すべての負性パッチを再重み付けするための変調ノイズコントラスト推定(MoNCE)の損失を発生させる。提案されたC3TTLフレームワークは、民間車両や軍用車両のアノテートだけでなく、船舶の標的にも有効である。
論文参考訳（メタデータ） (2024-01-22T20:08:57Z)
Fourier Test-time Adaptation with Multi-level Consistency for Robust Classification [10.291631977766672]
本稿では,Fourier Test-Time Adaptation (FTTA) と呼ばれる新しい手法を提案する。 FTTAは、予測の自己監督を行うために、ペア入力の信頼性の高い多レベル整合性測定を構築する。異なる形態と器官を持つ3つの大きな分類データセットで広範囲に検証された。
論文参考訳（メタデータ） (2023-06-05T02:29:38Z)
Bridging the Domain Gaps in Context Representations for k-Nearest Neighbor Neural Machine Translation [57.49095610777317]
$k$-Nearestの隣人機械翻訳($k$NN-MT)は、新しい翻訳ドメインに非パラメトリックに適応する能力によって注目を集めている。本稿では,元のデータストアを再構築することで,$k$NN-MTのデータストア検索を高速化する手法を提案する。提案手法は,$k$NN-MTのデータストア検索と翻訳品質を効果的に向上させることができる。
論文参考訳（メタデータ） (2023-05-26T03:04:42Z)
On the effectiveness of partial variance reduction in federated learning with heterogeneous data [27.527995694042506]
クライアント間の最終分類層の多様性は、FedAvgアルゴリズムの性能を阻害することを示す。そこで本研究では,最終層のみの分散還元によるモデル修正を提案する。同様の通信コストや低い通信コストで既存のベンチマークを著しく上回っていることを実証する。
論文参考訳（メタデータ） (2022-12-05T11:56:35Z)
OST: Efficient One-stream Network for 3D Single Object Tracking in Point Clouds [6.661881950861012]
本稿では,従来のシームズネットワークで発生した相関操作を回避するために,インスタンスレベルのエンコーディングの強みを活かした新しい一ストリームネットワークを提案する。提案手法は,クラス固有のトラッキングだけでなく,より少ない計算と高い効率でクラスに依存しないトラッキングを実現する。
論文参考訳（メタデータ） (2022-10-16T12:31:59Z)
Attentive Prototypes for Source-free Unsupervised Domain Adaptive 3D Object Detection [85.11649974840758]
3Dオブジェクト検出ネットワークは、トレーニングされたデータに対してバイアスを受ける傾向がある。そこで本研究では,ライダーを用いた3次元物体検出器のソースレス・教師なし領域適応のための単一フレーム手法を提案する。
論文参考訳（メタデータ） (2021-11-30T18:42:42Z)
ACDC: Online Unsupervised Cross-Domain Adaptation [15.72925931271688]
本稿では,非教師付きドメイン適応フレームワークであるACDCを提案する。 ACDCは3つのモジュールを単一のモデルにカプセル化している。特徴を抽出する自動エンコーダ、ドメイン変換を実行する対向モジュール、ソースストリームを学習してターゲットストリームを予測する推定器である。実験の結果, 基準法よりも目標精度が向上し, 場合によっては10%以上の増加が見られた。
論文参考訳（メタデータ） (2021-10-04T11:08:32Z)
Aligning Pretraining for Detection via Object-Level Contrastive Learning [57.845286545603415]
画像レベルのコントラスト表現学習は、伝達学習の汎用モデルとして非常に有効であることが証明されている。我々は、これは準最適である可能性があり、従って、自己教師付きプレテキストタスクと下流タスクのアライメントを促進する設計原則を提唱する。 Selective Object Contrastive Learning (SoCo) と呼ばれる本手法は,COCO検出における伝達性能の最先端化を実現する。
論文参考訳（メタデータ） (2021-06-04T17:59:52Z)
Semantic Correspondence with Transformers [68.37049687360705]
本稿では,変換器を用いたコストアグリゲーション(CAT)を提案し,意味論的に類似した画像間の密接な対応を見出す。初期相関マップと多レベルアグリゲーションを曖昧にするための外観親和性モデリングを含む。提案手法の有効性を示す実験を行い,広範囲にわたるアブレーション研究を行った。
論文参考訳（メタデータ） (2021-06-04T14:39:03Z)
Self-Challenging Improves Cross-Domain Generalization [81.99554996975372]
畳み込みニューラルネットワーク(CNN)は、ラベルと相関する支配的特徴を活性化することにより、画像分類を行う。ドメイン外データに対するCNNの一般化を著しく改善する簡単なトレーニングである自己整合表現(RSC)を導入する。 RSCはトレーニングデータ上で活性化される主要な機能に対して反復的に挑戦し、ラベルと相関する残りの機能を有効にするようネットワークに強制する。
論文参考訳（メタデータ） (2020-07-05T21:42:26Z)
A Transductive Multi-Head Model for Cross-Domain Few-Shot Learning [72.30054522048553]
本稿では,クロスドメインなFew-Shot学習問題に対処するため,TMHFS(Transductive Multi-Head Few-Shot Learning)を提案する。提案手法は, 4つの異なる対象領域において, 強いベースライン, 微調整を著しく上回っている。
論文参考訳（メタデータ） (2020-06-08T02:39:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。