論文の概要: Bridged-GNN: Knowledge Bridge Learning for Effective Knowledge Transfer
- arxiv url: http://arxiv.org/abs/2308.09499v1
- Date: Fri, 18 Aug 2023 12:14:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-21 13:16:19.820376
- Title: Bridged-GNN: Knowledge Bridge Learning for Effective Knowledge Transfer
- Title(参考訳): Bridged-GNN: 効果的な知識伝達のための知識ブリッジ学習
- Authors: Wendong Bi, Xueqi Cheng, Bingbing Xu, Xiaoqian Sun, Li Xu, Huawei Shen
- Abstract要約: グラフニューラルネットワーク(GNN)は、隣接するノードから情報を集約する。
知識ブリッジ学習(KBL)は、対象ドメインに対する知識強化後部分布を学習する。
Bridged-GNNには、Bridged-Graphを構築するためのAdaptive Knowledge Retrievalモジュールと、Graph Knowledge Transferモジュールが含まれている。
- 参考スコア(独自算出の注目度): 65.42096702428347
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The data-hungry problem, characterized by insufficiency and low-quality of
data, poses obstacles for deep learning models. Transfer learning has been a
feasible way to transfer knowledge from high-quality external data of source
domains to limited data of target domains, which follows a domain-level
knowledge transfer to learn a shared posterior distribution. However, they are
usually built on strong assumptions, e.g., the domain invariant posterior
distribution, which is usually unsatisfied and may introduce noises, resulting
in poor generalization ability on target domains. Inspired by Graph Neural
Networks (GNNs) that aggregate information from neighboring nodes, we redefine
the paradigm as learning a knowledge-enhanced posterior distribution for target
domains, namely Knowledge Bridge Learning (KBL). KBL first learns the scope of
knowledge transfer by constructing a Bridged-Graph that connects knowledgeable
samples to each target sample and then performs sample-wise knowledge transfer
via GNNs.KBL is free from strong assumptions and is robust to noises in the
source data. Guided by KBL, we propose the Bridged-GNN} including an Adaptive
Knowledge Retrieval module to build Bridged-Graph and a Graph Knowledge
Transfer module. Comprehensive experiments on both un-relational and relational
data-hungry scenarios demonstrate the significant improvements of Bridged-GNN
compared with SOTA methods
- Abstract(参考訳): データ不足とデータ品質の低さが特徴のdata-hungry問題は、ディープラーニングモデルに障害をもたらす。
転送学習は、高品質なソースドメインの外部データからターゲットドメインの限られたデータに知識を移譲する方法であり、ドメインレベルの知識伝達に従って共有後分布を学習する。
しかし、通常それらは強い仮定に基づいて構築され、例えば、領域不変な後続分布は、通常満足せず、ノイズを生じさせ、対象領域の一般化能力が低下する。
隣り合うノードから情報を集約するグラフニューラルネットワーク(gnns)に着想を得た我々は、ターゲットドメイン、すなわち知識ブリッジ学習(kbl)に対する知識強化された後方分布を学ぶというパラダイムを再定義する。
kblはまず、知識のあるサンプルを各対象サンプルに接続し、gnnsを介してサンプル毎の知識転送を行うブリッジグラフを構築して、知識伝達のスコープを学習する。
KBLでガイドされたBridged-GNNは、Bridged-GraphとGraph Knowledge Transferモジュールを構築するためのAdaptive Knowledge Retrievalモジュールを含む。
un-relational およびrelational data-hungry のシナリオにおける包括的実験は,soma 法と比較して bridged-gnn の有意な改善を示している
関連論文リスト
- Federated Graph Learning for Cross-Domain Recommendation [33.33321213257222]
クロスドメインレコメンデーション(CDR)は、ソースドメインとターゲットドメイン間の知識伝達を可能にすることで、データ空間の問題に対する有望な解決策を提供する。
我々は、複数のソースドメインからの肯定的な知識を安全かつ効果的に活用する新しいグラフ学習フレームワークであるFedGCDRを提案する。
我々は、Amazonデータセットの16のポピュラーなドメインに関する広範な実験を行い、FedGCDRが最先端の手法を大幅に上回っていることを実証した。
論文 参考訳(メタデータ) (2024-10-10T12:19:51Z) - Adapting to Distribution Shift by Visual Domain Prompt Generation [34.19066857066073]
いくつかのラベルのないデータを使って、テスト時にモデルを適応し、分散シフトに対処する。
ソースドメインから移行可能な知識を学ぶための知識銀行を構築します。
提案手法は,WILDSやDomainNetを含む5つの大規模ベンチマークにおいて,従来よりも優れている。
論文 参考訳(メタデータ) (2024-05-05T02:44:04Z) - Bayesian Neural Networks with Domain Knowledge Priors [52.80929437592308]
ドメイン知識の一般的な形式をBNNに組み込むためのフレームワークを提案する。
提案したドメイン知識を用いたBNNは,標準知識のBNNよりも優れていることを示す。
論文 参考訳(メタデータ) (2024-02-20T22:34:53Z) - Learning State-Augmented Policies for Information Routing in
Communication Networks [92.59624401684083]
我々は,グラフニューラルネットワーク(GNN)アーキテクチャを用いて,ソースノードの集約情報を最大化する,新たなステート拡張(SA)戦略を開発した。
教師なし学習手法を利用して、GNNアーキテクチャの出力を最適情報ルーティング戦略に変換する。
実験では,実時間ネットワークトポロジの評価を行い,アルゴリズムの有効性を検証した。
論文 参考訳(メタデータ) (2023-09-30T04:34:25Z) - Prior Knowledge Guided Unsupervised Domain Adaptation [82.9977759320565]
本稿では,対象とするクラス分布に関する事前知識を利用できる知識誘導型非教師付きドメイン適応(KUDA)設定を提案する。
特に,対象領域におけるクラス分布に関する2種類の事前知識について考察する。
このような事前知識を用いて生成した擬似ラベルを精査する修正モジュールを提案する。
論文 参考訳(メタデータ) (2022-07-18T18:41:36Z) - Unified Instance and Knowledge Alignment Pretraining for Aspect-based
Sentiment Analysis [96.53859361560505]
Aspect-based Sentiment Analysis (ABSA) は、ある側面に対する感情の極性を決定することを目的としている。
事前トレーニングと下流ABSAデータセットの間には、常に深刻なドメインシフトが存在する。
我々は,バニラ・プレトレイン・ファインチューンパイプラインにアライメント事前訓練フレームワークを導入する。
論文 参考訳(メタデータ) (2021-10-26T04:03:45Z) - TraND: Transferable Neighborhood Discovery for Unsupervised Cross-domain
Gait Recognition [77.77786072373942]
本稿では、教師なしクロスドメイン歩行認識のための領域ギャップを橋渡しするTransferable Neighborhood Discovery (TraND) フレームワークを提案する。
我々は、潜在空間におけるラベルなしサンプルの自信ある近傍を自動的に発見するために、エンドツーエンドのトレーニング可能なアプローチを設計する。
提案手法は,CASIA-BとOU-LPの2つの公開データセットに対して,最先端の結果を得る。
論文 参考訳(メタデータ) (2021-02-09T03:07:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。