論文の概要: Model-Agnostic Graph Regularization for Few-Shot Learning
- arxiv url: http://arxiv.org/abs/2102.07077v1
- Date: Sun, 14 Feb 2021 05:28:13 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-16 16:02:54.190205
- Title: Model-Agnostic Graph Regularization for Few-Shot Learning
- Title(参考訳): Few-Shot Learningのためのモデル非依存グラフ正規化
- Authors: Ethan Shen, Maria Brbic, Nicholas Monath, Jiaqi Zhai, Manzil Zaheer,
Jure Leskovec
- Abstract要約: グラフ組み込み数ショット学習に関する包括的な研究を紹介します。
本稿では,ラベル間のグラフ情報の組み込みによる影響をより深く理解できるグラフ正規化手法を提案する。
提案手法は,Mini-ImageNetで最大2%,ImageNet-FSで6.7%の性能向上を実現する。
- 参考スコア(独自算出の注目度): 60.64531995451357
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In many domains, relationships between categories are encoded in the
knowledge graph. Recently, promising results have been achieved by
incorporating knowledge graph as side information in hard classification tasks
with severely limited data. However, prior models consist of highly complex
architectures with many sub-components that all seem to impact performance. In
this paper, we present a comprehensive empirical study on graph embedded
few-shot learning. We introduce a graph regularization approach that allows a
deeper understanding of the impact of incorporating graph information between
labels. Our proposed regularization is widely applicable and model-agnostic,
and boosts the performance of any few-shot learning model, including
fine-tuning, metric-based, and optimization-based meta-learning. Our approach
improves the performance of strong base learners by up to 2% on Mini-ImageNet
and 6.7% on ImageNet-FS, outperforming state-of-the-art graph embedded methods.
Additional analyses reveal that graph regularizing models result in a lower
loss for more difficult tasks, such as those with fewer shots and less
informative support examples.
- Abstract(参考訳): 多くの領域において、カテゴリ間の関係は知識グラフにエンコードされる。
近年,厳密な分類作業において,知識グラフを側面情報として組み込んだ有望な結果が得られている。
しかし、先行モデルは、すべてパフォーマンスに影響を与えるように見える多くのサブコンポーネントを持つ非常に複雑なアーキテクチャで構成されている。
本稿では,グラフ組込み小ショット学習に関する包括的実証研究について述べる。
本稿では,ラベル間のグラフ情報の組み込みによる影響をより深く理解できるグラフ正規化手法を提案する。
提案する正規化は広く適用可能で,モデル非依存であり,微調整,メトリックベース,最適化に基づくメタラーニングなど,任意のマイナショット学習モデルのパフォーマンスを向上させる。
提案手法は,Mini-ImageNetでは最大2%,ImageNet-FSでは6.7%,最先端のグラフ組込み手法では最大2%向上する。
さらなる分析により、グラフ正則化モデルにより、より困難なタスク、例えばより少ないショットと少ない情報的サポート例の損失が減少することが明らかになった。
関連論文リスト
- Core Knowledge Learning Framework for Graph Adaptation and Scalability Learning [7.239264041183283]
グラフ分類は、多様な予測タスクへの適応、複数のターゲットドメインでのトレーニング、小さなサンプル予測シナリオの処理など、いくつかのハードルに直面している。
本手法は,様々なタスクからの洞察を取り入れることで,グラフ分類における適応性,拡張性,一般化性を向上させることを目的とする。
実験の結果, 最先端手法と比較して, 提案手法による性能向上が顕著であった。
論文 参考訳(メタデータ) (2024-07-02T02:16:43Z) - Imbalanced Graph Classification with Multi-scale Oversampling Graph Neural Networks [25.12261412297796]
本稿では,表現力のあるマイノリティグラフ表現を学習するマルチスケールオーバーサンプリンググラフニューラルネットワーク(MOSGNN)を提案する。
サブグラフレベル、グラフレベル、ペアワイズグラフ学習タスクを共同で最適化することで、これを実現する。
16のバランスの取れないグラフデータセットの実験では、MOSGNN i)が5つの最先端モデルを大幅に上回っている。
論文 参考訳(メタデータ) (2024-05-08T09:16:54Z) - State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳(メタデータ) (2023-01-14T09:15:49Z) - Sub-Graph Learning for Spatiotemporal Forecasting via Knowledge
Distillation [22.434970343698676]
サブグラフを効果的に学習するためのフレームワークKD-SGLを提案する。
グラフの全体構造と各サブグラフの複数の局所モデルを学ぶために,グローバルモデルを定義する。
論文 参考訳(メタデータ) (2022-11-17T18:02:55Z) - Robust Causal Graph Representation Learning against Confounding Effects [21.380907101361643]
本稿では,ロバスト因果グラフ表現学習(RCGRL)を提案する。
RCGRLは、無条件のモーメント制約の下でインストゥルメンタル変数を生成するアクティブなアプローチを導入し、グラフ表現学習モデルにより、共同設立者を排除している。
論文 参考訳(メタデータ) (2022-08-18T01:31:25Z) - InfoGCL: Information-Aware Graph Contrastive Learning [26.683911257080304]
コントラスト学習過程において,グラフ情報がどのように変換され,伝達されるかを検討する。
本稿では,InfoGCL と呼ばれる情報認識型グラフコントラスト学習フレームワークを提案する。
我々は,最近のグラフコントラスト学習手法をフレームワークによって統一できることを初めて示す。
論文 参考訳(メタデータ) (2021-10-28T21:10:39Z) - Effective and Efficient Graph Learning for Multi-view Clustering [173.8313827799077]
マルチビュークラスタリングのための効率的かつ効率的なグラフ学習モデルを提案する。
本手法はテンソルシャッテンp-ノルムの最小化により異なるビューのグラフ間のビュー類似性を利用する。
提案アルゴリズムは時間経済であり,安定した結果を得るとともに,データサイズによく対応している。
論文 参考訳(メタデータ) (2021-08-15T13:14:28Z) - Weakly-supervised Graph Meta-learning for Few-shot Node Classification [53.36828125138149]
新しいグラフメタ学習フレームワーク - Graph Hallucination Networks (Meta-GHN) を提案する。
新たなロバストネス強化エピソードトレーニングに基づいて、Meta-GHNは、弱いラベル付きデータからクリーンノード表現を幻覚させるメタ学習を行う。
大規模な実験は、既存のグラフメタ学習研究よりもMeta-GHNの方が優れていることを示す。
論文 参考訳(メタデータ) (2021-06-12T22:22:10Z) - Diversified Multiscale Graph Learning with Graph Self-Correction [55.43696999424127]
2つのコア成分を組み込んだ多次元グラフ学習モデルを提案します。
情報埋め込みグラフを生成するグラフ自己補正(GSC)機構、および入力グラフの包括的な特性評価を達成するために多様性ブースト正規化(DBR)。
一般的なグラフ分類ベンチマークの実験は、提案されたGSCメカニズムが最先端のグラフプーリング方法よりも大幅に改善されることを示しています。
論文 参考訳(メタデータ) (2021-03-17T16:22:24Z) - Tensor Graph Convolutional Networks for Multi-relational and Robust
Learning [74.05478502080658]
本稿では,テンソルで表されるグラフの集合に関連するデータから,スケーラブルな半教師付き学習(SSL)を実現するためのテンソルグラフ畳み込みネットワーク(TGCN)を提案する。
提案アーキテクチャは、標準的なGCNと比較して大幅に性能が向上し、最先端の敵攻撃に対処し、タンパク質間相互作用ネットワーク上でのSSL性能が著しく向上する。
論文 参考訳(メタデータ) (2020-03-15T02:33:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。