論文の概要: Low-resource Learning with Knowledge Graphs: A Comprehensive Survey
- arxiv url: http://arxiv.org/abs/2112.10006v1
- Date: Sat, 18 Dec 2021 21:40:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2021-12-21 15:19:44.126920
- Title: Low-resource Learning with Knowledge Graphs: A Comprehensive Survey
- Title（参考訳）: 知識グラフによる低リソース学習: 総合的な調査
- Authors: Jiaoyan Chen and Yuxia Geng and Zhuo Chen and Jeff Z. Pan and Yuan He
and Wen Zhang and Ian Horrocks and Huajun Chen
- Abstract要約: 機械学習の手法は、トレーニングのためにラベル付きサンプルを多用することが多い。
低リソースの学習は、十分なリソースを持たない堅牢な予測モデルを学ぶことを目的としています。
知識グラフ(KG)は、知識表現においてますます人気が高まっている。
- 参考スコア（独自算出の注目度）: 34.18863318808325
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine learning methods especially deep neural networks have achieved great
success but many of them often rely on a number of labeled samples for
training. In real-world applications, we often need to address sample shortage
due to e.g., dynamic contexts with emerging prediction targets and costly
sample annotation. Therefore, low-resource learning, which aims to learn robust
prediction models with no enough resources (especially training samples), is
now being widely investigated. Among all the low-resource learning studies,
many prefer to utilize some auxiliary information in form of Knowledge Graph
(KG), which is becoming more and more popular for knowledge representation, to
reduce the reliance on labeled samples. In this survey, we very comprehensively
reviewed over $90$ papers about KG-aware research for two major low-resource
learning settings -- zero-shot learning (ZSL) where new classes for prediction
have never appeared in training, and few-shot learning (FSL) where new classes
for prediction have only a small number of labeled samples that are available.
We first introduced the KGs used in ZSL and FSL studies as well as the existing
and potential KG construction solutions, and then systematically categorized
and summarized KG-aware ZSL and FSL methods, dividing them into different
paradigms such as the mapping-based, the data augmentation, the
propagation-based and the optimization-based. We next presented different
applications, including both KG augmented prediction tasks in Computer Vision
and Natural Language Processing but also tasks for KG completion, and some
typical evaluation resources for each task. We eventually discussed some
challenges and future directions on aspects such as new learning and reasoning
paradigms, and the construction of high quality KGs.
- Abstract（参考訳）: 機械学習手法、特にディープニューラルネットワークは大きな成功を収めているが、その多くはトレーニングのために多くのラベル付きサンプルに依存している。
実世界のアプリケーションでは、例えば、新しい予測ターゲットとコストのかかるサンプルアノテーションを持つ動的コンテキストによって、サンプル不足に対処する必要があることが多い。
そのため、リソース不足(特にトレーニングサンプル)で堅牢な予測モデルを学ぶことを目的とした低リソース学習が現在広く研究されている。
低リソースの学習研究の中で、多くの人は、ラベル付きサンプルへの依存を減らすために、知識表現に人気が高まっている知識グラフ(KG)という形で補助情報を利用することを好んでいる。
そこで本研究では,学習中に新たな予測クラスが出現したことがないゼロショット学習 (zsl) と,予測のための新しいクラスが利用可能なラベル付きサンプルの数がごくわずかであるマイノリティショット学習 (fsl) という,2つの主要な低リソース学習設定のためのkg-aware研究に関する90ドル以上の論文を総括的にレビューした。
まず,ZSL と FSL で用いられる KG と既存の KG 構築ソリューション,そしてKG を意識した ZSL と FSL の手法を体系的に分類・要約し,それらをマッピングベース,データ拡張,伝播ベース,最適化ベースといった異なるパラダイムに分割した。
次に、コンピュータビジョンと自然言語処理におけるkg拡張予測タスクと、kg補完タスクと、各タスクの典型的な評価リソースの両方を含む、さまざまなアプリケーションを提示した。
最終的には,新しい学習パラダイムや推論パラダイム,高品質kgsの構築など,いくつかの課題と今後の方向性について論じた。
関連論文リスト
- Constructing Sample-to-Class Graph for Few-Shot Class-Incremental
Learning [10.111587226277647]
FSCIL(Few-shot class-incremental Learning)は、いくつかのデータサンプルから新しい概念を継続的に学習するマシンラーニングモデルの構築を目的とする。
本稿では,FSCILのためのS2Cグラフ学習手法を提案する。
論文 参考訳（メタデータ） (2023-10-31T08:38:14Z) - Language models are weak learners [71.33837923104808]
本研究では,プロンプトベースの大規模言語モデルは弱い学習者として効果的に動作可能であることを示す。
これらのモデルをブースティングアプローチに組み込むことで、モデル内の知識を活用して、従来のツリーベースのブースティングよりも優れています。
結果は、プロンプトベースのLLMが、少数の学習者だけでなく、より大きな機械学習パイプラインのコンポーネントとして機能する可能性を示している。
論文 参考訳（メタデータ） (2023-06-25T02:39:19Z) - KGA: A General Machine Unlearning Framework Based on Knowledge Gap
Alignment [51.15802100354848]
我々は,忘れやすさを誘発する一般学習フレームワークKGAを提案する。
大規模なデータセットの実験は、KGAがベースラインよりも包括的な改善をもたらすことを示している。
論文 参考訳（メタデータ） (2023-05-11T02:44:29Z) - RPLKG: Robust Prompt Learning with Knowledge Graph [11.893917358053004]
知識グラフ(RPLKG)を用いた頑健な学習手法を提案する。
知識グラフに基づいて,多種多様な解釈可能かつ有意義なプロンプトセットを自動設計する。
RPLKGはゼロショット学習に比べてパフォーマンスが大幅に向上した。
論文 参考訳（メタデータ） (2023-04-21T08:22:58Z) - Generalization Properties of Retrieval-based Models [50.35325326050263]
検索ベースの機械学習手法は、幅広い問題で成功をおさめた。
これらのモデルの約束を示す文献が増えているにもかかわらず、そのようなモデルの理論的基盤はいまだに解明されていない。
本稿では,その一般化能力を特徴付けるために,検索ベースモデルの形式的処理を行う。
論文 参考訳（メタデータ） (2022-10-06T00:33:01Z) - Semi-Supervised and Unsupervised Deep Visual Learning: A Survey [76.2650734930974]
半教師なし学習と教師なし学習は、ラベルなしの視覚データから学ぶための有望なパラダイムを提供する。
本稿では, 半教師付き学習(SSL)と非教師付き学習(UL)の先進的な深層学習アルゴリズムについて, 統一的な視点による視覚的認識について概説する。
論文 参考訳（メタデータ） (2022-08-24T04:26:21Z) - BertNet: Harvesting Knowledge Graphs with Arbitrary Relations from
Pretrained Language Models [65.51390418485207]
本稿では,事前学習したLMから任意の関係を持つ大規模KGを抽出する手法を提案する。
関係定義の最小限の入力により、アプローチは膨大な実体対空間を効率的に探索し、多様な正確な知識を抽出する。
我々は、異なるLMから400以上の新しい関係を持つKGを収穫するためのアプローチを展開している。
論文 参考訳（メタデータ） (2022-06-28T19:46:29Z) - K-ZSL: Resources for Knowledge-driven Zero-shot Learning [19.142028501513362]
ゼロショット学習(ZSL)において外部知識(側面情報)が重要な役割を果たす
本稿では,ゼロショット画像分類(ZS-IMGC)とゼロショットKG補完(ZS-KGC)におけるKGベースの研究のための5つのリソースを提案する。
各リソースに対して、関係知識から論理表現まで、テキストから属性まで、セマンティックスを含むベンチマークとKGをコントリビュートした。
論文 参考訳（メタデータ） (2021-06-29T01:22:49Z) - Self-supervised on Graphs: Contrastive, Generative,or Predictive [25.679620842010422]
SSL(Self-supervised Learning)は、よく設計されたプリテキストタスクを通じて有益な知識を抽出するための新しいパラダイムとして登場しています。
既存のグラフSSLメソッドは、コントラスト、生成、予測の3つのカテゴリに分けられる。
また、一般的なデータセット、評価メトリクス、下流タスク、さまざまなアルゴリズムのオープンソース実装をまとめています。
論文 参考訳（メタデータ） (2021-05-16T03:30:03Z) - Graph-based Semi-supervised Learning: A Comprehensive Review [51.26862262550445]
半教師付き学習(ssl)はラベル付きデータとラベルなしデータの両方を利用する能力があるため、実際非常に価値があります。
重要なSSLメソッドのクラスは、グラフベースの半教師付き学習(GSSL)メソッドに対応するグラフとしてデータを自然に表現することです。
GSSLメソッドは、構造のユニークさ、アプリケーションの普遍性、大規模データへのスケーラビリティのために、さまざまなドメインでその利点を実証しています。
論文 参考訳（メタデータ） (2021-02-26T05:11:09Z) - Looking back to lower-level information in few-shot learning [4.873362301533825]
本稿では,隠れたニューラルネットワーク層の特徴埋め込みを低レベル支援情報として活用し,分類精度を向上させることを提案する。
筆者らは,MiniImageNet と tieredImageNet という2つの人気の数点学習データセットを用いた実験を行い,この手法がネットワークの低レベル情報を利用して最先端の分類性能を向上できることを示した。
論文 参考訳（メタデータ） (2020-05-27T20:32:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。