論文の概要: Knowledge-augmented Deep Learning and Its Applications: A Survey

• arxiv url: http://arxiv.org/abs/2212.00017v1
• Date: Wed, 30 Nov 2022 03:44:15 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-02 15:01:52.864778
• Title: Knowledge-augmented Deep Learning and Its Applications: A Survey
• Title（参考訳）: 知識提供型ディープラーニングとその応用に関する調査
• Authors: Zijun Cui, Tian Gao, Kartik Talamadupula, and Qiang Ji
• Abstract要約: 知識強化ディープラーニング(KADL)は、ドメイン知識を特定し、それをデータ効率、一般化可能、解釈可能なディープラーニングのためのディープモデルに統合することを目的としている。 本調査は,既存の研究成果を補足し,知識強化深層学習の一般分野における鳥眼研究の展望を提供する。
• 参考スコア（独自算出の注目度）: 60.221292040710885
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep learning models, though having achieved great success in many different fields over the past years, are usually data hungry, fail to perform well on unseen samples, and lack of interpretability. Various prior knowledge often exists in the target domain and their use can alleviate the deficiencies with deep learning. To better mimic the behavior of human brains, different advanced methods have been proposed to identify domain knowledge and integrate it into deep models for data-efficient, generalizable, and interpretable deep learning, which we refer to as knowledge-augmented deep learning (KADL). In this survey, we define the concept of KADL, and introduce its three major tasks, i.e., knowledge identification, knowledge representation, and knowledge integration. Different from existing surveys that are focused on a specific type of knowledge, we provide a broad and complete taxonomy of domain knowledge and its representations. Based on our taxonomy, we provide a systematic review of existing techniques, different from existing works that survey integration approaches agnostic to taxonomy of knowledge. This survey subsumes existing works and offers a bird's-eye view of research in the general area of knowledge-augmented deep learning. The thorough and critical reviews of numerous papers help not only understand current progresses but also identify future directions for the research on knowledge-augmented deep learning.
• Abstract（参考訳）: ディープラーニングモデルは、過去数年間に多くの分野で大きな成功を収めてきたが、通常、データ空腹であり、目に見えないサンプルでうまく機能せず、解釈不可能である。 さまざまな事前知識が対象領域にしばしば存在し、その使用はディープラーニングによる欠陥を軽減することができる。 人間の脳の振る舞いをよりよく模倣するために、ドメイン知識を識別し、それをデータ効率、一般化可能、解釈可能な深層学習のための深部モデルに統合する様々な高度な手法が提案されている。 本稿では,kadlの概念を定義し,その3つの主要なタスク,すなわち知識識別,知識表現,知識統合について紹介する。 特定のタイプの知識に焦点を当てた既存の調査とは異なり、ドメイン知識とその表現の広範な完全な分類を提供する。 本研究は,我々の分類学に基づいて,知識の分類に非依存な統合アプローチを調査する既存の研究とは異なる,既存の手法の体系的なレビューを行う。 本調査は,既存の研究成果を活用し,知識提供深層学習の一般分野における研究の鳥眼的視点を提供する。 多くの論文の徹底的で批判的なレビューは、現在の進歩を理解するだけでなく、知識を付加した深層学習研究の今後の方向性を特定する助けとなる。

関連論文リスト

• Beyond Factuality: A Comprehensive Evaluation of Large Language Models as Knowledge Generators [78.63553017938911]
  大規模言語モデル(LLM)は、下流の知識集約タスクのための情報検索技術より優れている。 しかし、コミュニティの懸念は、この無検閲の知識を使用することの事実と潜在的意味について多岐にわたる。 本研究では,6つの重要な視点から生成した知識を評価するために設計されたCONNERを紹介する。
  論文  参考訳（メタデータ） (2023-10-11T08:22:37Z)
• Deep Learning-Based Knowledge Injection for Metaphor Detection: A Comprehensive Review [24.968400793968417]
  本稿では,メタファ検出タスクにおける知識注入へのディープラーニングの適用における研究の進歩を概観する。 まず、主流の知識と知識注入の原則を体系的に要約し、一般化する。 次に、メタファ検出タスクで使用されるデータセット、評価指標、ベンチマークモデルについて検討する。
  論文  参考訳（メタデータ） (2023-08-08T14:51:16Z)
• The Life Cycle of Knowledge in Big Language Models: A Survey [39.955688635216056]
  事前訓練された言語モデル(PLM)は、言語モデルによって知識を取得、維持、更新、利用する方法に大きな注目を集めている。 膨大な量の関連する研究にもかかわらず、学習、チューニング、アプリケーションプロセスを通して、言語モデル内で知識がどのように循環するかについての統一された見解はいまだに存在しない。 我々は, PLMにおける知識のライフサイクルを5つの臨界期間に分割し, 構築, 維持, 使用の際の知識の循環について検討することによって, PLMを知識ベースシステムとして再考する。
  論文  参考訳（メタデータ） (2023-03-14T03:49:22Z)
• A Unified End-to-End Retriever-Reader Framework for Knowledge-based VQA [67.75989848202343]
  本稿では,知識に基づくVQAに向けて,エンド・ツー・エンドのレトリバー・リーダー・フレームワークを提案する。 我々は、視覚言語による事前学習モデルからの多モーダルな暗黙の知識に光を当て、知識推論の可能性を掘り下げた。 提案手法では,知識検索のガイダンスを提供するだけでなく,質問応答に対してエラーが発生しやすいケースも排除できる。
  論文  参考訳（メタデータ） (2022-06-30T02:35:04Z)
• Transferability in Deep Learning: A Survey [80.67296873915176]
  知識を習得し再利用する能力は、ディープラーニングにおける伝達可能性として知られている。 本研究は,深層学習における異なる孤立領域と伝達可能性との関係を関連付けるための調査である。 我々はベンチマークとオープンソースライブラリを実装し、転送可能性の観点からディープラーニング手法の公平な評価を可能にする。
  論文  参考訳（メタデータ） (2022-01-15T15:03:17Z)
• Towards a Universal Continuous Knowledge Base [49.95342223987143]
  複数のニューラルネットワークからインポートされた知識を格納できる継続的知識基盤を構築する方法を提案する。 テキスト分類実験は有望な結果を示す。 我々は複数のモデルから知識ベースに知識をインポートし、そこから融合した知識を単一のモデルにエクスポートする。
  論文  参考訳（メタデータ） (2020-12-25T12:27:44Z)
• A Survey on Knowledge Graphs: Representation, Acquisition and Applications [89.78089494738002]
  我々は,1)知識グラフ表現学習,2)知識獲得と完成,3)時間的知識グラフ,および4)知識認識アプリケーションに関する研究トピックをレビューする。 知識獲得、特に知識グラフの完成、埋め込み方法、経路推論、論理ルール推論について概観する。 メタラーニング、コモンセンス推論、時間的知識グラフなど、いくつかの新しいトピックを探求する。
  論文  参考訳（メタデータ） (2020-02-02T13:17:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。