論文の概要: Deciphering Raw Data in Neuro-Symbolic Learning with Provable Guarantees

• arxiv url: http://arxiv.org/abs/2308.10487v2
• Date: Tue, 23 Jan 2024 08:18:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-24 19:32:52.226773
• Title: Deciphering Raw Data in Neuro-Symbolic Learning with Provable Guarantees
• Title（参考訳）: 証明可能な保証によるニューロシンボリック学習における生データの解読
• Authors: Lue Tao, Yu-Xuan Huang, Wang-Zhou Dai, Yuan Jiang
• Abstract要約: ニューロシンボリックハイブリッドシステムは、機械学習とシンボリック推論を統合することを約束している。 ハイブリッドシステムが特定のタスクに成功し、いつ異なる知識ベースで失敗するかは、まだ不明である。 本研究では,知識ベースから指導信号を特徴付ける新しい手法を導入し,学習を成功させる上での知識の有効性を決定するための基準を確立する。
• 参考スコア（独自算出の注目度）: 17.58485742162185
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neuro-symbolic hybrid systems are promising for integrating machine learning and symbolic reasoning, where perception models are facilitated with information inferred from a symbolic knowledge base through logical reasoning. Despite empirical evidence showing the ability of hybrid systems to learn accurate perception models, the theoretical understanding of learnability is still lacking. Hence, it remains unclear why a hybrid system succeeds for a specific task and when it may fail given a different knowledge base. In this paper, we introduce a novel way of characterising supervision signals from a knowledge base, and establish a criterion for determining the knowledge's efficacy in facilitating successful learning. This, for the first time, allows us to address the two questions above by inspecting the knowledge base under investigation. Our analysis suggests that many knowledge bases satisfy the criterion, thus enabling effective learning, while some fail to satisfy it, indicating potential failures. Comprehensive experiments confirm the utility of our criterion on benchmark tasks.
• Abstract（参考訳）: ニューロシンボリックハイブリッドシステムは機械学習とシンボリック推論の統合に有望であり、認知モデルは論理的な推論を通じてシンボリックな知識ベースから推論された情報によって促進される。 ハイブリッドシステムの正確な知覚モデル学習能力を示す実証的な証拠はあるものの、学習可能性に関する理論的理解はいまだに不足している。 したがって、なぜハイブリッドシステムが特定のタスクに成功し、いつ異なる知識ベースで失敗するかは、まだ不明である。 本稿では,知識ベースから指導信号を特徴付ける新しい手法を導入し,学習を成功させる上での知識の有効性を決定するための基準を確立する。 これにより,上記の2つの質問に,調査対象の知識ベースを検査することで,初めて対処することができる。 分析の結果,多くの知識ベースが基準を満たすことが示唆され,効果的な学習が可能となった。 総合的な実験によりベンチマークタスクにおける基準の有用性を確認した。

関連論文リスト

• Chain-of-Knowledge: Integrating Knowledge Reasoning into Large Language Models by Learning from Knowledge Graphs [55.317267269115845]
  Chain-of-Knowledge (CoK)は知識推論のための包括的なフレームワークである。 CoKにはデータセット構築とモデル学習の両方のための方法論が含まれている。 KnowReasonで広範な実験を行う。
  論文  参考訳（メタデータ） (2024-06-30T10:49:32Z)
• Beyond Factuality: A Comprehensive Evaluation of Large Language Models as Knowledge Generators [78.63553017938911]
  大規模言語モデル(LLM)は、下流の知識集約タスクのための情報検索技術より優れている。 しかし、コミュニティの懸念は、この無検閲の知識を使用することの事実と潜在的意味について多岐にわたる。 本研究では,6つの重要な視点から生成した知識を評価するために設計されたCONNERを紹介する。
  論文  参考訳（メタデータ） (2023-10-11T08:22:37Z)
• Worth of knowledge in deep learning [3.132595571344153]
  我々は、知識の価値を評価するために、解釈可能な機械学習にインスパイアされたフレームワークを提案する。 我々の研究結果は、依存、相乗効果、置換効果を含む、データと知識の複雑な関係を解明する。 我々のモデルに依存しないフレームワークは、様々な共通ネットワークアーキテクチャに適用でき、ディープラーニングモデルにおける事前知識の役割を包括的に理解することができる。
  論文  参考訳（メタデータ） (2023-07-03T02:25:19Z)
• Thrill-K Architecture: Towards a Solution to the Problem of Knowledge Based Understanding [0.9390008801320021]
  本稿では、人間の知識と知性の分析に基づいて、ニューラルネットワークと様々な種類の知識と知識ソースを組み合わせたハイブリッドシステムの分類を紹介する。 我々はThrill-Kアーキテクチャを,推論,学習,知的制御が可能なフレームワークに,瞬時知識,待機知識,外部知識ソースを統合するためのプロトタイプソリューションとして提示する。
  論文  参考訳（メタデータ） (2023-02-28T20:39:35Z)
• Anti-Retroactive Interference for Lifelong Learning [65.50683752919089]
  我々は脳のメタラーニングと連想機構に基づく生涯学習のパラダイムを設計する。 知識の抽出と知識の記憶という2つの側面から問題に取り組む。 提案した学習パラダイムが,異なるタスクのモデルを同じ最適に収束させることができることを理論的に分析した。
  論文  参考訳（メタデータ） (2022-08-27T09:27:36Z)
• A Unified End-to-End Retriever-Reader Framework for Knowledge-based VQA [67.75989848202343]
  本稿では,知識に基づくVQAに向けて,エンド・ツー・エンドのレトリバー・リーダー・フレームワークを提案する。 我々は、視覚言語による事前学習モデルからの多モーダルな暗黙の知識に光を当て、知識推論の可能性を掘り下げた。 提案手法では,知識検索のガイダンスを提供するだけでなく,質問応答に対してエラーが発生しやすいケースも排除できる。
  論文  参考訳（メタデータ） (2022-06-30T02:35:04Z)
• Understanding Few-Shot Commonsense Knowledge Models [39.31365020474205]
  トレーニングの常識知識モデルを数ショットで調査します。 数発の訓練システムから得られた知識に対する人間の品質評価は、完全に教師されたシステムから得られた知識の6%以内のパフォーマンスを達成することができる。
  論文  参考訳（メタデータ） (2021-01-01T19:01:09Z)
• KRISP: Integrating Implicit and Symbolic Knowledge for Open-Domain Knowledge-Based VQA [107.7091094498848]
  VQAの最も難しい質問の1つは、質問に答えるために画像に存在しない外部の知識を必要とする場合です。 本研究では,解答に必要な知識が与えられたり記入されたりしないオープンドメイン知識を,トレーニング時やテスト時にも検討する。 知識表現と推論には2つのタイプがあります。 まず、トランスベースのモデルで教師なし言語事前トレーニングと教師付きトレーニングデータから効果的に学ぶことができる暗黙的な知識。
  論文  参考訳（メタデータ） (2020-12-20T20:13:02Z)
• Neuro-symbolic Architectures for Context Understanding [59.899606495602406]
  本稿では,データ駆動型アプローチと知識駆動型アプローチの強みを組み合わせたフレームワークとして,ハイブリッドAI手法を提案する。 具体的には、知識ベースを用いて深層ニューラルネットワークの学習過程を導く方法として、ニューロシンボリズムの概念を継承する。
  論文  参考訳（メタデータ） (2020-03-09T15:04:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。