論文の概要: Learning by Applying: A General Framework for Mathematical Reasoning via Enhancing Explicit Knowledge Learning

• arxiv url: http://arxiv.org/abs/2302.05717v1
• Date: Sat, 11 Feb 2023 15:15:41 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-14 19:01:13.405899
• Title: Learning by Applying: A General Framework for Mathematical Reasoning via Enhancing Explicit Knowledge Learning
• Title（参考訳）: 応用による学習:明示的な知識学習の強化による数学的推論の一般的な枠組み
• Authors: Jiayu Liu, Zhenya Huang, Chengxiang Zhai, Qi Liu
• Abstract要約: 本稿では,既存のモデル(バックボーン)を明示的な知識学習によって原則的に拡張する枠組みを提案する。 LeApでは,新しい問題知識表現パラダイムで知識学習を行う。 LeApはすべてのバックボーンのパフォーマンスを改善し、正確な知識を習得し、より解釈可能な推論プロセスを実現する。
• 参考スコア（独自算出の注目度）: 47.96987739801807
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Mathematical reasoning is one of the crucial abilities of general artificial intelligence, which requires machines to master mathematical logic and knowledge from solving problems. However, existing approaches are not transparent (thus not interpretable) in terms of what knowledge has been learned and applied in the reasoning process. In this paper, we propose a general Learning by Applying (LeAp) framework to enhance existing models (backbones) in a principled way by explicit knowledge learning. In LeAp, we perform knowledge learning in a novel problem-knowledge-expression paradigm, with a Knowledge Encoder to acquire knowledge from problem data and a Knowledge Decoder to apply knowledge for expression reasoning. The learned mathematical knowledge, including word-word relations and word-operator relations, forms an explicit knowledge graph, which bridges the knowledge "learning" and "applying" organically. Moreover, for problem solving, we design a semantics-enhanced module and a reasoning-enhanced module that apply knowledge to improve the problem comprehension and symbol reasoning abilities of any backbone, respectively. We theoretically prove the superiority of LeAp's autonomous learning mechanism. Experiments on three real-world datasets show that LeAp improves all backbones' performances, learns accurate knowledge, and achieves a more interpretable reasoning process.
• Abstract（参考訳）: 数学的推論は汎用人工知能の重要な能力の1つであり、機械は問題解決から数学的論理と知識を習得する必要がある。 しかし、既存のアプローチは、知識が学習され、推論プロセスに適用されるかという点で透明ではない(解釈できない)。 本稿では,既存のモデル(バックボーン)を明示的な知識学習によって原則的に拡張する,LeApフレームワークの適用による一般学習を提案する。 leapでは,問題データから知識を取得する知識エンコーダと,表現推論に知識を適用する知識デコーダを備えた,新しい問題知識表現パラダイムで知識学習を行う。 単語関係や語操作関係を含む学習された数学的知識は、有機的に「学習」と「応用」を橋渡しする明示的な知識グラフを形成する。 さらに,問題解決のために,各バックボーンの問題点理解と記号推論能力を改善するための知識を応用した意味論的拡張モジュールと推論拡張モジュールを設計した。 leapの自律学習機構の優位性を理論的に証明する。 3つの実世界のデータセットの実験では、LeApはすべてのバックボーンのパフォーマンスを改善し、正確な知識を学び、より解釈可能な推論プロセスを達成する。

関連論文リスト

• Knowledge Mechanisms in Large Language Models: A Survey and Perspective [88.51320482620679]
  本稿では,知識利用と進化を含む新しい分類法から知識メカニズムの解析をレビューする。 LLMが学んだ知識、パラメトリック知識の脆弱性の理由、そして解決が難しい潜在的な暗黒知識(仮説)について論じる。
  論文  参考訳（メタデータ） (2024-07-22T06:15:59Z)
• Chain-of-Knowledge: Integrating Knowledge Reasoning into Large Language Models by Learning from Knowledge Graphs [55.317267269115845]
  Chain-of-Knowledge (CoK)は知識推論のための包括的なフレームワークである。 CoKにはデータセット構築とモデル学習の両方のための方法論が含まれている。 KnowReasonで広範な実験を行う。
  論文  参考訳（メタデータ） (2024-06-30T10:49:32Z)
• Representing Pedagogic Content Knowledge Through Rough Sets [0.0]
  この論文は、論理モデルを構築したり、教師を支援するための意味を意識したAIソフトウェアを開発することを目的としている。 提案手法の主な利点は、あいまいさ、マルチモーダリティをコヒーレントに扱う能力である。
  論文  参考訳（メタデータ） (2024-02-26T11:00:45Z)
• Learning principle and mathematical realization of the learning mechanism in the brain [0.0]
  我々はこれを学習原理と呼び、全ての学習は入力データの確率を推定するのと等価である。 従来の教師付き学習は条件付き確率の推定に等価であり,教師付き学習をより効果的かつ一般化させることに成功した。 微分を用いた推定確率の値の定義法を提案し,事前知識を使わずに任意のデータセット上で教師なし学習を行うことを示す。
  論文  参考訳（メタデータ） (2023-11-22T12:08:01Z)
• Worth of knowledge in deep learning [3.132595571344153]
  我々は、知識の価値を評価するために、解釈可能な機械学習にインスパイアされたフレームワークを提案する。 我々の研究結果は、依存、相乗効果、置換効果を含む、データと知識の複雑な関係を解明する。 我々のモデルに依存しないフレームワークは、様々な共通ネットワークアーキテクチャに適用でき、ディープラーニングモデルにおける事前知識の役割を包括的に理解することができる。
  論文  参考訳（メタデータ） (2023-07-03T02:25:19Z)
• Generated Knowledge Prompting for Commonsense Reasoning [53.88983683513114]
  本稿では,汎用的なプロンプト形式を用いて,言語モデルから直接知識文を生成することを提案する。 このアプローチは、4つのコモンセンス推論タスクにおいて、既製の言語モデルと微調整された言語モデルの両方のパフォーマンスを向上させる。 特に、モデルが生成した知識を使用することで、予測が改善できることが分かる。
  論文  参考訳（メタデータ） (2021-10-15T21:58:03Z)
• Incremental Knowledge Based Question Answering [52.041815783025186]
  人間と同じように学習能力を段階的に拡張できるインクリメンタルKBQA学習フレームワークを提案します。 具体的には、破滅的な忘れ問題を克服するために、マージン希釈損失と協調選択方法からなる。 包括的な実験は、進化する知識ベースに取り組む際にその効果と効率を示す。
  論文  参考訳（メタデータ） (2021-01-18T09:03:38Z)
• Towards a Universal Continuous Knowledge Base [49.95342223987143]
  複数のニューラルネットワークからインポートされた知識を格納できる継続的知識基盤を構築する方法を提案する。 テキスト分類実験は有望な結果を示す。 我々は複数のモデルから知識ベースに知識をインポートし、そこから融合した知識を単一のモデルにエクスポートする。
  論文  参考訳（メタデータ） (2020-12-25T12:27:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。