論文の概要: Improving deep learning with prior knowledge and cognitive models: A survey on enhancing explainability, adversarial robustness and zero-shot learning

• arxiv url: http://arxiv.org/abs/2403.07078v1
• Date: Mon, 11 Mar 2024 18:11:00 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-13 23:51:35.397166
• Title: Improving deep learning with prior knowledge and cognitive models: A survey on enhancing explainability, adversarial robustness and zero-shot learning
• Title（参考訳）: 事前知識と認知モデルによる深層学習の改善: 説明可能性、対向的堅牢性、ゼロショット学習の強化に関する調査
• Authors: Fuseinin Mumuni and Alhassan Mumuni
• Abstract要約: 我々は、敵の防御を実現するために、現在および新興の知識インフォームドおよび脳にインスパイアされた認知システムについてレビューする。 脳に触発された認知法は、人間の心を模倣する計算モデルを用いて、人工知能や自律ロボットの知的な行動を強化する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We review current and emerging knowledge-informed and brain-inspired cognitive systems for realizing adversarial defenses, eXplainable Artificial Intelligence (XAI), and zero-shot or few-short learning. Data-driven deep learning models have achieved remarkable performance and demonstrated capabilities surpassing human experts in many applications. Yet, their inability to exploit domain knowledge leads to serious performance limitations in practical applications. In particular, deep learning systems are exposed to adversarial attacks, which can trick them into making glaringly incorrect decisions. Moreover, complex data-driven models typically lack interpretability or explainability, i.e., their decisions cannot be understood by human subjects. Furthermore, models are usually trained on standard datasets with a closed-world assumption. Hence, they struggle to generalize to unseen cases during inference in practical open-world environments, thus, raising the zero- or few-shot generalization problem. Although many conventional solutions exist, explicit domain knowledge, brain-inspired neural network and cognitive architectures offer powerful new dimensions towards alleviating these problems. Prior knowledge is represented in appropriate forms and incorporated in deep learning frameworks to improve performance. Brain-inspired cognition methods use computational models that mimic the human mind to enhance intelligent behavior in artificial agents and autonomous robots. Ultimately, these models achieve better explainability, higher adversarial robustness and data-efficient learning, and can, in turn, provide insights for cognitive science and neuroscience-that is, to deepen human understanding on how the brain works in general, and how it handles these problems.
• Abstract（参考訳）: 我々は、敵防衛、eXplainable Artificial Intelligence(XAI)、ゼロショットまたは少数ショート学習を実現するための、現在および新興の知識インフォームドおよび脳にインスパイアされた認知システムについてレビューする。 データ駆動のディープラーニングモデルは優れたパフォーマンスを達成し、多くのアプリケーションで人間の専門家を超える能力を示した。 しかし、ドメイン知識を活用できないため、実用アプリケーションでは重大なパフォーマンス上の制限が生じる。 特に、ディープラーニングシステムは敵対的な攻撃にさらされており、それを騙して不正確な判断を下す可能性がある。 さらに、複雑なデータ駆動モデルは一般的に解釈可能性や説明可能性に欠ける。 さらに、モデルは通常、クローズドワールド仮定で標準データセットでトレーニングされる。 したがって、実際のオープンワールド環境では、推論中に見当たらないケースに一般化するのに苦労し、ゼロまたは少数ショットの一般化問題を引き起こす。 従来のソリューションは数多く存在するが、明示的なドメイン知識、脳に触発されたニューラルネットワーク、認知アーキテクチャはこれらの問題を緩和するための強力な新しい次元を提供する。 事前知識は適切な形式で表現され、パフォーマンスを改善するためにディープラーニングフレームワークに組み込まれる。 脳に触発された認知法は、人間の心を模倣する計算モデルを用いて、人工知能や自律ロボットの知的な行動を強化する。 究極的には、これらのモデルはより良い説明可能性、高い敵対的堅牢性、そしてデータ効率の学習を実現し、その結果として認知科学と神経科学の洞察を与えることができる。

関連論文リスト

• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• A Review of Findings from Neuroscience and Cognitive Psychology as Possible Inspiration for the Path to Artificial General Intelligence [0.0]
  本論は,神経科学と認知心理学の手法を検討することによって,人工知能の探求に貢献することを目的とする。 深層学習モデルによって達成された印象的な進歩にもかかわらず、抽象的推論と因果的理解にはまだ欠点がある。
  論文  参考訳（メタデータ） (2024-01-03T09:46:36Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
  予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。 PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
  論文  参考訳（メタデータ） (2023-08-15T16:37:16Z)
• Beyond Interpretable Benchmarks: Contextual Learning through Cognitive and Multimodal Perception [0.0]
  この研究は、チューリングテストがコンピュータシステムを人為的に形作る試みであると誤解されていることを主張する。 通訳性に欠けるにもかかわらず、汎用知能の基盤として暗黙の学習を強調している。
  論文  参考訳（メタデータ） (2022-12-04T08:30:04Z)
• NeuroCERIL: Robotic Imitation Learning via Hierarchical Cause-Effect Reasoning in Programmable Attractor Neural Networks [2.0646127669654826]
  本稿では,脳にインスパイアされた神経認知アーキテクチャであるNeuroCERILについて紹介する。 シミュレーションされたロボット模倣学習領域において,NeuroCERILは様々な手続き的スキルを習得できることを示す。 我々は、NeuroCERILは人間のような模倣学習の実行可能な神経モデルであると結論付けた。
  論文  参考訳（メタデータ） (2022-11-11T19:56:11Z)
• Towards Benchmarking Explainable Artificial Intelligence Methods [0.0]
  我々は、ニューラルネットワークによって推進される決定を説明する方法から、科学理論の哲学を、期待できるもの、期待できないものを明らかにすることを目的として分析レンズとして利用する。 ケーススタディにより、動物とヘッドギアの2つの常在領域における説明可能性法の性能の選択について検討した。 これらの手法の有用性は、人間のドメイン知識と、理解し、一般化し、理性に頼っている、と私たちはうなずく。
  論文  参考訳（メタデータ） (2022-08-25T14:28:30Z)
• From Machine Learning to Robotics: Challenges and Opportunities for Embodied Intelligence [113.06484656032978]
  記事は、インテリジェンスが機械学習技術の進歩の鍵を握っていると主張している。 私たちは、インテリジェンスを具体化するための課題と機会を強調します。 本稿では,ロボット学習の最先端性を著しく向上させる研究の方向性を提案する。
  論文  参考訳（メタデータ） (2021-10-28T16:04:01Z)
• Knowledge as Invariance -- History and Perspectives of Knowledge-augmented Machine Learning [69.99522650448213]
  機械学習の研究は転換点にある。 研究の関心は、高度にパラメータ化されたモデルのパフォーマンス向上から、非常に具体的なタスクへとシフトしている。 このホワイトペーパーは、機械学習研究におけるこの新興分野の紹介と議論を提供する。
  論文  参考訳（メタデータ） (2020-12-21T15:07:19Z)
• Neuro-symbolic Architectures for Context Understanding [59.899606495602406]
  本稿では,データ駆動型アプローチと知識駆動型アプローチの強みを組み合わせたフレームワークとして,ハイブリッドAI手法を提案する。 具体的には、知識ベースを用いて深層ニューラルネットワークの学習過程を導く方法として、ニューロシンボリズムの概念を継承する。
  論文  参考訳（メタデータ） (2020-03-09T15:04:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。