論文の概要: A Survey on Verification and Validation, Testing and Evaluations of
Neurosymbolic Artificial Intelligence
- arxiv url: http://arxiv.org/abs/2401.03188v2
- Date: Wed, 10 Jan 2024 16:54:11 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-11 11:45:14.586470
- Title: A Survey on Verification and Validation, Testing and Evaluations of
Neurosymbolic Artificial Intelligence
- Title（参考訳）: ニューロシンボリック人工知能の検証・検証・検証・評価に関する調査研究
- Authors: Justus Renkhoff, Ke Feng, Marc Meier-Doernberg, Alvaro Velasquez,
Houbing Herbert Song
- Abstract要約: ニューロシンボリック人工知能(Neurosymbolic AI, AI)は、AIとサブシンボリックAIの強みを組み合わせた、AIの新しい分野である。
サブシンボリックAIの大きな欠点は、それが"ブラックボックス"として機能することです。
この調査は、ニューロシンボリックな応用がV&Vプロセスをどのように緩和するかを調査する。
- 参考スコア（独自算出の注目度）: 10.503182476649645
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neurosymbolic artificial intelligence (AI) is an emerging branch of AI that
combines the strengths of symbolic AI and sub-symbolic AI. A major drawback of
sub-symbolic AI is that it acts as a "black box", meaning that predictions are
difficult to explain, making the testing & evaluation (T&E) and validation &
verification (V&V) processes of a system that uses sub-symbolic AI a challenge.
Since neurosymbolic AI combines the advantages of both symbolic and
sub-symbolic AI, this survey explores how neurosymbolic applications can ease
the V&V process. This survey considers two taxonomies of neurosymbolic AI,
evaluates them, and analyzes which algorithms are commonly used as the symbolic
and sub-symbolic components in current applications. Additionally, an overview
of current techniques for the T&E and V&V processes of these components is
provided. Furthermore, it is investigated how the symbolic part is used for T&E
and V&V purposes in current neurosymbolic applications. Our research shows that
neurosymbolic AI as great potential to ease the T&E and V&V processes of
sub-symbolic AI by leveraging the possibilities of symbolic AI. Additionally,
the applicability of current T&E and V&V methods to neurosymbolic AI is
assessed, and how different neurosymbolic architectures can impact these
methods is explored. It is found that current T&E and V&V techniques are partly
sufficient to test, evaluate, verify, or validate the symbolic and sub-symbolic
part of neurosymbolic applications independently, while some of them use
approaches where current T&E and V&V methods are not applicable by default, and
adjustments or even new approaches are needed. Our research shows that there is
great potential in using symbolic AI to test, evaluate, verify, or validate the
predictions of a sub-symbolic model, making neurosymbolic AI an interesting
research direction for safe, secure, and trustworthy AI.
- Abstract（参考訳）: ニューロシンボリック人工知能(Neurosymbolic AI, AI)は、AIとサブシンボリックAIの強みを組み合わせた、AIの新しい分野である。
サブシンボリックAIの大きな欠点は、サブシンボリックAIを使用するシステムのテストと評価(T&E)と検証と検証(V&V)プロセスを課題とする、予測が難しいことを意味する“ブラックボックス”として機能することにある。
ニューロシンボリックAIは、シンボリックAIとサブシンボリックAIの両方の利点を組み合わせるため、ニューロシンボリック応用がV&Vプロセスをいかに楽にするかを調査する。
この調査は、ニューロシンボリックAIの2つの分類を考察し、それらを評価し、どのアルゴリズムが現在の応用におけるシンボル的およびサブシンボリックなコンポーネントとして一般的に使われているかを分析する。
さらに、これらのコンポーネントのT&EおよびV&Vプロセスに関する現在の技術の概要について述べる。
さらに、現在のニューロシンボリック・アプリケーションにおいて、T&EおよびV&V目的の象徴的部分がどのように使用されるかを検討した。
我々の研究は、ニューロシンボリックAIが、象徴的AIの可能性を活用することで、サブシンボリックAIのT&EおよびV&Vプロセスを緩和する大きな可能性を示唆している。
さらに、現在のT&EおよびV&V手法のニューロシンボリックAIへの適用性を評価し、ニューロシンボリックアーキテクチャがこれらの手法にどのように影響するかを調査した。
現在のt&eとv&vの技術は、神経シンボリックアプリケーションのシンボリックおよびサブシンボリックな部分を独立してテスト、評価、検証、検証するのに部分的に十分であるが、いくつかの手法では、現在のt&eとv&vの手法がデフォルトでは適用されず、調整や新しいアプローチが必要である。
我々の研究は、シンボルAIを使用して、サブシンボリックモデルの予測をテスト、評価、検証、検証し、ニューロシンボリックAIを安全で安全で信頼できるAIのための興味深い研究方向にする大きな可能性を示唆している。
関連論文リスト
- Towards Efficient Neuro-Symbolic AI: From Workload Characterization to Hardware Architecture [22.274696991107206]
ニューロシンボリックAIは、解釈可能性、堅牢性、信頼性を高めるニューラルネットワークとシンボリックアプローチを融合して、有望なパラダイムとして出現する。
最近のニューロシンボリックシステムは、推論と認知能力を備えた協調的な人間-AIシナリオにおいて大きな可能性を示している。
まず, ニューロシンボリックAIアルゴリズムを体系的に分類し, 実行時, メモリ, 計算演算子, 疎結合性, システム特性を実験的に評価し, 解析する。
論文 参考訳（メタデータ） (2024-09-20T01:32:14Z) - Converging Paradigms: The Synergy of Symbolic and Connectionist AI in LLM-Empowered Autonomous Agents [55.63497537202751]
コネクショニストと象徴的人工知能(AI)の収束を探求する記事
従来、コネクショナリストAIはニューラルネットワークにフォーカスし、シンボリックAIはシンボリック表現とロジックを強調していた。
大型言語モデル(LLM)の最近の進歩は、人間の言語をシンボルとして扱う際のコネクショナリストアーキテクチャの可能性を強調している。
論文 参考訳（メタデータ） (2024-07-11T14:00:53Z) - Towards Cognitive AI Systems: a Survey and Prospective on Neuro-Symbolic
AI [33.0761784111292]
ニューロシンボリックAIは、解釈可能性、堅牢性、信頼性を高めるための有望なパラダイムとして登場します。
近年のNSAIシステムは、推論と認知能力を備えた協調的な人間-AIシナリオにおいて大きな可能性を実証している。
論文 参考訳（メタデータ） (2024-01-02T05:00:54Z) - AI-Generated Images as Data Source: The Dawn of Synthetic Era [61.879821573066216]
生成AIは、現実世界の写真によく似た合成画像を作成する可能性を解き放った。
本稿では、これらのAI生成画像を新しいデータソースとして活用するという革新的な概念を探求する。
実際のデータとは対照的に、AI生成データには、未整合のアブリダンスやスケーラビリティなど、大きなメリットがある。
論文 参考訳（メタデータ） (2023-10-03T06:55:19Z) - The Role of AI in Drug Discovery: Challenges, Opportunities, and
Strategies [97.5153823429076]
この分野でのAIのメリット、課題、欠点についてレビューする。
データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
論文 参考訳（メタデータ） (2022-12-08T23:23:39Z) - Towards Data-and Knowledge-Driven Artificial Intelligence: A Survey on Neuro-Symbolic Computing [73.0977635031713]
ニューラルシンボリック・コンピューティング(NeSy)は、人工知能(AI)の活発な研究領域である。
NeSyは、ニューラルネットワークにおける記号表現の推論と解釈可能性の利点と堅牢な学習の整合性を示す。
論文 参考訳（メタデータ） (2022-10-28T04:38:10Z) - Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。
本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。
NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2022-05-25T12:41:59Z) - Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。
AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。
我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
論文 参考訳（メタデータ） (2022-04-11T14:36:39Z) - Neurosymbolic AI: The 3rd Wave [1.14219428942199]
AIの信頼、安全性、解釈可能性、説明責任に関する懸念は、影響力のある思想家によって提起された。
多くは、知識表現と推論を深層学習に統合する必要性を認識している。
ニューラル・シンボリック・コンピューティングは、推論と説明可能性を備えた堅牢な学習をニューラルネットワークで組み合わせようとする研究の活発な領域である。
論文 参考訳（メタデータ） (2020-12-10T18:31:38Z) - Dynamic Cognition Applied to Value Learning in Artificial Intelligence [0.0]
この分野の数人の研究者が、堅牢で有益で安全な人工知能の概念を開発しようとしている。
人工知能エージェントが人間の価値観に合わせた価値を持っていることは、最も重要である。
この問題に対する可能なアプローチは、SEDのような理論モデルを使用することである。
論文 参考訳（メタデータ） (2020-05-12T03:58:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。