論文の概要: Emergence of Symbols in Neural Networks for Semantic Understanding and
Communication
- arxiv url: http://arxiv.org/abs/2304.06377v3
- Date: Sun, 25 Jun 2023 05:53:06 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-27 23:10:31.226593
- Title: Emergence of Symbols in Neural Networks for Semantic Understanding and
Communication
- Title(参考訳): 意味理解とコミュニケーションのためのニューラルネットワークにおける記号の出現
- Authors: Yang Chen, Liangxuan Guo, Shan Yu
- Abstract要約: 本稿では,シンボルの作成,意味論の理解,コミュニケーションの実現が可能なニューラルネットワークを実現するためのソリューションを提案する。
SEA-netは特定のタスクを実行するためにネットワークを動的に構成するシンボルを生成する。
これらのシンボルは合成意味情報をキャプチャし、システムは記号操作や通信によって純粋に新しい関数を取得できる。
- 参考スコア(独自算出の注目度): 8.156761369660096
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The capacity to generate meaningful symbols and effectively employ them for
advanced cognitive processes, such as communication, reasoning, and planning,
constitutes a fundamental and distinctive aspect of human intelligence.
Existing deep neural networks still notably lag human capabilities in terms of
generating symbols for higher cognitive functions. Here, we propose a solution
(symbol emergence artificial network (SEA-net)) to endow neural networks with
the ability to create symbols, understand semantics, and achieve communication.
SEA-net generates symbols that dynamically configure the network to perform
specific tasks. These symbols capture compositional semantic information that
allows the system to acquire new functions purely by symbolic manipulation or
communication. In addition, these self-generated symbols exhibit an intrinsic
structure resembling that of natural language, suggesting a common framework
underlying the generation and understanding of symbols in both human brains and
artificial neural networks. We believe that the proposed framework will be
instrumental in producing more capable systems that can synergize the strengths
of connectionist and symbolic approaches for artificial intelligence (AI).
- Abstract(参考訳): 有意義なシンボルを生成し、コミュニケーション、推論、計画といった高度な認知プロセスに効果的に活用する能力は、人間の知能の基本的かつ特徴的な側面を構成する。
既存のディープニューラルネットワークは、高い認知機能のためのシンボルを生成するという点で、人間の能力が著しく遅れている。
本稿では,シンボルの作成や意味の理解,コミュニケーションの実現をニューラルネットワークに付与するソリューション(symbol emerging artificial network (sea-net))を提案する。
SEA-netは特定のタスクを実行するためにネットワークを動的に構成するシンボルを生成する。
これらのシンボルは合成意味情報をキャプチャし、システムは記号操作や通信によって純粋に新しい関数を取得できる。
さらに、これらの自己生成記号は自然言語に固有の構造を示し、人間の脳とニューラルネットワークの両方における記号の生成と理解の基礎となる共通の枠組みを示唆している。
提案手法は,人工知能(AI)におけるコネクティビストとシンボリックアプローチの強みを相乗化できる,より有能なシステムの構築に有効であると考えている。
関連論文リスト
- The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。
ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。
新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
論文 参考訳(メタデータ) (2024-02-02T20:33:14Z) - Discrete, compositional, and symbolic representations through attractor
dynamics [61.58042831010077]
記号空間におけるインポーティング構造は、リッチな感覚入力のアトラクタ支持表現空間において構成性をもたらすことを示す。
我々のモデルは、意識経験において重要な役割を果たしていると考えられる情報のボトルネックの過程を示す。
論文 参考訳(メタデータ) (2023-10-03T05:40:56Z) - Neurosymbolic AI - Why, What, and How [9.551858963199987]
人間は知覚と認知の組み合わせを使って環境と相互作用する。
一方、機械認識はより複雑な計算を包含する。
本稿では,ニューロシンボリックAIの新たなパラダイムを紹介する。
論文 参考訳(メタデータ) (2023-05-01T13:27:22Z) - The Roles of Symbols in Neural-based AI: They are Not What You Think! [25.450989579215708]
知的エージェントのための新しいニューロシンボリック仮説と有望なアーキテクチャを提案する。
私たちの仮説と関連するアーキテクチャは、シンボルが知的システムの将来に重要なままであることを示している。
論文 参考訳(メタデータ) (2023-04-26T15:33:41Z) - A Semantic Framework for Neural-Symbolic Computing [0.9137554315375922]
AI、ニューラルネットワーク、シンボリックシステムに対する2つのアプローチは、AI問題に対して非常に成功したことが証明されている。
ニューラルシンボリックAIのセマンティックフレームワークを導入し、ニューラルシンボリックシステムの大規模なファミリーを説明するのに十分な一般性を示す。
論文 参考訳(メタデータ) (2022-12-22T22:00:58Z) - Deep Symbolic Learning: Discovering Symbols and Rules from Perceptions [69.40242990198]
Neuro-Symbolic(NeSy)統合は、認識と推論を必要とするタスクに対して、シンボリック推論とニューラルネットワーク(NN)を組み合わせる。
ほとんどのNeSyシステムは論理的知識の継続的な緩和に依存しており、モデルパイプライン内では決定的な決定は行われない。
本研究では,NeSy関数を学習するNeSyシステムを提案する。すなわち,連続データを離散シンボルにマップする(集合)知覚関数の構成と,シンボルの集合上のシンボル関数である。
論文 参考訳(メタデータ) (2022-08-24T14:06:55Z) - Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。
本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。
NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2022-05-25T12:41:59Z) - Neuro-Symbolic Artificial Intelligence (AI) for Intent based Semantic
Communication [85.06664206117088]
6Gネットワークはデータ転送のセマンティクスと有効性(エンドユーザ)を考慮する必要がある。
観測データの背後にある因果構造を学習するための柱としてNeSy AIが提案されている。
GFlowNetは、無線システムにおいて初めて活用され、データを生成する確率構造を学ぶ。
論文 参考訳(メタデータ) (2022-05-22T07:11:57Z) - Emergence of Machine Language: Towards Symbolic Intelligence with Neural
Networks [73.94290462239061]
本稿では、ニューラルネットワークを用いてシンボルとコネクショナリズムの原理を組み合わせることで、離散表現を導出することを提案する。
対話型環境とタスクを設計することにより、機械が自発的で柔軟でセマンティックな言語を生成できることを実証した。
論文 参考訳(メタデータ) (2022-01-14T14:54:58Z) - A Memory-Augmented Neural Network Model of Abstract Rule Learning [2.3562267625320352]
任意のロールフィラーバインディングのためのニューラルネットワークの能力に焦点を当てる。
本稿では,外部メモリを結合機構として使用することを学習するリカレントニューラルネットワークモデルであるEmergent Symbol Binding Network (ESBN)を紹介する。
このメカニズムにより、ESBNのトレーニングプロセスを通じて、明示的なシンボル処理機械を必要とせずに、シンボルのような変数表現が出現する。
論文 参考訳(メタデータ) (2020-12-13T22:40:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。