論文の概要: Emergence of Symbols in Neural Networks for Semantic Understanding and Communication

• arxiv url: http://arxiv.org/abs/2304.06377v1
• Date: Thu, 13 Apr 2023 10:13:00 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-14 15:05:44.701716
• Title: Emergence of Symbols in Neural Networks for Semantic Understanding and Communication
• Title（参考訳）: 意味理解とコミュニケーションのためのニューラルネットワークにおける記号の出現
• Authors: Yang Chen, Liangxuan Guo, Shan Yu
• Abstract要約: 現在のディープニューラルネットワークは、高い認知機能のためのシンボルを作成する人間の能力にはまだ遠く及ばない。 本稿では,シンボル生成,意味理解,コミュニケーション能力を備えたニューラルネットワークを実現するためのSEA-netというソリューションを提案する。
• 参考スコア（独自算出の注目度）: 8.156761369660096
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Being able to create meaningful symbols and proficiently use them for higher cognitive functions such as communication, reasoning, planning, etc., is essential and unique for human intelligence. Current deep neural networks are still far behind human's ability to create symbols for such higher cognitive functions. Here we propose a solution, named SEA-net, to endow neural networks with ability of symbol creation, semantic understanding and communication. SEA-net generates symbols that dynamically configure the network to perform specific tasks. These symbols capture compositional semantic information that enables the system to acquire new functions purely by symbolic manipulation or communication. In addition, we found that these self-generated symbols exhibit an intrinsic structure resembling that of natural language, suggesting a common framework underlying the generation and understanding of symbols in both human brains and artificial neural networks. We hope that it will be instrumental in producing more capable systems in the future that can synergize the strengths of connectionist and symbolic approaches for AI.
• Abstract（参考訳）: 有意義なシンボルを創造し、コミュニケーション、推論、計画などの高度な認知機能に熟達することができることは、人間の知性にとって必須でユニークなものである。 現在のディープニューラルネットワークは、そのような高次認知機能のためのシンボルを作成する人間の能力にはまだ及ばない。 本稿では,記号生成,意味理解,コミュニケーション機能を備えたニューラルネットワークを付与する解であるsea-netを提案する。 SEA-netは特定のタスクを実行するためにネットワークを動的に構成するシンボルを生成する。 これらのシンボルは合成意味情報をキャプチャし、システムは記号操作や通信によって純粋に新しい関数を取得できる。 さらに,これらの自己生成記号は自然言語に類似した固有構造を示し,人間の脳とニューラルネットワークの両方における記号の生成と理解の基盤となる共通の枠組みを示唆する。 将来的には、コネクショニストとaiのシンボリックなアプローチの強みを両立させるような、より有能なシステムを作るための手段になることを願っています。

関連論文リスト

• Converging Paradigms: The Synergy of Symbolic and Connectionist AI in LLM-Empowered Autonomous Agents [55.63497537202751]
  コネクショニストと象徴的人工知能(AI)の収束を探求する記事 従来、コネクショナリストAIはニューラルネットワークにフォーカスし、シンボリックAIはシンボリック表現とロジックを強調していた。 大型言語モデル(LLM)の最近の進歩は、人間の言語をシンボルとして扱う際のコネクショナリストアーキテクチャの可能性を強調している。
  論文  参考訳（メタデータ） (2024-07-11T14:00:53Z)
• Exploring knowledge graph-based neural-symbolic system from application perspective [0.0]
  AIシステムにおけるヒューマンライクな推論と解釈可能性の実現は、依然として大きな課題である。 ニューラルネットワークをシンボリックシステムと統合するNeural-Symbolicパラダイムは、より解釈可能なAIへの有望な経路を提供する。 本稿では,知識グラフに基づくニューラルシンボリック統合の最近の進歩について考察する。
  論文  参考訳（メタデータ） (2024-05-06T14:40:50Z)
• Aligning Knowledge Graphs Provided by Humans and Generated from Neural Networks in Specific Tasks [5.791414814676125]
  本稿では,ニューラルネットワークによる知識グラフの生成と活用を可能にする革新的な手法を提案する。 われわれのアプローチは、従来の単語の埋め込みモデルへの依存を排除し、ニューラルネットワークから概念をマイニングし、それらを人間の知識と直接整合させる。 実験により,本手法は人間の知識と密接に一致したネットワーク生成概念を連続的に捕捉し,これまでヒトが認識していなかった新しい有用な概念を発見できることがわかった。
  論文  参考訳（メタデータ） (2024-04-23T20:33:17Z)
• The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
  Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。 ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。 新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
  論文  参考訳（メタデータ） (2024-02-02T20:33:14Z)
• Discrete, compositional, and symbolic representations through attractor dynamics [51.20712945239422]
  我々は,思考の確率的言語(PLoT)に似た認知過程をモデル化するために,アトラクタダイナミクスを記号表現と統合した新しいニューラルシステムモデルを導入する。 我々のモデルは、連続表現空間を、事前定義されたプリミティブに頼るのではなく、教師なし学習を通じて、記号系の意味性と構成性の特徴を反映する、記号列に対応する引き付け状態を持つ離散盆地に分割する。 このアプローチは、認知操作の複雑な双対性を反映したより包括的なモデルを提供する、AIにおける表現力の証明された神経弁別可能な基質であるニューラルダイナミクスを通じて、シンボル処理とサブシンボル処理の両方を統合する統一的なフレームワークを確立する。
  論文  参考訳（メタデータ） (2023-10-03T05:40:56Z)
• The Roles of Symbols in Neural-based AI: They are Not What You Think! [25.450989579215708]
  知的エージェントのための新しいニューロシンボリック仮説と有望なアーキテクチャを提案する。 私たちの仮説と関連するアーキテクチャは、シンボルが知的システムの将来に重要なままであることを示している。
  論文  参考訳（メタデータ） (2023-04-26T15:33:41Z)
• Deep Symbolic Learning: Discovering Symbols and Rules from Perceptions [69.40242990198]
  Neuro-Symbolic(NeSy)統合は、認識と推論を必要とするタスクに対して、シンボリック推論とニューラルネットワーク(NN)を組み合わせる。 ほとんどのNeSyシステムは論理的知識の継続的な緩和に依存しており、モデルパイプライン内では決定的な決定は行われない。 本研究では,NeSy関数を学習するNeSyシステムを提案する。すなわち,連続データを離散シンボルにマップする(集合)知覚関数の構成と,シンボルの集合上のシンボル関数である。
  論文  参考訳（メタデータ） (2022-08-24T14:06:55Z)
• Neuro-Symbolic Artificial Intelligence (AI) for Intent based Semantic Communication [85.06664206117088]
  6Gネットワークはデータ転送のセマンティクスと有効性(エンドユーザ)を考慮する必要がある。 観測データの背後にある因果構造を学習するための柱としてNeSy AIが提案されている。 GFlowNetは、無線システムにおいて初めて活用され、データを生成する確率構造を学ぶ。
  論文  参考訳（メタデータ） (2022-05-22T07:11:57Z)
• Emergence of Machine Language: Towards Symbolic Intelligence with Neural Networks [73.94290462239061]
  本稿では、ニューラルネットワークを用いてシンボルとコネクショナリズムの原理を組み合わせることで、離散表現を導出することを提案する。 対話型環境とタスクを設計することにより、機械が自発的で柔軟でセマンティックな言語を生成できることを実証した。
  論文  参考訳（メタデータ） (2022-01-14T14:54:58Z)
• A Memory-Augmented Neural Network Model of Abstract Rule Learning [2.3562267625320352]
  任意のロールフィラーバインディングのためのニューラルネットワークの能力に焦点を当てる。 本稿では,外部メモリを結合機構として使用することを学習するリカレントニューラルネットワークモデルであるEmergent Symbol Binding Network (ESBN)を紹介する。 このメカニズムにより、ESBNのトレーニングプロセスを通じて、明示的なシンボル処理機械を必要とせずに、シンボルのような変数表現が出現する。
  論文  参考訳（メタデータ） (2020-12-13T22:40:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。