論文の概要: Emergence of Symbols in Neural Networks for Semantic Understanding and Communication

• arxiv url: http://arxiv.org/abs/2304.06377v3
• Date: Sun, 25 Jun 2023 05:53:06 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-27 23:10:31.226593
• Title: Emergence of Symbols in Neural Networks for Semantic Understanding and Communication
• Title（参考訳）: 意味理解とコミュニケーションのためのニューラルネットワークにおける記号の出現
• Authors: Yang Chen, Liangxuan Guo, Shan Yu
• Abstract要約: 本稿では,シンボルの作成,意味論の理解,コミュニケーションの実現が可能なニューラルネットワークを実現するためのソリューションを提案する。 SEA-netは特定のタスクを実行するためにネットワークを動的に構成するシンボルを生成する。 これらのシンボルは合成意味情報をキャプチャし、システムは記号操作や通信によって純粋に新しい関数を取得できる。
• 参考スコア（独自算出の注目度）: 8.156761369660096
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The capacity to generate meaningful symbols and effectively employ them for advanced cognitive processes, such as communication, reasoning, and planning, constitutes a fundamental and distinctive aspect of human intelligence. Existing deep neural networks still notably lag human capabilities in terms of generating symbols for higher cognitive functions. Here, we propose a solution (symbol emergence artificial network (SEA-net)) to endow neural networks with the ability to create symbols, understand semantics, and achieve communication. SEA-net generates symbols that dynamically configure the network to perform specific tasks. These symbols capture compositional semantic information that allows the system to acquire new functions purely by symbolic manipulation or communication. In addition, these self-generated symbols exhibit an intrinsic structure resembling that of natural language, suggesting a common framework underlying the generation and understanding of symbols in both human brains and artificial neural networks. We believe that the proposed framework will be instrumental in producing more capable systems that can synergize the strengths of connectionist and symbolic approaches for artificial intelligence (AI).
• Abstract（参考訳）: 有意義なシンボルを生成し、コミュニケーション、推論、計画といった高度な認知プロセスに効果的に活用する能力は、人間の知能の基本的かつ特徴的な側面を構成する。 既存のディープニューラルネットワークは、高い認知機能のためのシンボルを生成するという点で、人間の能力が著しく遅れている。 本稿では,シンボルの作成や意味の理解,コミュニケーションの実現をニューラルネットワークに付与するソリューション(symbol emerging artificial network (sea-net))を提案する。 SEA-netは特定のタスクを実行するためにネットワークを動的に構成するシンボルを生成する。 これらのシンボルは合成意味情報をキャプチャし、システムは記号操作や通信によって純粋に新しい関数を取得できる。 さらに、これらの自己生成記号は自然言語に固有の構造を示し、人間の脳とニューラルネットワークの両方における記号の生成と理解の基礎となる共通の枠組みを示唆している。 提案手法は,人工知能(AI)におけるコネクティビストとシンボリックアプローチの強みを相乗化できる,より有能なシステムの構築に有効であると考えている。

関連論文リスト

• Converging Paradigms: The Synergy of Symbolic and Connectionist AI in LLM-Empowered Autonomous Agents [55.63497537202751]
  コネクショニストと象徴的人工知能(AI)の収束を探求する記事 従来、コネクショナリストAIはニューラルネットワークにフォーカスし、シンボリックAIはシンボリック表現とロジックを強調していた。 大型言語モデル(LLM)の最近の進歩は、人間の言語をシンボルとして扱う際のコネクショナリストアーキテクチャの可能性を強調している。
  論文  参考訳（メタデータ） (2024-07-11T14:00:53Z)
• Exploring knowledge graph-based neural-symbolic system from application perspective [0.0]
  AIシステムにおけるヒューマンライクな推論と解釈可能性の実現は、依然として大きな課題である。 ニューラルネットワークをシンボリックシステムと統合するNeural-Symbolicパラダイムは、より解釈可能なAIへの有望な経路を提供する。 本稿では,知識グラフに基づくニューラルシンボリック統合の最近の進歩について考察する。
  論文  参考訳（メタデータ） (2024-05-06T14:40:50Z)
• Aligning Knowledge Graphs Provided by Humans and Generated from Neural Networks in Specific Tasks [5.791414814676125]
  本稿では,ニューラルネットワークによる知識グラフの生成と活用を可能にする革新的な手法を提案する。 われわれのアプローチは、従来の単語の埋め込みモデルへの依存を排除し、ニューラルネットワークから概念をマイニングし、それらを人間の知識と直接整合させる。 実験により,本手法は人間の知識と密接に一致したネットワーク生成概念を連続的に捕捉し,これまでヒトが認識していなかった新しい有用な概念を発見できることがわかった。
  論文  参考訳（メタデータ） (2024-04-23T20:33:17Z)
• The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
  Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。 ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。 新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
  論文  参考訳（メタデータ） (2024-02-02T20:33:14Z)
• Discrete, compositional, and symbolic representations through attractor dynamics [51.20712945239422]
  我々は,思考の確率的言語(PLoT)に似た認知過程をモデル化するために,アトラクタダイナミクスを記号表現と統合した新しいニューラルシステムモデルを導入する。 我々のモデルは、連続表現空間を、事前定義されたプリミティブに頼るのではなく、教師なし学習を通じて、記号系の意味性と構成性の特徴を反映する、記号列に対応する引き付け状態を持つ離散盆地に分割する。 このアプローチは、認知操作の複雑な双対性を反映したより包括的なモデルを提供する、AIにおける表現力の証明された神経弁別可能な基質であるニューラルダイナミクスを通じて、シンボル処理とサブシンボル処理の両方を統合する統一的なフレームワークを確立する。
  論文  参考訳（メタデータ） (2023-10-03T05:40:56Z)
• The Roles of Symbols in Neural-based AI: They are Not What You Think! [25.450989579215708]
  知的エージェントのための新しいニューロシンボリック仮説と有望なアーキテクチャを提案する。 私たちの仮説と関連するアーキテクチャは、シンボルが知的システムの将来に重要なままであることを示している。
  論文  参考訳（メタデータ） (2023-04-26T15:33:41Z)
• Deep Symbolic Learning: Discovering Symbols and Rules from Perceptions [69.40242990198]
  Neuro-Symbolic(NeSy)統合は、認識と推論を必要とするタスクに対して、シンボリック推論とニューラルネットワーク(NN)を組み合わせる。 ほとんどのNeSyシステムは論理的知識の継続的な緩和に依存しており、モデルパイプライン内では決定的な決定は行われない。 本研究では,NeSy関数を学習するNeSyシステムを提案する。すなわち,連続データを離散シンボルにマップする(集合)知覚関数の構成と,シンボルの集合上のシンボル関数である。
  論文  参考訳（メタデータ） (2022-08-24T14:06:55Z)
• Neuro-Symbolic Artificial Intelligence (AI) for Intent based Semantic Communication [85.06664206117088]
  6Gネットワークはデータ転送のセマンティクスと有効性(エンドユーザ)を考慮する必要がある。 観測データの背後にある因果構造を学習するための柱としてNeSy AIが提案されている。 GFlowNetは、無線システムにおいて初めて活用され、データを生成する確率構造を学ぶ。
  論文  参考訳（メタデータ） (2022-05-22T07:11:57Z)
• Emergence of Machine Language: Towards Symbolic Intelligence with Neural Networks [73.94290462239061]
  本稿では、ニューラルネットワークを用いてシンボルとコネクショナリズムの原理を組み合わせることで、離散表現を導出することを提案する。 対話型環境とタスクを設計することにより、機械が自発的で柔軟でセマンティックな言語を生成できることを実証した。
  論文  参考訳（メタデータ） (2022-01-14T14:54:58Z)
• A Memory-Augmented Neural Network Model of Abstract Rule Learning [2.3562267625320352]
  任意のロールフィラーバインディングのためのニューラルネットワークの能力に焦点を当てる。 本稿では,外部メモリを結合機構として使用することを学習するリカレントニューラルネットワークモデルであるEmergent Symbol Binding Network (ESBN)を紹介する。 このメカニズムにより、ESBNのトレーニングプロセスを通じて、明示的なシンボル処理機械を必要とせずに、シンボルのような変数表現が出現する。
  論文  参考訳（メタデータ） (2020-12-13T22:40:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。