論文の概要: Discrete, compositional, and symbolic representations through attractor dynamics

• arxiv url: http://arxiv.org/abs/2310.01807v1
• Date: Tue, 3 Oct 2023 05:40:56 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-04 17:34:52.695595
• Title: Discrete, compositional, and symbolic representations through attractor dynamics
• Title（参考訳）: アトラクタダイナミクスによる離散的、構成的、象徴的表現
• Authors: Andrew Nam, Eric Elmoznino, Nikolay Malkin, Chen Sun, Yoshua Bengio, Guillaume Lajoie
• Abstract要約: 記号空間におけるインポーティング構造は、リッチな感覚入力のアトラクタ支持表現空間において構成性をもたらすことを示す。 我々のモデルは、意識経験において重要な役割を果たしていると考えられる情報のボトルネックの過程を示す。
• 参考スコア（独自算出の注目度）: 61.58042831010077
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Compositionality is an important feature of discrete symbolic systems, such as language and programs, as it enables them to have infinite capacity despite a finite symbol set. It serves as a useful abstraction for reasoning in both cognitive science and in AI, yet the interface between continuous and symbolic processing is often imposed by fiat at the algorithmic level, such as by means of quantization or a softmax sampling step. In this work, we explore how discretization could be implemented in a more neurally plausible manner through the modeling of attractor dynamics that partition the continuous representation space into basins that correspond to sequences of symbols. Building on established work in attractor networks and introducing novel training methods, we show that imposing structure in the symbolic space can produce compositionality in the attractor-supported representation space of rich sensory inputs. Lastly, we argue that our model exhibits the process of an information bottleneck that is thought to play a role in conscious experience, decomposing the rich information of a sensory input into stable components encoding symbolic information.
• Abstract（参考訳）: 構成性は言語やプログラムのような離散的な記号体系の重要な特徴であり、有限の記号集合にもかかわらず無限の容量を持つことができる。 認知科学とaiの両方において推論の有用な抽象化として機能するが、連続処理とシンボリック処理のインターフェイスは、量子化やソフトマックスサンプリングステップといったアルゴリズムレベルでフィアットによってしばしば課される。 本研究では,連続表現空間を記号列に対応する盆地に分割するアトラクタダイナミクスのモデル化を通じて,離散化をより神経的に妥当な方法で実装する方法について検討する。 本研究は,アトラクタネットワークにおける確立した作業と,新たなトレーニング手法の導入を基礎として,記号空間における構造構成が,リッチな感覚入力のアトラクタ支援表現空間において構成性を生み出すことができることを示す。 最後に,感覚入力のリッチな情報をシンボル情報を符号化する安定なコンポーネントに分解することで,意識的な経験において重要な役割を果たしていると考えられる情報ボトルネックの過程を考察する。

関連論文リスト

• LOGICSEG: Parsing Visual Semantics with Neural Logic Learning and Reasoning [73.98142349171552]
  LOGICSEGは、神経誘導学習と論理推論をリッチデータとシンボリック知識の両方に統合する、全体論的視覚意味論である。 ファジィ論理に基づく連続的な緩和の間、論理式はデータとニューラルな計算グラフに基礎を置いており、論理によるネットワークトレーニングを可能にする。 これらの設計によりLOGICSEGは、既存のセグメンテーションモデルに容易に統合できる汎用的でコンパクトなニューラル論理マシンとなる。
  論文  参考訳（メタデータ） (2023-09-24T05:43:19Z)
• A Novel Neural-symbolic System under Statistical Relational Learning [50.747658038910565]
  本稿では,GBPGRと呼ばれる2段階の確率的グラフィカル推論フレームワークを提案する。 GBPGRでは、シンボル推論の結果を用いて、ディープラーニングモデルによる予測を洗練し、修正する。 提案手法は高い性能を示し, 帰納的タスクと帰納的タスクの両方において効果的な一般化を示す。
  論文  参考訳（メタデータ） (2023-09-16T09:15:37Z)
• A Recursive Bateson-Inspired Model for the Generation of Semantic Formal Concepts from Spatial Sensory Data [77.34726150561087]
  本稿では,複雑な感覚データから階層構造を生成するための記号のみの手法を提案する。 このアプローチは、概念や概念の創始の鍵としてのバテソンの差異の概念に基づいている。 このモデルは、トレーニングなしでかなりリッチだが人間に読まれる概念表現を生成することができる。
  論文  参考訳（メタデータ） (2023-07-16T15:59:13Z)
• Models of symbol emergence in communication: a conceptual review and a guide for avoiding local minima [0.0]
  計算シミュレーションは、通信の出現に関する仮説をテストする一般的な方法である。 我々は、いくつかの最も代表的なモデルの仮定と説明的対象を特定し、既知の結果を要約する。 この観点から、意味ある象徴的コミュニケーションの出現をモデル化する道のりをスケッチする。
  論文  参考訳（メタデータ） (2023-03-08T12:53:03Z)
• Meta-brain Models: biologically-inspired cognitive agents [0.0]
  メタ脳モデルと呼ぶ計算手法を提案する。 特殊なモデルを用いて構成したレイヤの組み合わせを提案する。 我々は、この柔軟でオープンソースなアプローチの開発における次のステップを提案して、結論付けます。
  論文  参考訳（メタデータ） (2021-08-31T05:20:53Z)
• pix2rule: End-to-end Neuro-symbolic Rule Learning [84.76439511271711]
  本稿では,画像のオブジェクトへの処理,学習関係,論理規則に関する完全なニューロシンボリックな手法を提案する。 主な貢献は、シンボリックリレーションとルールを抽出できるディープラーニングアーキテクチャにおける差別化可能なレイヤである。 我々のモデルは最先端のシンボリックラーナーを超えてスケールし、ディープリレーショナルニューラルネットワークアーキテクチャよりも優れていることを実証する。
  論文  参考訳（メタデータ） (2021-06-14T15:19:06Z)
• Towards a Predictive Processing Implementation of the Common Model of Cognition [79.63867412771461]
  本稿では,ニューラル生成符号化とホログラフィック連想記憶に基づく認知モデルの実装について述べる。 提案システムは,多様なタスクから継続的に学習し,大規模に人的パフォーマンスをモデル化するエージェントを開発するための基盤となる。
  論文  参考訳（メタデータ） (2021-05-15T22:55:23Z)
• Controlling Synthetic Characters in Simulations: A Case for Cognitive Architectures and Sigma [0.0]
  シミュレーションは、参加する合成文字に対して現実的で信頼できる振る舞いを生成する知性の計算モデルを必要とする。 Sigmaは認知アーキテクチャとシステムであり、象徴的認知アーキテクチャ、確率的グラフィカルモデル、そしてより最近のニューラルモデルに関する40年間にわたる独立した研究から学んだことを、そのグラフィカルアーキテクチャ仮説の下で組み合わせようとしている。 本稿では,Sigmaを多種多様な機能とともに導入し,その組み合わせを強調するために3つの概念実証Sigmaモデルを使用する。
  論文  参考訳（メタデータ） (2021-01-06T19:07:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。