論文の概要: Learning Algebraic Representation for Systematic Generalization in
Abstract Reasoning
- arxiv url: http://arxiv.org/abs/2111.12990v1
- Date: Thu, 25 Nov 2021 09:56:30 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-29 14:20:54.140574
- Title: Learning Algebraic Representation for Systematic Generalization in
Abstract Reasoning
- Title(参考訳): 抽象推論における体系的一般化のための代数表現の学習
- Authors: Chi Zhang, Sirui Xie, Baoxiong Jia, Ying Nian Wu, Song-Chun Zhu, Yixin
Zhu
- Abstract要約: 推論における体系的一般化を改善するためのハイブリッドアプローチを提案する。
我々はRaven's Progressive Matrices (RPM) の抽象的空間時間課題に対する代数的表現を用いたプロトタイプを紹介する。
得られた代数的表現は同型によって復号化して解を生成することができることを示す。
- 参考スコア(独自算出の注目度): 109.21780441933164
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Is intelligence realized by connectionist or classicist? While connectionist
approaches have achieved superhuman performance, there has been growing
evidence that such task-specific superiority is particularly fragile in
systematic generalization. This observation lies in the central debate between
connectionist and classicist, wherein the latter continually advocates an
algebraic treatment in cognitive architectures. In this work, we follow the
classicist's call and propose a hybrid approach to improve systematic
generalization in reasoning. Specifically, we showcase a prototype with
algebraic representation for the abstract spatial-temporal reasoning task of
Raven's Progressive Matrices (RPM) and present the ALgebra-Aware
Neuro-Semi-Symbolic (ALANS) learner. The ALANS learner is motivated by abstract
algebra and the representation theory. It consists of a neural visual
perception frontend and an algebraic abstract reasoning backend: the frontend
summarizes the visual information from object-based representation, while the
backend transforms it into an algebraic structure and induces the hidden
operator on the fly. The induced operator is later executed to predict the
answer's representation, and the choice most similar to the prediction is
selected as the solution. Extensive experiments show that by incorporating an
algebraic treatment, the ALANS learner outperforms various pure connectionist
models in domains requiring systematic generalization. We further show that the
algebraic representation learned can be decoded by isomorphism to generate an
answer.
- Abstract(参考訳): インテリジェンスはコネクティビストか古典主義者か?
コネクショニストのアプローチは超人的性能を達成したが、そのようなタスク固有の優越性は体系的な一般化において特に脆弱であることを示す証拠が増えている。
この観察はコネクショニストと古典主義者の中心的な議論であり、コネクショニストは認知アーキテクチャにおける代数的扱いを継続的に提唱している。
本稿では,古典主義の呼びかけに従い,推論の体系的一般化を改善するためのハイブリッドアプローチを提案する。
具体的には,raven's progressive matrixs (rpm) の抽象的空間-時間的推論タスクのための代数的表現を持つプロトタイプを示し,alans学習者について述べる。
ALANS学習者は抽象代数と表現論によって動機付けられている。
フロントエンドはオブジェクトベースの表現から視覚情報を要約し、バックエンドはそれを代数構造に変換し、ハエに隠れた演算子を誘導する。
誘導演算子は後に解の表現を予測するために実行され、予測に最も近い選択が解として選択される。
広範な実験により、代数的処理を組み込むことにより、アランス学習者は体系的な一般化を必要とする領域において様々な純粋接続主義モデルを上回ることが示されている。
さらに,学習した代数表現は同型によって復号化され,回答が得られることを示した。
関連論文リスト
- VisualPredicator: Learning Abstract World Models with Neuro-Symbolic Predicates for Robot Planning [86.59849798539312]
本稿では,記号的・神経的知識表現の強みを組み合わせた一階抽象言語Neuro-Symbolic Predicatesを提案する。
提案手法は, サンプルの複雑さの向上, 分布外一般化の強化, 解釈可能性の向上を実現する。
論文 参考訳(メタデータ) (2024-10-30T16:11:05Z) - A Cognitively-Inspired Neural Architecture for Visual Abstract Reasoning
Using Contrastive Perceptual and Conceptual Processing [14.201935774784632]
人間の認知に触発された視覚的抽象的推論タスクを解決するための新しいニューラルアーキテクチャを提案する。
この原則にインスパイアされたアーキテクチャは、反復的で自己コントラストの学習プロセスとして、視覚的抽象的推論をモデル化します。
機械学習データセットRAVENの実験は、CPCNetが以前公開されたすべてのモデルよりも高い精度を達成することを示している。
論文 参考訳(メタデータ) (2023-09-19T11:18:01Z) - Vector-based Representation is the Key: A Study on Disentanglement and
Compositional Generalization [77.57425909520167]
良質な概念認識と斬新な概念構成を両立させることが可能であることを示す。
本研究では,スカラーベース・アンタングル化作業のベクトルベース化を図り,両機能を向上する手法を提案する。
論文 参考訳(メタデータ) (2023-05-29T13:05:15Z) - On the Complexity of Representation Learning in Contextual Linear
Bandits [110.84649234726442]
表現学習は線形帯域よりも根本的に複雑であることを示す。
特に、与えられた表現の集合で学ぶことは、その集合の中で最悪の実現可能な表現で学ぶことよりも決して単純ではない。
論文 参考訳(メタデータ) (2022-12-19T13:08:58Z) - Knowledgebra: An Algebraic Learning Framework for Knowledge Graph [15.235089177507897]
知識グラフ(KG)表現学習は、データセットに含まれる知識を一貫して表現できるように、エンティティと関係を密度の高い連続ベクトル空間に符号化することを目的としている。
我々は,KG の代数構造を観察し,KG の数学的言語を開発した。
本研究では,標準的なデータセット上での最先端性能を示す,単純な行列半群を用いたインスタンス化モデルSemEを実装した。
論文 参考訳(メタデータ) (2022-04-15T04:53:47Z) - Learning Algebraic Recombination for Compositional Generalization [71.78771157219428]
合成一般化のための代数的組換え学習のためのエンドツーエンドニューラルモデルLeARを提案する。
主要な洞察は、意味解析タスクを潜在構文代数学と意味代数学の間の準同型としてモデル化することである。
2つの現実的・包括的構成一般化の実験は、我々のモデルの有効性を実証している。
論文 参考訳(メタデータ) (2021-07-14T07:23:46Z) - Abstract Spatial-Temporal Reasoning via Probabilistic Abduction and
Execution [97.50813120600026]
時空間推論は人工知能(AI)の課題である
最近の研究は、この種の抽象的推論タスクに焦点を当てている -- Raven's Progressive Matrices (RPM)
ニューロシンボリックな確率的アブダクションと実行学習者(PrAE)を提案する。
論文 参考訳(メタデータ) (2021-03-26T02:42:18Z) - Knowledge Hypergraph Embedding Meets Relational Algebra [13.945694569456665]
本稿では,知識ハイパーグラフのリンク予測を行うReAlEと呼ばれるシンプルな埋め込みモデルを提案する。
理論上、reale は完全表現的であり、原始関係代数演算の大きな部分集合を表現できるという証明と経験的証拠を与える。
論文 参考訳(メタデータ) (2021-02-18T18:57:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。