論文の概要: Symmetry-Based Representations for Artificial and Biological General
Intelligence
- arxiv url: http://arxiv.org/abs/2203.09250v1
- Date: Thu, 17 Mar 2022 11:18:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-18 23:58:16.144964
- Title: Symmetry-Based Representations for Artificial and Biological General
Intelligence
- Title(参考訳): 人工・生物汎用知能のための対称性に基づく表現
- Authors: Irina Higgins, S\'ebastien Racani\`ere, Danilo Rezende
- Abstract要約: 対称性変換は、よい表現となるものを探すための基本的な原理であると主張する。
対称性は機械学習でも注目され始めており、より多くのデータ効率と一般化可能なアルゴリズムが生まれている。
脳における表現学習における対称性変換の重要性の最初の実証は、神経科学において始まっている。
- 参考スコア(独自算出の注目度): 4.39338211982718
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Biological intelligence is remarkable in its ability to produce complex
behaviour in many diverse situations through data efficient, generalisable and
transferable skill acquisition. It is believed that learning "good" sensory
representations is important for enabling this, however there is little
agreement as to what a good representation should look like. In this review
article we are going to argue that symmetry transformations are a fundamental
principle that can guide our search for what makes a good representation. The
idea that there exist transformations (symmetries) that affect some aspects of
the system but not others, and their relationship to conserved quantities has
become central in modern physics, resulting in a more unified theoretical
framework and even ability to predict the existence of new particles. Recently,
symmetries have started to gain prominence in machine learning too, resulting
in more data efficient and generalisable algorithms that can mimic some of the
complex behaviours produced by biological intelligence. Finally, first
demonstrations of the importance of symmetry transformations for representation
learning in the brain are starting to arise in neuroscience. Taken together,
the overwhelming positive effect that symmetries bring to these disciplines
suggest that they may be an important general framework that determines the
structure of the universe, constrains the nature of natural tasks and
consequently shapes both biological and artificial intelligence.
- Abstract(参考訳): 生物学的知性は、データ効率、一般化、転送可能なスキル獲得を通じて、さまざまな状況において複雑な行動を生み出す能力において際立っている。
これを実現するためには「良い」感覚表現の学習が重要であると考えられているが、よい表現がどのようなものかについては、ほとんど合意がない。
このレビュー記事では、対称性変換は、何がよい表現となるかの探索を導く基本的な原則であると主張するつもりです。
系のいくつかの側面に影響を及ぼす変換(対称性)が存在し、保存量との関係は現代の物理学の中心となり、より統一された理論の枠組みと新しい粒子の存在を予測する能力さえもももたらされる。
近年、対称性は機械学習にも注目され始めており、生物学的知性によって生み出される複雑な振る舞いを模倣するデータ効率と汎用性が向上している。
最後に、脳内での表現学習における対称性変換の重要性に関する最初のデモンストレーションが神経科学で始まっている。
同時に、これらの分野に対称性がもたらす圧倒的なポジティブな影響は、それらは宇宙の構造を決定づけ、自然のタスクの性質を制約し、生物と人工知能の両方を形作る重要な一般的な枠組みであることを示している。
関連論文リスト
- Artificial Kuramoto Oscillatory Neurons [65.16453738828672]
しきい値単位の動的代替として人工内蔵ニューロン(AKOrN)を導入する。
このアイデアは、幅広いタスクにまたがってパフォーマンス改善をもたらすことを示しています。
これらの経験的結果は、神経表現の最も基本的なレベルにおいて、私たちの仮定の重要性を示していると信じている。
論文 参考訳(メタデータ) (2024-10-17T17:47:54Z) - Binding Dynamics in Rotating Features [72.80071820194273]
本稿では,特徴間のアライメントを明示的に計算し,それに応じて重みを調整する「コサイン結合」機構を提案する。
これにより、自己注意と生物学的神経プロセスに直接接続し、回転する特徴に現れるオブジェクト中心の表現の基本的なダイナミクスに光を当てることができます。
論文 参考訳(メタデータ) (2024-02-08T12:31:08Z) - Exploring mechanisms of Neural Robustness: probing the bridge between geometry and spectrum [0.0]
本研究では, 重み, ジャコビアン, スペクトル正規化による表現の滑らかさとスペクトルの関係について検討した。
本研究の目的は, 神経表現における幾何学的特徴, スペクトル特性, 頑健性, 表現性の間の相互作用を理解することである。
論文 参考訳(メタデータ) (2024-02-05T12:06:00Z) - Brain-Inspired Machine Intelligence: A Survey of
Neurobiologically-Plausible Credit Assignment [65.268245109828]
本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。
我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。
本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
論文 参考訳(メタデータ) (2023-12-01T05:20:57Z) - A Neuro-mimetic Realization of the Common Model of Cognition via Hebbian
Learning and Free Energy Minimization [55.11642177631929]
大規模なニューラル生成モデルは、意味的に豊富なテキストのパスを合成したり、複雑な画像を生成することができる。
我々はコモン・モデル・オブ・コグニティブ・ニューラル・ジェネレーティブ・システムについて論じる。
論文 参考訳(メタデータ) (2023-10-14T23:28:48Z) - Symmetry and Complexity in Object-Centric Deep Active Inference Models [4.298360054690217]
生成モデルの潜在状態空間における特定の対象の固有対称性が、深いアクティブな推論の下で学習されることを示す。
特に,対象中心の表現に焦点をあて,エージェントが視点を移すにつれて,新しい対象の視点を予測するために画素から学習する。
論文 参考訳(メタデータ) (2023-04-14T10:21:26Z) - Towards fully covariant machine learning [0.0]
機械学習において、最も可視的な受動的対称性はグラフの可逆対称性または置換対称性である。
受動的対称性を尊重すべきならば,機械学習の実践について,dos と not について議論する。
論文 参考訳(メタデータ) (2023-01-31T16:01:12Z) - On Binding Objects to Symbols: Learning Physical Concepts to Understand
Real from Fake [155.6741526791004]
我々は、ディープニューラルネットワークが合成データを生成する驚くべき能力に照らして、古典的な信号と記号の障壁を再考する。
物理オブジェクトを抽象概念として特徴付け,それ以前の解析を用いて,物理オブジェクトが有限なアーキテクチャで符号化可能であることを示す。
我々は、有限時間でデジタルIDに物理的実体を結合することは、有限資源で可能であると結論付けた。
論文 参考訳(メタデータ) (2022-07-25T17:21:59Z) - An Enactivist-Inspired Mathematical Model of Cognition [5.8010446129208155]
我々は、関連する文献で慎重に確認した5つの基本的なエノクティビズム認知科学のテレットを定式化する。
次に、これらの実践主義的信条に従う認知システムについて話すための数学的枠組みを開発する。
論文 参考訳(メタデータ) (2022-06-10T13:03:47Z) - Symmetry Group Equivariant Architectures for Physics [52.784926970374556]
機械学習の分野では、対称性に対する認識が目覚ましいパフォーマンスのブレークスルーを引き起こしている。
物理学のコミュニティと、より広い機械学習のコミュニティの両方に、理解すべきことがたくさんある、と私たちは主張する。
論文 参考訳(メタデータ) (2022-03-11T18:27:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。