論文の概要: A Spectral Theory of Compositional Learning
- arxiv url: http://arxiv.org/abs/2609.33708v1
- Date: Sun, 27 Sep 2026 16:12:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-04 17:29:42.25414
- Title: A Spectral Theory of Compositional Learning
- Title(参考訳): 合成学習のスペクトル理論
- Abstract要約: 我々は、構造化された合成環境における学習ネットワークを訓練し、経験の構造と構成学習を結びつける理論を導出する。
我々の理論は、構成的推論がいつ現れるか、それらが利用可能な証拠から特定できるかどうか、そしてどのように新しいリンク的証拠が、これまで利用できなかった推論を迅速に解き放つかを予測する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: How does compositional reasoning emerge during learning? We address this question by mathematically analyzing the learning dynamics of deep linear networks. We train these networks in structured synthetic environments and derive a theory linking the structure of experience to compositional learning. Our theory predicts when compositional inferences emerge, whether they are identifiable from the available evidence, and how new linking evidence can rapidly unlock previously unavailable inferences. These results provide a qualitative explanation for several phenomena observed in human cognition. They account for why a composition can fail despite knowing its premises, why similar compositions can emerge at different times, and how a single linking fact can suddenly enable many new inferences. Taken together, these findings establish a mathematical link between the statistical structure of experience and the development of compositional reasoning.
- Abstract(参考訳): 構成的推論は学習中にどのように現れるか?
本稿では,深層線形ネットワークの学習力学を数学的に解析することにより,この問題に対処する。
我々は、これらのネットワークを構造化された合成環境で訓練し、経験の構造と構成学習を結びつける理論を導出する。
我々の理論は、構成的推論がいつ現れるか、それらが利用可能な証拠から特定できるかどうか、そしてどのように新しいリンク的証拠が、これまで利用できなかった推論を迅速に解き放つかを予測する。
これらの結果は、人間の認知において観察されるいくつかの現象の質的な説明を提供する。
彼らは、なぜコンポジションが、その前提を知るにもかかわらず失敗するのか、なぜ類似したコンポジションが異なる時期に現れるのか、そして1つのリンク事実が突然多くの新しい推論を可能にするのかを説明している。
これらの知見は,経験の統計的構造と構成的推論の発達とを数学的に結びつけるものである。
関連論文リスト
- A Unified Account of Concepts and Chunks [10.828616610785524]
我々は、人々がカテゴリを記述する概念をエンコードし、使用し、学習し、どのように表現し、認識し、要素のパターンのチャンクを取得するかを研究する。
チャンクとその取得を組み込んだ拡張理論を提案する。
論文 参考訳(メタデータ) (2026-09-24T18:10:43Z) - There Will Be a Scientific Theory of Deep Learning [62.690977616250954]
我々は、深層学習の科学的理論が出現しつつあることを主張する。
我々は、そのような理論を導く5つの成長する仕事の体を同定する。
我々は、新しい理論は学習過程の力学と考えるのが一番良いと論じる。
論文 参考訳(メタデータ) (2026-04-23T13:58:12Z) - The Relativity of Causal Knowledge [4.051523221722475]
人工知能の最近の進歩は、純粋に予測可能なシステムの限界を明らかにし、因果的および協調的推論へのシフトを要求する。
本稿では、構造因果モデル(SCM)が本質的に不完全であり、関係ネットワークに埋め込まれた主観的表現であることを示す因果知識の相対性について紹介する。
論文 参考訳(メタデータ) (2025-03-13T16:24:48Z) - A Complexity-Based Theory of Compositionality [53.025566128892066]
AIでは、構成表現は配布外一般化の強力な形式を可能にすることができる。
ここでは、構成性に関する直観を考慮し、拡張する、表現的構成性と呼ばれる定義を提案する。
私たちは、AIと認知科学の両方において、文学全体から異なる直観を統一する方法を示します。
論文 参考訳(メタデータ) (2024-10-18T18:37:27Z) - The dynamic interplay between in-context and in-weight learning in humans and neural networks [16.43008975197273]
In-context Learning" (ICL) は、ニューラルネットワークに固有のIWLと共存可能な、根本的に異なる学習特性を持たせることができることを示す。
我々の研究は、創発的なICLが、そのネイティブなIWLと共存可能な、根本的に異なる学習特性を持つニューラルネットワークをどのように装備できるかを示している。
論文 参考訳(メタデータ) (2024-02-13T18:55:27Z) - On Neural Architecture Inductive Biases for Relational Tasks [76.18938462270503]
合成ネットワーク一般化(CoRelNet)と呼ばれる類似度分布スコアに基づく簡単なアーキテクチャを導入する。
単純なアーキテクチャの選択は、分布外一般化において既存のモデルより優れていることが分かる。
論文 参考訳(メタデータ) (2022-06-09T16:24:01Z) - Compositional Processing Emerges in Neural Networks Solving Math
Problems [100.80518350845668]
人工知能の最近の進歩は、大きなモデルが十分な言語データに基づいて訓練されると、文法構造が表現に現れることを示している。
我々は、この研究を数学的推論の領域にまで拡張し、どのように意味を構成するべきかについての正確な仮説を定式化することができる。
私たちの研究は、ニューラルネットワークがトレーニングデータに暗黙的に構造化された関係について何かを推測できるだけでなく、個々の意味の合成を合成全体へと導くために、この知識を展開できることを示している。
論文 参考訳(メタデータ) (2021-05-19T07:24:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。