論文の概要: Emergent Models: Intelligence from Tiny Substrates
- arxiv url: http://arxiv.org/abs/2608.14019v1
- Date: Fri, 14 Aug 2026 07:07:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.300606
- Title: Emergent Models: Intelligence from Tiny Substrates
- Title(参考訳): 創発的モデル:Tiny基板からのインテリジェンス
- Abstract要約: Emergent Models (EM) は、単純なオープンエンド基板に基づく機械学習パラダイムである。
そこで本研究では,局所再帰計算を簡単な算術関数に当てはめることができることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Emergent Models (EMs) are a machine learning paradigm based on simple yet open-ended substrates, such as cellular automata, in which modeling is treated not as the learning of a closed-form input-output map but as the emergence, within simple dynamical systems, of computational behaviors that solve external tasks. Such substrates typically iterate a fixed local rule over a latent space for an adaptive number of steps, with an interface linking the latent state to external input/output signals. Training proceeds by evolutionary search. We hypothesize that some instances of this framework are biased toward global generalization: capturing the rule generating the data over its full domain, and therefore extrapolating beyond the training range. Theoretically, we prove that some EMs are latent-universal: with the update rule and interface held fixed, they can realize any partial computable function by varying only the initial condition of the latent state. Empirically, we study a zoo of minimal EM instantiations across discrete and continuous substrates, showing that local-recursive computation at a tiny scale (tens to hundreds of parameters) can extrapolate exactly on simple arithmetic functions, can support control behaviour and online adaptation, while still exposing several limitations. This work is foundational: it does not propose a competitive architecture, but a framework meant to widen the design space of machine learning beyond differentiable feed-forward maps.
- Abstract(参考訳): 創発モデル(英語: Emergent Models、EM)は、セルラーオートマトンのような単純でオープンな基板に基づく機械学習のパラダイムであり、モデリングはクローズドフォームの入出力マップの学習ではなく、単純な動的システムにおいて、外部タスクを解決する計算行動の出現として扱われる。
このような基板は、通常、適応的なステップ数に対して、潜伏状態と外部の入出力信号とをリンクするインターフェースで、潜伏空間上の固定された局所規則を反復する。
進化的探索によって訓練が進められる。
このフレームワークのいくつかのインスタンスはグローバルな一般化に偏っている、という仮説を立てる。すなわち、その完全なドメイン上でデータを生成するルールをキャプチャし、トレーニング範囲を超えて外挿する。
理論的には、一部のEMは潜時ユニバーサルであり、更新規則とインタフェースが固定された状態で、潜時状態の初期条件だけを変化させることで、任意の部分計算可能関数を実現することができる。
実験により, 離散基板および連続基板間の最小EMインスタンス化の動物園について検討し, 局所再帰計算が簡単な算術関数を正確に外挿し, 制御動作とオンライン適応をサポートしながら, いくつかの制約を露呈することを示した。
競争力のあるアーキテクチャを提案するのではなく、異なるフィードフォワードマップを超えて機械学習の設計空間を広げるためのフレームワークである。
関連論文リスト
- Position: Weight Space Should Be a First-Class Generative AI Modality [67.10702320971893]
本稿では、モデルチェックポイントを第一級データモダリティとして扱うべきであると論じる。
重み空間における生成的モデリングは、コア機械学習プリミティブとして標準化されるべきである、と論じている。
私たちのゴールは、コミュニティの既定の考え方を、タスクごとのモデルの最適化から、学習した重量分布からモデルのサンプリングにシフトさせることです。
論文 参考訳(メタデータ) (2026-05-18T16:38:26Z) - Adaptive Domain Models: Bayesian Evolution, Warm Rotation, and Principled Training for Geometric and Neuromorphic AI [0.0]
本稿では,3つの事前結果に基づいて,代替的なトレーニングアーキテクチャを開発する。
本稿では,一般目的モデルの潜在事前構造をADMトレーニングシステムを介して抽出する機構であるベイズ蒸留を導入する。
デプロイには、更新されたモデルがサービスを中断することなくアクティブな推論経路に遷移する運用パターンであるウォームローテーションを導入する。
論文 参考訳(メタデータ) (2026-03-18T12:36:19Z) - A Synthesizable RTL Implementation of Predictive Coding Networks [0.0]
バックプロパゲーションにより、現代的なディープラーニングが可能になったが、オンラインで完全に分散されたハードウェア学習システムとして実現することは困難である。
予測符号化は、隣接層間の局所的な予測エラーダイナミクスから推論と学習が生まれる代替手段を提供する。
本稿では,離散時間予測符号化をハードウェアに直接実装したディジタルアーキテクチャを提案する。
論文 参考訳(メタデータ) (2026-03-18T03:07:19Z) - Internalized Morphogenesis: A Self-Organizing Model for Growth, Replication, and Regeneration via Local Token Exchange in Modular Systems [0.0]
本研究では,Swarm Robotics やmicro-nanomachines などの自律システムのための内部形態形成モデルを提案する。
モジュールは「石田トークンモデル」を拡張することで、微分方程式を解くことなくRDにインスパイアされた離散アナログを用いて整数値を交換する。
結果は、洗練された形態学的挙動は、最小内部のみの規則から生じる可能性があることを示唆している。
論文 参考訳(メタデータ) (2026-02-06T01:41:04Z) - IT$^3$: Idempotent Test-Time Training [95.78053599609044]
ディープラーニングモデルは、トレーニングデータとテストデータの間の分散シフトのために、現実世界の環境にデプロイする際に苦労することが多い。
Idempotent Test-Time Training (IT$3$) は、現在のテストインスタンスのみを使用して、分散シフトへのオンザフライ適応を可能にする新しいアプローチである。
この結果から,イデオポテンスはドメインやアーキテクチャをまたいで一般化するテスト時間適応の普遍的原理を提供すると考えられる。
論文 参考訳(メタデータ) (2024-10-05T15:39:51Z) - Sequence Learning Using Equilibrium Propagation [2.3361887733755897]
Equilibrium Propagation (EP) は、バックプロパゲーションのような従来の学習フレームワークに代わる、強力でより生物学的な代替手段である。
現代のホップフィールドネットワークにおける最近の発展を利用して、エネルギーベースモデルをさらに理解し、EPを用いた複雑なシーケンス分類タスクのためのソリューションを開発する。
論文 参考訳(メタデータ) (2022-09-14T20:01:22Z) - Understanding Dynamics of Nonlinear Representation Learning and Its
Application [12.697842097171119]
暗黙的非線形表現学習のダイナミクスについて検討する。
我々は,データ構造アライメント条件がグローバル収束に十分であることを示す。
我々はデータ構造アライメント条件を満たす新しいトレーニングフレームワークを作成した。
論文 参考訳(メタデータ) (2021-06-28T16:31:30Z) - X-volution: On the unification of convolution and self-attention [52.80459687846842]
本稿では,畳み込み操作と自己注意操作の両方からなるマルチブランチ基本モジュールを提案する。
提案したX-進化は、非常に競争力のある視覚的理解の改善を実現する。
論文 参考訳(メタデータ) (2021-06-04T04:32:02Z) - Clustered Federated Learning via Generalized Total Variation
Minimization [83.26141667853057]
本研究では,分散ネットワーク構造を持つローカルデータセットの局所的(あるいはパーソナライズされた)モデルを学習するための最適化手法について検討する。
我々の主要な概念的貢献は、総変動最小化(GTV)としてフェデレーション学習を定式化することである。
私たちのアルゴリズムの主な貢献は、完全に分散化されたフェデレーション学習アルゴリズムです。
論文 参考訳(メタデータ) (2021-05-26T18:07:19Z) - S2RMs: Spatially Structured Recurrent Modules [105.0377129434636]
モジュール構造とテンポラル構造の両方を同時に活用できる動的構造を利用するための一歩を踏み出します。
我々のモデルは利用可能なビューの数に対して堅牢であり、追加のトレーニングなしで新しいタスクに一般化できる。
論文 参考訳(メタデータ) (2020-07-13T17:44:30Z) - Predictive Coding Approximates Backprop along Arbitrary Computation
Graphs [68.8204255655161]
我々は、コア機械学習アーキテクチャを予測的符号化に翻訳する戦略を開発する。
私たちのモデルは、挑戦的な機械学習ベンチマークのバックプロップと同等に機能します。
本手法は,ニューラルネットワークに標準機械学習アルゴリズムを直接実装できる可能性を高める。
論文 参考訳(メタデータ) (2020-06-07T15:35:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。