Fugu-MT 論文翻訳(概要): Architecture Generalization with MetaNCA

論文の概要: Architecture Generalization with MetaNCA

arxiv url: http://arxiv.org/abs/2607.07743v1
Date: Wed, 08 Jul 2026 08:31:57 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-10 14:45:27.283512
Title: Architecture Generalization with MetaNCA
Title（参考訳）: MetaNCAによるアーキテクチャの一般化
Abstract要約: ニューラルネットワークの重みを自己組織化する局所ルールを学習するフレームワークであるMetaNCA(Meta Neural Cellular Automata)を紹介する。本稿では,MNIST および CIFAR-100 上で,MetaNCA がフィードフォワード,CNN,ResNets の重みを生成することを示す。
参考スコア（独自算出の注目度）: 1.2371991034712437
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Self-organization is an emergent property of life, driven by the collective behavior of individual components acting on local information. Biological neurons, through local interactions transmitted through synapses, are able to learn efficiently and can adapt their connections over an organism's lifespan. Motivated by these desirable properties of adaptability and local interaction, neural cellular automata (NCA) models have been successful at learning morphogenesis solely through local update rules, demonstrating stability over many updates and robustness to perturbations. In this work, we introduce Meta Neural Cellular Automata (MetaNCA), a framework that learns local rules which self-organize the weights of artificial neural networks. A learned rule network iteratively updates the weights of a task network using only local interactions on the computation graph. We propose a novel Weight Transformer architecture for the local rule network, which uses linear attention to aggregate signals from neighboring weights and hidden states. Once trained, the rule network generates task networks of diverse architectures without backpropagation. We show that MetaNCA generates weights for feedforward MLPs, CNNs, and ResNets on MNIST and CIFAR-100, scaling to networks of 2 million parameters. We further show that MetaNCA generalizes to architectures not seen during meta-training, and that architectural diversity in the training phase strengthens this generalization.
Abstract（参考訳）: 自己組織化は、ローカル情報に作用する個々のコンポーネントの集団的振る舞いによって引き起こされる、生命の創発的な性質である。生体ニューロンはシナプスを介して伝達される局所的な相互作用を通じて、効率的に学習し、生物の寿命にその関係を適応させることができる。これらの適応性と局所的相互作用の望ましい性質により、ニューラルセルオートマトン(NCA)モデルは、局所的な更新規則を通じてのみ形態形成を学習し、多くの更新に対する安定性と摂動に対する堅牢性を示す。本稿では,ニューラルネットワークの重みを自己組織化する局所ルールを学習するMetaNCA(Meta Neural Cellular Automata)を紹介する。学習ルールネットワークは、計算グラフ上のローカルインタラクションのみを使用してタスクネットワークの重みを反復的に更新する。本稿では,近傍の重みや隠れ状態からの信号の集約に線形注意を用いた局所ルールネットワークのための新しい重み変換器アーキテクチャを提案する。一度トレーニングされると、ルールネットワークはバックプロパゲーションなしで多様なアーキテクチャのタスクネットワークを生成する。我々は,MetaNCAがMNISTおよびCIFAR-100上でフィードフォワードMLP,CNN,ResNetsの重みを生成し,200万パラメータのネットワークに拡張することを示す。さらに,メタNCAはメタトレーニング中に見られないアーキテクチャに一般化し,トレーニングフェーズにおけるアーキテクチャの多様性がこの一般化を強化していることを示す。

関連論文リスト

Scalable Learning in Structured Recurrent Spiking Neural Networks without Backpropagation [6.572000338549628]
Spiking Neural Networks (SNN)は、エネルギー効率と生物学的基盤計算のための有望なフレームワークを提供する。本研究では, 局所的に密集した再帰層で構成された構造的多層再帰型SNNアーキテクチャを提案する。長距離接続は概ね固定されており、ルーティング効率とハードウェアのスケーラビリティを保ち、シナプス適応は厳密に局所的な可塑性機構を用いて実行される。
論文参考訳（メタデータ） (2026-05-01T04:45:21Z)
NNiT: Width-Agnostic Neural Network Generation with Structurally Aligned Weight Spaces [15.631276865948097]
ニューラルネットワーク拡散変換器 (NNiT) を導入し, ウェイトを幅に依存しない方法で生成する。 ManiSkill3のロボティクスタスクでは、NNiTはトレーニング中に見つからないアーキテクチャトポロジで85%の成功を達成し、ベースラインアプローチは一般化に失敗する。
論文参考訳（メタデータ） (2026-02-26T20:47:30Z)
Self-Motivated Growing Neural Network for Adaptive Architecture via Local Structural Plasticity [0.2578242050187029]
深い強化学習における制御ポリシーは、バックプロパゲーションによって訓練された固定容量多層パーセプトロンで実装されることが多い。本稿では,局所構造塑性モジュールを通じてトポロジがオンラインで進化する制御系である自己運動型成長ニューラルネットワーク(SMGrNN)を紹介する。
論文参考訳（メタデータ） (2025-12-14T14:31:21Z)
Structural Plasticity as Active Inference: A Biologically-Inspired Architecture for Homeostatic Control [0.0]
本稿では,SAPIN(Structurely Adaptive Predictive Inference Network)を紹介する。 SAPINは2Dグリッド上で動作し、セルは局所的な予測エラーを最小限にすることで学習する。従来のカートポール強化学習ベンチマークでSAPINモデルを検証した。
論文参考訳（メタデータ） (2025-11-04T04:07:16Z)
Auto-Compressing Networks [51.221103189527014]
本稿では,各層からの長いフィードフォワード接続が従来の短残コネクションに取って代わるアーキテクチャ変種であるAuto-compression Networks (ACNs)を紹介する。本稿では,ACNが残差ネットワークと比較して高雑音を示すこと,低データ設定における優れた性能を示すこと,破滅的忘れを軽減できることを述べる。これらの知見は、効率的な神経アーキテクチャを開発するための実践的なアプローチとしてACNを確立している。
論文参考訳（メタデータ） (2025-06-11T13:26:09Z)
Generalization emerges from local optimization in a self-organized learning network [0.0]
我々は,グローバルなエラー関数に頼ることなく,局所最適化ルールのみによって駆動される,教師付き学習ネットワーク構築のための新しいパラダイムを設計・分析する。我々のネットワークは、ルックアップテーブルの形で、ノードに新しい知識を正確かつ瞬時に保存する。本稿では,学習例数が十分に大きくなると,アルゴリズムによって生成されたネットワークが完全な一般化状態に体系的に到達する,分類タスクの多くの例を示す。我々は状態変化のダイナミクスについて報告し、それが突然であり、従来の学習ネットワークですでに観察されている現象である1次相転移の特徴を持つことを示す。
論文参考訳（メタデータ） (2024-10-03T15:32:08Z)
How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文参考訳（メタデータ） (2023-06-04T08:53:27Z)
PredRNN: A Recurrent Neural Network for Spatiotemporal Predictive Learning [109.84770951839289]
歴史的文脈からビジュアルダイナミクスを学習するための新しいリカレントネットワークであるPredRNNを紹介する。本手法は,3つの標準データセット上で高い競争結果が得られることを示す。
論文参考訳（メタデータ） (2021-03-17T08:28:30Z)
Firefly Neural Architecture Descent: a General Approach for Growing Neural Networks [50.684661759340145]
firefly neural architecture descentは、ニューラルネットワークを漸進的かつ動的に成長させるための一般的なフレームワークである。ホタルの降下は、より広く、より深くネットワークを柔軟に成長させ、正確だがリソース効率のよいニューラルアーキテクチャを学習するために応用できることを示す。特に、サイズは小さいが、最先端の手法で学習したネットワークよりも平均精度が高いネットワークを学習する。
論文参考訳（メタデータ） (2021-02-17T04:47:18Z)
Neural Cellular Automata Manifold [84.08170531451006]
ニューラルセルラーオートマタのニューラルネットワークアーキテクチャは、より大きなNNにカプセル化可能であることを示す。これにより、NAAの多様体を符号化する新しいモデルを提案し、それぞれが異なる画像を生成することができる。生物学的には、我々のアプローチは転写因子の役割を担い、細胞の分化を促進する特定のタンパク質への遺伝子マッピングを調節する。
論文参考訳（メタデータ） (2020-06-22T11:41:57Z)
Neuroevolutionary Transfer Learning of Deep Recurrent Neural Networks through Network-Aware Adaptation [57.46377517266827]
本研究はN-ASTL(Network-Aware Adaptive Structure Transfer Learning)を導入する。 N-ASTLは、ソースネットワークのトポロジと重み分布に関する統計情報を利用して、新しい入力ニューロンと出力ニューロンが既存の構造にどのように統合されるかを伝える。結果は、これまで不可能だった現実世界のデータセットを転送する機能など、従来の最先端よりも改善されていることを示している。
論文参考訳（メタデータ） (2020-06-04T06:07:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。