Fugu-MT 論文翻訳(概要): Neurons Are All You Need

論文の概要: Neurons Are All You Need

arxiv url: http://arxiv.org/abs/2611.00186v1
Date: Fri, 30 Oct 2026 16:35:50 GMT
ステータス: 翻訳完了
システム内更新日: 2026-11-14 02:48:04.065042
Title: Neurons Are All You Need
Title（参考訳）: ニューロンは必要なものすべて
Abstract要約: 近年の研究では、記憶はシナプス的に独立した方法で個々の生物間で伝達可能であることが示されている。シナプス重み更新にのみ依存する新しい神経層であるNURESAを提案する。国境を越えた実験、GPT-2、Qwen2.5のような近代的なモデルは質的に新しい能力を示している。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: For decades, artificial neural networks have operated under the assumption that durable, learned capability resides exclusively in adaptive synaptic parameters, primarily due to the established neurobiology of synaptic connectivity. This design forces models to remain stateless during deployment, incurring well-known limitations such as catastrophic forgetting and expensive retraining. However, recent neurobiological research by Glanzman and colleagues, and others, shows that memories can be transferred between individual organisms in a synaptically independent manner. Inspired by this research, we sought to demonstrate memory transfer of persistent memory between AI model instances, leveraging a neurocentric version of memory. In this paper, we propose NURESA (Neural Unit with Retentive Self-Adaptive Architecture), a novel neural layer that eschews sole reliance on synaptic weight updating by introducing persistent intra-unit memory as a first-class, computational primitive. By structurally separating computation from persistent memory, NURESA enables autonomous memory accumulation and consolidation into transferable stores of memory registers. Experiments across MLP, GPT-2, and modern frontier models like Qwen2.5 demonstrate qualitatively new capability: zero-shot transfer of learned capability into a naive model instance without retraining or access to the original training data; this transfer is enabled by a sparse set of parameters in NURESA's memory register that the model selects on its own based on which neurons were most active. The memory transfer capability of NURESA also protects against domain loss when transformer models undergo learning via fine-tuning. Finally, the memory transfer process completes in approximately one minute even for transformer models with millions to billions of parameters, producing a transfer file orders of magnitude smaller than the original model.
Abstract（参考訳）: 何十年もの間、ニューラルネットワークは、永続的で学習された能力が、主にシナプス接続の確立された神経生物学のために、適応的なシナプスパラメータにのみ存在するという前提の下で運用されてきた。この設計は、大惨事な忘れ物や高価な再訓練など、よく知られた制限を生んでいる。しかし、グラズマンらによる最近の神経生物学の研究は、記憶はシナプス的に独立した方法で個々の生物間で伝達できることを示している。この研究に触発されて、我々は、神経中心型のメモリを活用して、AIモデルインスタンス間での永続メモリのメモリ転送を実証しようとした。本稿では,ニューラル層であるNURESA(Neural Unit with Retentive Self-Adaptive Architecture)を提案する。 NURESAは、計算を永続メモリから構造的に分離することで、自律的なメモリ蓄積と統合を、転送可能なメモリレジスタのストアにすることができる。 MLP、GPT-2、そしてQwen2.5のような現代のフロンティアモデルにわたる実験は、定性的に新しい能力を示している: 学習した能力を、元のトレーニングデータに再トレーニングやアクセスすることなく、ナイーブモデルインスタンスにゼロショット転送する。 NURESAのメモリ転送能力は、微調整による学習を行うトランスフォーマーモデルにおいて、ドメイン損失を防ぐ。最後に、メモリ転送プロセスは、数百万から数十億のパラメータを持つトランスフォーマーモデルでさえ約1分で完了する。

関連論文リスト

Tiny Brains, Giant Impact: Uncovering the Keystone Neurons of LLM with Just a Few Prompts [57.98275914877019]
広い範囲のオープンウェイトトランスフォーマーにおいて、ニューロンのサブセットは、複数の能力次元のタスクをまたいだ推論において、常に高度に活性化されることが示される。クロスタスク活性化強度に沿って探索することにより、非常にスパースなサブセットが分離され、その除去はモデル挙動の崩壊を引き起こす。解析の結果,キーストーンニューロンは,前訓練中にほぼ確立されたモデルの安定で内在的なニューロンサブセットであることが明らかとなった。
論文参考訳（メタデータ） (2026-05-24T03:31:07Z)
Neural Computation Without Slots: Steps Towards Biologically Plausible Memory and Attention in Natural and Artificial Intelligence [6.565964309624722]
我々は、個々のニューロンの接続重みのパターンを格納するホップフィールドネットワーク上に構築する。記憶のために、神経科学の研究は、ニューロンのスパースアンサンブルの重みがメモリを保存するために使われることを示唆している。現代言語モデルにおけるスロットベースメモリの強力な利用について考察する。
論文参考訳（メタデータ） (2025-11-06T17:49:33Z)
MindBridge: A Cross-Subject Brain Decoding Framework [60.58552697067837]
脳の復号化は、獲得した脳信号から刺激を再構築することを目的としている。現在、脳の復号化はモデルごとのオブジェクトごとのパラダイムに限られている。我々は,1つのモデルのみを用いることで,オブジェクト間脳デコーディングを実現するMindBridgeを提案する。
論文参考訳（メタデータ） (2024-04-11T15:46:42Z)
Emulating Complex Synapses Using Interlinked Proton Conductors [17.304569471460013]
我々はベンナ・フジ人工複合シナプスを実験的に実現した。結合ストレージコンポーネントからのメモリ集積は数値シミュレーションと実験観測の両方によって明らかにされる。複雑なシナプスの実験的実現は、記憶能力を高め、継続的な学習を可能にするための有望なアプローチを示唆している。
論文参考訳（メタデータ） (2024-01-26T18:16:06Z)
The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。 ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
論文参考訳（メタデータ） (2023-06-14T13:34:13Z)
Energy-based General Sequential Episodic Memory Networks at the Adiabatic Limit [3.5450828190071655]
GSEMM(General Sequential Episodic Memory Models)を新たに導入する。動的エネルギー面は、ネットワークの隠された層に信号の伝搬遅延を伴う新しい非対称なシナプスによって実現される。 DSEMは、ネットワーク内のニューロン数とともに指数関数的に増大する記憶容量を有することを示す。
論文参考訳（メタデータ） (2022-12-11T18:09:34Z)
Continuous Learning and Adaptation with Membrane Potential and Activation Threshold Homeostasis [91.3755431537592]
本稿では,MPATH(Membrane Potential and Activation Threshold Homeostasis)ニューロンモデルを提案する。このモデルにより、ニューロンは入力が提示されたときに自動的に活性を調節することで動的平衡の形式を維持することができる。実験は、モデルがその入力から適応し、継続的に学習する能力を示す。
論文参考訳（メタデータ） (2021-04-22T04:01:32Z)
Flexible Transmitter Network [84.90891046882213]
現在のニューラルネットワークはMPモデルに基づいて構築されており、通常はニューロンを他のニューロンから受信した信号の実際の重み付け集約上での活性化関数の実行として定式化する。本稿では,フレキシブル・トランスミッタ(FT)モデルを提案する。本稿では、最も一般的な完全接続型フィードフォワードアーキテクチャ上に構築された、フレキシブルトランスミッタネットワーク(FTNet)について述べる。
論文参考訳（メタデータ） (2020-04-08T06:55:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。