論文の概要: AutoHebb: Self-Modifying Neural Networks that Zero-Shot Infer and Continually Learn

• arxiv url: http://arxiv.org/abs/2610.40757v1
• Date: Thu, 29 Oct 2026 16:57:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.458728
• Title: AutoHebb: Self-Modifying Neural Networks that Zero-Shot Infer and Continually Learn
• Title（参考訳）: AutoHebb: ゼロショット推論と継続的な学習が可能な自己修正ニューラルネットワーク
• Abstract要約: 人間と動物は、ゼロショット推論(ZI)や連続学習(CL)など、新しい状況下で一般化し学習するユニークな能力を持っている 本稿では、強力な帰納バイアスと自律制御学習を実現するオンライン学習フィードフォワードニューラルネットワークのクラスである、自律型Hebbian Network(AutoHebb)を紹介する。 メタラーニングを用いて固定(非塑性)重みを求めると、オートヘッブネットワーク(1)はZIタスクで成功し、(2)創発的(未訓練)なZI/CL能力を示し、(3)明示的なアルゴリズムへのリバースエンジニアリングを認め、(4)ZI上で近代的な学習モデルより優れていることが分かる。
• 参考スコア（独自算出の注目度）: 3.0794574984588983
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Humans and animals have a unique capacity to generalize and learn in novel circumstances, including "0-shot" inference (ZI) and continual learning (CL) -- two powerful cognitive abilities. Despite this importance, efforts to model ZI and CL are seriously limited in several ways. First, existing models typically lack components critical to ZI and CL in the brain, namely, strong inductive biases (for ZI) and autonomous control of learning (for CL). Second, models can be less tractable to analysis if model components are overly complex (lacking simplicity), or too task-restricted if model components are overly bespoke (lacking expressivity). Here we introduce autonomous Hebbian networks ("AutoHebb"), a class of online learning feedforward neural networks that realize strong inductive biases and autonomously controlled learning, and are both simple and expressive. Unlike standard models that learn via externally controlled optimization (e.g. gradient descent), AutoHebb networks combine external feedback with internally generated activity to produce a global learning signal ('neuromodulator') fed back to the network. The neuromodulator in turn gates a biologically grounded local learning rule (3-factor Hebbian rule) that updates networks' plastic weights. Using meta-learning to search for fixed (non-plastic) weights, we find that AutoHebb networks (1) succeed on ZI tasks, (2) show emergent (untrained) ZI/CL abilities, (3) admit reverse-engineering into explicit algorithms, and (4) outperform modern learning models on ZI/CL tasks. Lastly, performance comparisons to related models implied an essential role for three model components: meta-learning, Hebbian plasticity, and autonomous control of learning. These findings indicate that AutoHebb may be useful in hypothesis generation, analysis, and discovery of biologically grounded forms of learning and generalization.
• Abstract（参考訳）: 人間と動物は、ゼロショット推論(ZI)と継続学習(CL)という2つの強力な認知能力を含む、新しい状況下での一般化と学習のユニークな能力を持っている。 このような重要性にもかかわらず、ZI と CL のモデル化への取り組みは、いくつかの点で極めて制限されている。 まず、既存のモデルには通常、ZIとCLに不可欠なコンポーネント、すなわち強い帰納バイアス(ZI)と学習の自律的制御(CL)が欠けている。 第二に、モデルコンポーネントが複雑すぎる場合(単純さの欠如)や、モデルコンポーネントが過剰に振る舞いすぎる場合(表現力の欠如)にはタスク制限が多すぎる場合、モデルは分析しにくくなる。 ここでは、強力な帰納バイアスと自律制御学習を実現するオンライン学習フィードフォワードニューラルネットワークのクラスである自律型ヘビアンネットワーク(AutoHebb)を紹介する。 外部制御された最適化(例えば勾配降下)を通じて学習する標準モデルとは異なり、AutoHebbネットワークは外部からのフィードバックと内部で生成されたアクティビティを組み合わせて、ネットワークにフィードバックされるグローバルな学習信号(ニューロモジュレータ)を生成する。 神経調節器は、ネットワークのプラスティック重量を更新する生物学的に根拠付けられた局所学習規則(3要素ヘビアン規則)をゲートする。 メタラーニングを用いて固定(非塑性)重みを探索し,(1)ZIタスクの成功,(2)創発的(未訓練)なZI/CL能力を示すこと,(3)明示的なアルゴリズムへのリバースエンジニアリングを認めること,(4)ZI/CLタスクにおける現代の学習モデルよりも優れた性能を示すことを発見した。 最後に、関連するモデルのパフォーマンス比較はメタラーニング、ヘビアン可塑性、学習の自律制御という3つのモデルコンポーネントに不可欠な役割を担った。 これらの結果から,AutoHebbは仮説生成,解析,生物学的基盤とした学習・一般化の発見に有用である可能性が示唆された。

関連論文リスト

• Agentic World Modeling: Foundations, Capabilities, Laws, and Beyond [209.35045331678043]
  2つの軸に沿って組織された「レベルx法」の分類を導入します。 第一に、3つの能力レベルを定義している: 1段階の局所遷移演算子を学ぶL1 Predictor、それらをドメインの法則を尊重する多段階のアクション条件付きロールアウトに構成するL2 Simulator、新しいエビデンスに対して予測が失敗すると自己のモデルを自動で修正するL3 Evolver。 我々は400以上の作品を合成し、モデルに基づく強化学習、ビデオ生成、WebおよびGUIエージェント、マルチエージェント社会シミュレーション、AIによる科学的発見にまたがる100以上の代表システムを要約する。
  論文  参考訳（メタデータ） (2026-04-24T17:48:47Z)
• UniErase: Towards Balanced and Precise Unlearning in Language Models [69.04923022755547]
  大規模言語モデル(LLM)は、古い情報問題に対処するために反復的な更新を必要とする。 UniEraseは、知識の未学習と能力保持の間の精度とバランスの取れたパフォーマンスを示す、新しいアンラーニングフレームワークである。
  論文  参考訳（メタデータ） (2025-05-21T15:53:28Z)
• Unexpected Benefits of Self-Modeling in Neural Systems [0.7179624965454197]
  人工ネットワークが内部状態を補助的タスクとして予測することを学ぶと、それらが根本的に変化することを示す。 自己モデルタスクをより良く実行するために、ネットワークはよりシンプルで、より正規化され、よりパラメータ効率が良いものにすることを学ぶ。 この自己正規化は、最近の機械学習文献で報告されている自己モデルの有用性を説明するのに役立つかもしれない。
  論文  参考訳（メタデータ） (2024-07-14T13:16:23Z)
• Unsupervised representation learning with Hebbian synaptic and structural plasticity in brain-like feedforward neural networks [0.0]
  教師なし表現学習が可能な脳様ニューラルネットワークモデルを導入,評価する。 このモデルは、一般的な機械学習ベンチマークのさまざまなセットでテストされた。
  論文  参考訳（メタデータ） (2024-06-07T08:32:30Z)
• In-Context Language Learning: Architectures and Algorithms [73.93205821154605]
  我々は、文脈言語学習(ICLL)において、私たちが用語する新しいモデル問題群(英語版)のレンズを通してICLを研究する。 我々は,通常のICLLタスクにおいて,多種多様なニューラルシーケンスモデルを評価する。
  論文  参考訳（メタデータ） (2024-01-23T18:59:21Z)
• Meta-Learning in Spiking Neural Networks with Reward-Modulated STDP [2.179313476241343]
  本研究では,海馬と前頭前皮質にインスパイアされた生物工学的メタラーニングモデルを提案する。 我々の新しいモデルはスパイクベースのニューロモーフィックデバイスに容易に適用でき、ニューロモーフィックハードウェアにおける高速な学習を可能にする。
  論文  参考訳（メタデータ） (2023-06-07T13:08:46Z)
• Neurosymbolic hybrid approach to driver collision warning [64.02492460600905]
  自律運転システムには2つの主要なアルゴリズムアプローチがある。 ディープラーニングだけでは、多くの分野で最先端の結果が得られています。 しかし、ディープラーニングモデルが機能しない場合、デバッグが非常に難しい場合もあります。
  論文  参考訳（メタデータ） (2022-03-28T20:29:50Z)
• The large learning rate phase of deep learning: the catapult mechanism [50.23041928811575]
  問題解決可能なトレーニングダイナミクスを備えたニューラルネットワークのクラスを提示する。 現実的なディープラーニング環境において,モデルの予測とトレーニングのダイナミクスとの間には,よい一致がある。 我々の結果は、異なる学習率でトレーニングされたモデルの特性に光を当てたと信じています。
  論文  参考訳（メタデータ） (2020-03-04T17:52:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。