論文の概要: Rhythmic sharing: A bio-inspired paradigm for zero-shot adaptation and learning in neural networks

• arxiv url: http://arxiv.org/abs/2502.08644v2
• Date: Thu, 13 Feb 2025 09:48:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-14 13:49:12.621301
• Title: Rhythmic sharing: A bio-inspired paradigm for zero-shot adaptation and learning in neural networks
• Title（参考訳）: リズム共有:ニューラルネットワークにおけるゼロショット適応と学習のためのバイオインスパイアされたパラダイム
• Authors: Hoony Kang, Wolfgang Losert,
• Abstract要約: 我々は,リンク強度の振動に基づく学習パラダイムを開発し,これらの振動の協調と学習を関連づける。 このパラダイムは,ニューラルネットワークの急速な適応と学習をもたらす。 我々の研究は、主要なAIモデルに迅速な適応と学習機能を導入するための扉を開く。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: The brain can rapidly adapt to new contexts and learn from limited data, a coveted characteristic that artificial intelligence algorithms have struggled to mimic. Inspired by oscillatory rhythms of the mechanical structures of neural cells, we developed a learning paradigm that is based on oscillations in link strengths and associates learning with the coordination of these oscillations. We find that this paradigm yields rapid adaptation and learning in artificial neural networks. Link oscillations can rapidly change coordination, endowing the network with the ability to sense subtle context changes in an unsupervised manner. In other words, the network generates the missing contextual tokens required to perform as a generalist AI architecture capable of predicting dynamics in multiple contexts. Oscillations also allow the network to extrapolate dynamics to never-seen-before contexts. These capabilities make our learning paradigm a powerful starting point for novel models of learning and cognition. Furthermore, learning through link coordination is agnostic to the specifics of the neural network architecture, hence our study opens the door for introducing rapid adaptation and learning capabilities into leading AI models.
• Abstract（参考訳）: 脳は新しい状況に迅速に適応し、限られたデータから学習することができる。 ニューラルネットワークの力学構造の振動リズムにインスパイアされ、リンク強度の振動をベースとした学習パラダイムを開発し、これらの振動の協調と学習を関連づけた。 このパラダイムは,ニューラルネットワークの急速な適応と学習をもたらす。 リンクの発振は、ネットワークに教師なしの方法で微妙なコンテキスト変化を感知する能力を持たせることで、調整を迅速に変更することができる。 言い換えれば、ネットワークは、複数のコンテキストにおけるダイナミクスを予測できる汎用AIアーキテクチャとして実行するために必要な、欠落したコンテキストトークンを生成する。 振動はまた、ネットワークがダイナミクスを前例のないコンテキストに外挿することを可能にする。 これらの能力は、学習パラダイムを学習と認知の新しいモデルのための強力な出発点にします。 さらに、リンクコーディネートによる学習はニューラルネットワークアーキテクチャの特異性に依存しないため、我々の研究は、主要なAIモデルに迅速な適応と学習機能を導入するための扉を開く。

関連論文リスト

• Exploring neural oscillations during speech perception via surrogate gradient spiking neural networks [59.38765771221084]
  本稿では、ディープラーニングフレームワークと互換性があり、スケーラブルな、生理学的にインスパイアされた音声認識アーキテクチャを提案する。 本研究では, 終末から終末までの勾配降下訓練が, 中枢スパイク神経ネットワークにおける神経振動の出現に繋がることを示す。 本研究は, スパイク周波数適応やリカレント接続などのフィードバック機構が, 認識性能を向上させるために, 神経活動の調節と同期に重要な役割を担っていることを明らかにする。
  論文  参考訳（メタデータ） (2024-04-22T09:40:07Z)
• Dynamical stability and chaos in artificial neural network trajectories along training [3.379574469735166]
  浅いニューラルネットワークのネットワーク軌跡をこのレンズを通して解析することにより,このプロセスの動的特性について検討する。 我々は,学習率の仕組みによって,規則的かつカオス的な行動のヒントを見いだす。 この研究は、力学系理論、ネットワーク理論、機械学習のアイデアの交叉受精にも貢献している。
  論文  参考訳（メタデータ） (2024-04-08T17:33:11Z)
• Reasoning Algorithmically in Graph Neural Networks [1.8130068086063336]
  ニューラルネットワークの適応学習能力にアルゴリズムの構造的および規則に基づく推論を統合することを目的としている。 この論文は、この領域の研究に理論的および実践的な貢献を提供する。
  論文  参考訳（メタデータ） (2024-02-21T12:16:51Z)
• Brain-Inspired Machine Intelligence: A Survey of Neurobiologically-Plausible Credit Assignment [65.268245109828]
  本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。 我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。 本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
  論文  参考訳（メタデータ） (2023-12-01T05:20:57Z)
• Meta Neural Coordination [0.0]
  メタラーニングは、新しい変化する環境に適応するために、他の学習アルゴリズムから学習できるアルゴリズムを開発することを目的としている。 従来のディープニューラルネットワークの予測の不確かさは、世界の部分的な予測可能性を強調している。 生物学的にインスパイアされたマシンインテリジェンスを構築するために必要な潜在的な進歩について論じる。
  論文  参考訳（メタデータ） (2023-05-20T06:06:44Z)
• Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
  この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。 我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
  論文  参考訳（メタデータ） (2023-03-30T02:40:28Z)
• Abrupt and spontaneous strategy switches emerge in simple regularised neural networks [8.737068885923348]
  単純な人工ニューラルネットワークにおいて、洞察的な振る舞いが生じるかどうかを考察する。 ネットワークアーキテクチャと学習力学の分析により、洞察的な振る舞いは規則化されたゲーティング機構に大きく依存していることが判明した。 このことは、単純なニューラルネットワークにおける漸進的な学習から、洞察のような振る舞いが自然に生じることを示唆している。
  論文  参考訳（メタデータ） (2023-02-22T12:48:45Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• Backprop-Free Reinforcement Learning with Active Neural Generative Coding [84.11376568625353]
  動的環境におけるエラー(バックプロップ)のバックプロパゲーションを伴わない行動駆動型生成モデルの学習のための計算フレームワークを提案する。 我々は、まばらな報酬でも機能するインテリジェントエージェントを開発し、推論として計画の認知理論からインスピレーションを得ている。 我々のエージェントの堅牢な性能は、神経推論と学習のためのバックプロップフリーアプローチがゴール指向の行動を促進するという有望な証拠を提供する。
  論文  参考訳（メタデータ） (2021-07-10T19:02:27Z)
• Learning Contact Dynamics using Physically Structured Neural Networks [81.73947303886753]
  ディープニューラルネットワークと微分方程式の接続を用いて、オブジェクト間の接触ダイナミクスを表現するディープネットワークアーキテクチャのファミリを設計する。 これらのネットワークは,ノイズ観測から不連続な接触事象をデータ効率良く学習できることを示す。 以上の結果から,タッチフィードバックの理想化形態は,この学習課題を扱いやすくするための重要な要素であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-22T17:33:51Z)
• Deep learning of contagion dynamics on complex networks [0.0]
  本稿では,ネットワーク上での感染動態の効果的なモデルを構築するために,ディープラーニングに基づく補完的アプローチを提案する。 任意のネットワーク構造をシミュレーションすることで,学習したダイナミックスの性質を学習データを超えて探索することが可能になる。 この結果は,ネットワーク上での感染動態の効果的なモデルを構築するために,ディープラーニングが新たな補完的な視点を提供することを示す。
  論文  参考訳（メタデータ） (2020-06-09T17:18:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。