論文の概要: Avoiding Catastrophe: Active Dendrites Enable Multi-Task Learning in Dynamic Environments

• arxiv url: http://arxiv.org/abs/2201.00042v1
• Date: Fri, 31 Dec 2021 19:52:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-01-05 03:45:48.519122
• Title: Avoiding Catastrophe: Active Dendrites Enable Multi-Task Learning in Dynamic Environments
• Title（参考訳）: 災害回避:動的環境におけるマルチタスク学習を可能にするアクティブデンドライト
• Authors: Abhiram Iyer, Karan Grewal, Akash Velu, Lucas Oliveira Souza, Jeremy Forest, and Subutai Ahmad
• Abstract要約: AIの鍵となる課題は、動的に変化する環境で動作する組み込みシステムを構築することだ。 標準的なディープラーニングシステムは、しばしば動的なシナリオで苦労する。 本稿では生物学的にインスパイアされたアーキテクチャをソリューションとして検討する。
• 参考スコア（独自算出の注目度）: 0.5277756703318046
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A key challenge for AI is to build embodied systems that operate in dynamically changing environments. Such systems must adapt to changing task contexts and learn continuously. Although standard deep learning systems achieve state of the art results on static benchmarks, they often struggle in dynamic scenarios. In these settings, error signals from multiple contexts can interfere with one another, ultimately leading to a phenomenon known as catastrophic forgetting. In this article we investigate biologically inspired architectures as solutions to these problems. Specifically, we show that the biophysical properties of dendrites and local inhibitory systems enable networks to dynamically restrict and route information in a context-specific manner. Our key contributions are as follows. First, we propose a novel artificial neural network architecture that incorporates active dendrites and sparse representations into the standard deep learning framework. Next, we study the performance of this architecture on two separate benchmarks requiring task-based adaptation: Meta-World, a multi-task reinforcement learning environment where a robotic agent must learn to solve a variety of manipulation tasks simultaneously; and a continual learning benchmark in which the model's prediction task changes throughout training. Analysis on both benchmarks demonstrates the emergence of overlapping but distinct and sparse subnetworks, allowing the system to fluidly learn multiple tasks with minimal forgetting. Our neural implementation marks the first time a single architecture has achieved competitive results on both multi-task and continual learning settings. Our research sheds light on how biological properties of neurons can inform deep learning systems to address dynamic scenarios that are typically impossible for traditional ANNs to solve.
• Abstract（参考訳）: AIの鍵となる課題は、動的に変化する環境で動作する組み込みシステムを構築することだ。 このようなシステムはタスクコンテキストの変更に適応し、継続的に学習する必要があります。 標準的なディープラーニングシステムは静的ベンチマークで技術結果の状態を達成しているが、動的シナリオではしばしば苦労する。 これらの設定では、複数のコンテキストからのエラー信号が互いに干渉し合い、最終的には破滅的な忘れという現象につながる。 本稿では,これらの問題の解決策として生物学的にインスパイアされたアーキテクチャについて検討する。 具体的には,デンドライトと局所阻害系の生物物理特性により,ネットワークが動的に情報制限や経路を動的に制御できることを示す。 主な貢献は以下の通りである。 まず、アクティブなデンドライトとスパース表現を標準のディープラーニングフレームワークに組み込んだ新しい人工ニューラルネットワークアーキテクチャを提案する。 次に,ロボットエージェントが様々な操作タスクを同時に解くことを学ばなければならないマルチタスク強化学習環境であるMeta-Worldと,モデルの予測タスクがトレーニングを通して変化する連続学習ベンチマークである。 両方のベンチマークの分析は、重複するが区別され、スパースなサブネットワークの出現を示し、システムは最小限の忘れ物で複数のタスクを流動的に学習することができる。 私たちのニューラル実装は、マルチタスクと連続的な学習設定の両方において、単一のアーキテクチャが競合する結果を達成した初めてのものです。 私たちの研究は、神経の生物学的特性がディープラーニングシステムに対して、従来のannでは解決できない動的なシナリオに対処する方法に光を当てています。

関連論文リスト

• Learning System Dynamics without Forgetting [60.08612207170659]
  未知の力学を持つ系の軌道予測は、物理学や生物学を含む様々な研究分野において重要である。 本稿では,モードスイッチンググラフODE (MS-GODE) の新たなフレームワークを提案する。 生体力学の異なる多様な系を特徴とする生体力学システムの新しいベンチマークを構築した。
  論文  参考訳（メタデータ） (2024-06-30T14:55:18Z)
• Efficient PAC Learnability of Dynamical Systems Over Multilayer Networks [30.424671907681688]
  より現実的で困難な多層ネットワーク上での動的システムの学習可能性について検討する。 本研究では,学習者が未知のシステムを推論するために,少数の学習例のみを必要とすることを示すための証明可能な保証付き効率的なPAC学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-05-11T02:35:08Z)
• On the effectiveness of neural priors in modeling dynamical systems [28.69155113611877]
  ニューラルネットワークがそのようなシステムを学ぶ際に提供するアーキテクチャの規則化について論じる。 動的システムをモデル化する際の複数の問題を解決するために,レイヤ数が少ない単純な座標ネットワークが利用できることを示す。
  論文  参考訳（メタデータ） (2023-03-10T06:21:24Z)
• Continual Learning, Fast and Slow [75.53144246169346]
  補完学習システム理論(Complementary Learning Systems theory)によれば、人間は2つの相補的なシステムを通して効果的な共連続学習を行う。 EmphDualNets(Dual Networks)は、タスクの教師付き学習のための高速学習システムと、自己監視学習(SSL)によるタスク非依存の汎用表現の表現学習のための遅い学習システムからなる、一般的な連続学習フレームワークである。 我々はDualNetsの有望な成果を、標準的なオフラインタスク認識設定から、オンラインタスクフリーシナリオまで、幅広い連続的な学習プロトコルで実証する。
  論文  参考訳（メタデータ） (2022-09-06T10:48:45Z)
• Learning Contact Dynamics using Physically Structured Neural Networks [81.73947303886753]
  ディープニューラルネットワークと微分方程式の接続を用いて、オブジェクト間の接触ダイナミクスを表現するディープネットワークアーキテクチャのファミリを設計する。 これらのネットワークは,ノイズ観測から不連続な接触事象をデータ効率良く学習できることを示す。 以上の結果から,タッチフィードバックの理想化形態は,この学習課題を扱いやすくするための重要な要素であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-22T17:33:51Z)
• Neural Dynamic Policies for End-to-End Sensorimotor Learning [51.24542903398335]
  感覚運動制御における現在の主流パラダイムは、模倣であれ強化学習であれ、生の行動空間で政策を直接訓練することである。 軌道分布空間の予測を行うニューラル・ダイナミック・ポリシー(NDP)を提案する。 NDPは、いくつかのロボット制御タスクにおいて、効率と性能の両面で、これまでの最先端よりも優れている。
  論文  参考訳（メタデータ） (2020-12-04T18:59:32Z)
• Learning to Continuously Optimize Wireless Resource In Episodically Dynamic Environment [55.91291559442884]
  この研究は、データ駆動型手法が動的環境で継続的に学習し、最適化できる方法論を開発する。 本稿では,無線システム学習のモデリングプロセスに連続学習の概念を構築することを提案する。 我々の設計は、異なるデータサンプル間で「一定の公正性を保証する」新しいmin-maxの定式化に基づいている。
  論文  参考訳（メタデータ） (2020-11-16T08:24:34Z)
• Estimating Linear Dynamical Networks of Cyclostationary Processes [0.0]
  本稿では,サイクロ定常プロセスに励起されたネットワークにおけるトポロジ学習のための新しいアルゴリズムを提案する。 以前の作業とは異なり、このフレームワークは複雑な依存性を持つ線形動的システムに適用される。 本論文の第2部では,ネットワークのサブセットが観測されていない場合の双方向ラジアルネットワークにおける一貫したトポロジ学習条件を解析する。
  論文  参考訳（メタデータ） (2020-09-26T18:54:50Z)
• Automated Search for Resource-Efficient Branched Multi-Task Networks [81.48051635183916]
  我々は,多タスクニューラルネットワークにおける分岐構造を自動的に定義する,微分可能なニューラルネットワーク探索に根ざした原理的アプローチを提案する。 本手法は,限られた資源予算内で高い性能の分岐構造を見いだすことができる。
  論文  参考訳（メタデータ） (2020-08-24T09:49:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。