論文の概要: A Deep Learning Framework for Lifelong Machine Learning

• arxiv url: http://arxiv.org/abs/2105.00157v1
• Date: Sat, 1 May 2021 03:43:25 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-04 14:07:20.607670
• Title: A Deep Learning Framework for Lifelong Machine Learning
• Title（参考訳）: 生涯機械学習のためのディープラーニングフレームワーク
• Authors: Charles X. Ling, Tanner Bohn
• Abstract要約: シンプルなながら強力な統合型ディープラーニングフレームワークを提案する。 当社のフレームワークは、これらのプロパティとアプローチのほぼすべてを1つの中央機構でサポートします。 この統一生涯学習フレームワークが、大規模な実験と人間の学習全般への新しい取り組みを刺激することを期待している。
• 参考スコア（独自算出の注目度）: 6.662800021628275
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Humans can learn a variety of concepts and skills incrementally over the course of their lives while exhibiting many desirable properties, such as continual learning without forgetting, forward transfer and backward transfer of knowledge, and learning a new concept or task with only a few examples. Several lines of machine learning research, such as lifelong machine learning, few-shot learning, and transfer learning attempt to capture these properties. However, most previous approaches can only demonstrate subsets of these properties, often by different complex mechanisms. In this work, we propose a simple yet powerful unified deep learning framework that supports almost all of these properties and approaches through one central mechanism. Experiments on toy examples support our claims. We also draw connections between many peculiarities of human learning (such as memory loss and "rain man") and our framework. As academics, we often lack resources required to build and train, deep neural networks with billions of parameters on hundreds of TPUs. Thus, while our framework is still conceptual, and our experiment results are surely not SOTA, we hope that this unified lifelong learning framework inspires new work towards large-scale experiments and understanding human learning in general. This paper is summarized in two short YouTube videos: https://youtu.be/gCuUyGETbTU (part 1) and https://youtu.be/XsaGI01b-1o (part 2).
• Abstract（参考訳）: 人間は人生を通じて様々な概念やスキルを段階的に学びながら、忘れない継続的な学習、知識の前方移動と後方移動、少数の例で新しい概念やタスクを学ぶなど、多くの望ましい特性を示すことができる。 生涯にわたる機械学習、数ショットの学習、これらの特性を捉えようとする移動学習など、機械学習研究のいくつかの行。 しかし、ほとんどの以前のアプローチは、しばしば異なる複雑なメカニズムによって、これらの性質のサブセットしか示さない。 本研究では,これらの特性とアプローチのほぼすべてをサポートする,シンプルだが強力な統合型ディープラーニングフレームワークを提案する。 おもちゃの例の実験は我々の主張を裏付ける。 また、人間学習の多くの特徴(記憶喪失や「人間」など)と我々の枠組みとのつながりも引き合いに出した。 学者として、数百のTPU上で数十億のパラメータを持つディープニューラルネットワークの構築とトレーニングに必要なリソースが欠如していることが多い。 このように、我々のフレームワークはまだ概念的であり、実験結果は確実にSOTAではないものの、この統合された生涯学習フレームワークが大規模な実験への新たな取り組みを促し、人間の学習全般を理解することを願っている。 この論文は2つの短いYouTubeビデオで要約されている: https://youtu.be/gCuUyGETbTU (part 1) と https://youtu.be/XsaGI01b-1o (part2)。

関連論文リスト

• Efficient and robust multi-task learning in the brain with modular task primitives [2.6166087473624318]
  タスクプリミティブを具備したモジュールネットワークは,パラメータ数と更新率を低く保ちながら,複数のタスクを適切に学習することができることを示す。 また,本手法により得られたスキルは,他のマルチタスク学習戦略に比べて幅広い摂動に対してより堅牢であることを示す。
  論文  参考訳（メタデータ） (2021-05-28T21:07:54Z)
• MT-Opt: Continuous Multi-Task Robotic Reinforcement Learning at Scale [103.7609761511652]
  大規模集団ロボット学習システムが,行動のレパートリーを同時に獲得できることを示す。 新しいタスクは、以前学んだタスクから継続的にインスタンス化できる。 我々は,7台のロボットから収集したデータを用いて,実世界のタスク12組でシステムを訓練し,評価する。
  論文  参考訳（メタデータ） (2021-04-16T16:38:02Z)
• Reinforcement Learning with Videos: Combining Offline Observations with Interaction [151.73346150068866]
  強化学習は、ロボットが経験からスキルを得るための強力なフレームワークである。 人間のビデオは、広くて興味深い体験のソースとしてすぐに手に入る。 ビデオによる強化学習のためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-11-12T17:15:48Z)
• Hierarchical Affordance Discovery using Intrinsic Motivation [69.9674326582747]
  本研究では,移動ロボットの価格学習を支援するために,本質的なモチベーションを用いたアルゴリズムを提案する。 このアルゴリズムは、事前にプログラムされたアクションなしで、相互に関連のある価格を自律的に発見し、学習し、適応することができる。 一度学習すると、これらの余裕はアルゴリズムによって様々な困難を伴うタスクを実行するために一連のアクションを計画するために使われる。
  論文  参考訳（メタデータ） (2020-09-23T07:18:21Z)
• An Overview of Deep Learning Architectures in Few-Shot Learning Domain [0.0]
  Few-Shot Learning(ワンショットラーニング、Few-Shot Learning)は、機械学習のサブフィールドであり、少ないデータで望ましい目的を学習できるモデルを作成することを目的としている。 我々は、いくつかのショットラーニングに対するよく知られたディープラーニングベースのアプローチをレビューした。
  論文  参考訳（メタデータ） (2020-08-12T06:58:45Z)
• Self-supervised Knowledge Distillation for Few-shot Learning [123.10294801296926]
  少数のサンプルだけで秩序分布から素早く学習できるため、ショットラーニングは有望な学習パラダイムである。 数ショットの学習タスクにおいて,深層ニューラルネットワークの表現能力を向上させるための簡単な手法を提案する。 実験により、第一段階においても、自己超越は現在の最先端手法より優れていることが示された。
  論文  参考訳（メタデータ） (2020-06-17T11:27:00Z)
• The Ingredients of Real-World Robotic Reinforcement Learning [71.92831985295163]
  実世界で収集されたデータによって継続的に自律的に改善できるロボット学習システムに必要な要素について論じる。 本稿では,このようなシステムの特異なインスタンス化を事例として,デクスタラスな操作を事例として提案する。 我々は人間の介入なしに学習できることを実証し、現実世界の3本指の手で様々な視覚ベースのスキルを習得する。
  論文  参考訳（メタデータ） (2020-04-27T03:36:10Z)
• Dark, Beyond Deep: A Paradigm Shift to Cognitive AI with Humanlike Common Sense [142.53911271465344]
  我々は、次世代のAIは、新しいタスクを解決するために、人間のような「暗黒」の常識を取り入れなければならないと論じている。 我々は、人間のような常識を持つ認知AIの5つの中核領域として、機能、物理学、意図、因果性、実用性(FPICU)を識別する。
  論文  参考訳（メタデータ） (2020-04-20T04:07:28Z)
• Learning as Reinforcement: Applying Principles of Neuroscience for More General Reinforcement Learning Agents [1.0742675209112622]
  我々は、生物学的アルゴリズムの計算効率の良い抽象化を組み合わせることによって、実験神経科学の原理に基づいて構築されたアーキテクチャを実装する。 我々のアプローチは、スパイク刺激依存塑性の研究、短期記憶と長期記憶の遷移、および好奇心に対する様々な神経伝達物質の役割に着想を得たものである。 Neurons-in-a-Boxアーキテクチャは、完全に一般化可能な方法で学習することができ、一連の基準やアクションを明示的に最適化することなく、表現を構築し、適用するための効率的な方法を示す。
  論文  参考訳（メタデータ） (2020-04-20T04:06:21Z)
• Intelligence, physics and information -- the tradeoff between accuracy and simplicity in machine learning [5.584060970507507]
  私は、インテリジェンスを多くの統合的な側面で見ることと、タスクのパフォーマンスと複雑さの間の普遍的な2日間のトレードオフは、2つの実現可能な視点を提供すると信じています。 この論文では、インテリジェンスのいくつかの側面においていくつかの重要な問題に対処し、2期間のトレードオフにおける相転移について研究する。
  論文  参考訳（メタデータ） (2020-01-11T18:34:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。