論文の概要: Learning to Learn: How to Continuously Teach Humans and Machines

• arxiv url: http://arxiv.org/abs/2211.15470v2
• Date: Thu, 17 Aug 2023 15:24:56 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-22 01:06:54.582085
• Title: Learning to Learn: How to Continuously Teach Humans and Machines
• Title（参考訳）: 学ぶこと:人間と機械を継続的に教育する方法
• Authors: Parantak Singh, You Li, Ankur Sikarwar, Weixian Lei, Daniel Gao, Morgan Bruce Talbot, Ying Sun, Mike Zheng Shou, Gabriel Kreiman, Mengmi Zhang
• Abstract要約: カリキュラムは、人間と複数の連続機械学習アルゴリズムの学習結果に一貫して影響を与えている。 本稿では,クラス間特徴類似度に基づいてキュリキュラの設計とランク付けを行う,Curriculum Designer (CD) という新しいアルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 24.29443694991142
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Curriculum design is a fundamental component of education. For example, when we learn mathematics at school, we build upon our knowledge of addition to learn multiplication. These and other concepts must be mastered before our first algebra lesson, which also reinforces our addition and multiplication skills. Designing a curriculum for teaching either a human or a machine shares the underlying goal of maximizing knowledge transfer from earlier to later tasks, while also minimizing forgetting of learned tasks. Prior research on curriculum design for image classification focuses on the ordering of training examples during a single offline task. Here, we investigate the effect of the order in which multiple distinct tasks are learned in a sequence. We focus on the online class-incremental continual learning setting, where algorithms or humans must learn image classes one at a time during a single pass through a dataset. We find that curriculum consistently influences learning outcomes for humans and for multiple continual machine learning algorithms across several benchmark datasets. We introduce a novel-object recognition dataset for human curriculum learning experiments and observe that curricula that are effective for humans are highly correlated with those that are effective for machines. As an initial step towards automated curriculum design for online class-incremental learning, we propose a novel algorithm, dubbed Curriculum Designer (CD), that designs and ranks curricula based on inter-class feature similarities. We find significant overlap between curricula that are empirically highly effective and those that are highly ranked by our CD. Our study establishes a framework for further research on teaching humans and machines to learn continuously using optimized curricula.
• Abstract（参考訳）: カリキュラムデザインは教育の基本要素である。 例えば、学校で数学を学ぶとき、算術を学ぶために加算の知識の上に構築する。 これらの概念や他の概念は、最初の代数のレッスンの前にマスターされなければならない。 人間か機械のどちらかを教えるためのカリキュラムを設計することは、学習されたタスクの忘れを最小化しながら、前から後のタスクからの知識伝達を最大化するという基本的な目標を共有する。 画像分類のためのカリキュラム設計に関する事前の研究は、単一のオフラインタスク中のトレーニング例の順序付けに焦点を当てている。 本稿では,複数の異なるタスクがシーケンスで学習される順序の影響について検討する。 そこでは、アルゴリズムや人間が、データセットを1回に1度に1つの画像クラスを学習しなければならない。 カリキュラムは、人間の学習結果と、複数のベンチマークデータセットにわたる複数の連続機械学習アルゴリズムに一貫して影響を与えている。 本稿では,人間のカリキュラム学習実験のための新しい物体認識データセットを導入し,人間に有効なカリキュラムと機械に有効なカリキュラムとの相関度が高いことを観察する。 オンライン授業増分学習のためのカリキュラムの自動設計への最初のステップとして,クラス間の特徴類似性に基づいてカリキュラムを設計・ランク付けする,Curriculum Designer (CD) と呼ばれる新しいアルゴリズムを提案する。 経験的に高い効果を示すカリキュラムと,cdで高いランク付けされた曲との間に有意な重複がみられた。 本研究は,最適化されたカリキュラムを用いて,人間や機械に継続的な学習を教えるための枠組みを確立する。

関連論文リスト

• Continual Learning of Numerous Tasks from Long-tail Distributions [17.706669222987273]
  継続的な学習は、以前獲得した知識を維持しながら、新しいタスクを学習し、適応するモデルの開発に焦点を当てる。 既存の連続学習アルゴリズムは、通常、一定の大きさの少数のタスクを伴い、現実世界の学習シナリオを正確に表現しないことがある。 本稿では,従来のタスクから第2モーメントの重み付け平均を維持することで,アダムの状態を再利用する手法を提案する。 提案手法は,既存のほとんどの連続学習アルゴリズムと互換性があり,少ない計算量やメモリコストで忘れを効果的に削減できることを実証する。
  論文  参考訳（メタデータ） (2024-04-03T13:56:33Z)
• Teacher-student curriculum learning for reinforcement learning [1.7259824817932292]
  強化学習(rl)は、シーケンシャルな意思決定問題に対する一般的なパラダイムである。 深部強化学習手法のサンプル非効率性は,実世界の問題に適用する際の重要な障害である。 そこで我々は,学生が選択した課題の解き方を学習している間に,生徒の課題を選択する教師を同時に訓練する学習環境を提案する。
  論文  参考訳（メタデータ） (2022-10-31T14:45:39Z)
• Learning Multi-Objective Curricula for Deep Reinforcement Learning [55.27879754113767]
  深部強化学習(DRL)のサンプル効率と最終性能を向上させるために,各種自動カリキュラム学習(ACL)手法が提案されている。 本稿では,多目的だがコヒーレントなカリキュラムを作成するための統合された自動カリキュラム学習フレームワークを提案する。 既存の手設計のカリキュラムパラダイムに加えて,抽象カリキュラムを学習するためのフレキシブルなメモリ機構を設計する。
  論文  参考訳（メタデータ） (2021-10-06T19:30:25Z)
• Iterative Teacher-Aware Learning [136.05341445369265]
  人間の教育において、教師と学生はコミュニケーション効率を最大化するために適応的に交流することができる。 本稿では,教師の協調意図を可能性関数に組み込むことができる,勾配最適化に基づく教師認識学習者を提案する。
  論文  参考訳（メタデータ） (2021-10-01T00:27:47Z)
• An Analytical Theory of Curriculum Learning in Teacher-Student Networks [10.303947049948107]
  人間や動物では、カリキュラム学習は迅速な学習と効果的な教育に不可欠である。 機械学習では、キュリキュラは広く使われておらず、経験的には適度な利益しか得られない。
  論文  参考訳（メタデータ） (2021-06-15T11:48:52Z)
• Coarse-to-Fine Curriculum Learning [26.213618168827026]
  本稿では,課題をより簡単な中間目標のシーケンスに分解する新しいカリキュラム学習手法を提案する。 分類タスクに焦点をあて、自動構築されたラベル階層を用いて中間タスクを設計する。 特にラベルの分類問題において顕著な性能向上を示した。
  論文  参考訳（メタデータ） (2021-06-08T03:09:38Z)
• Ten Quick Tips for Deep Learning in Biology [116.78436313026478]
  機械学習は、データのパターンを認識し、予測モデリングに使用するアルゴリズムの開発と応用に関係している。 ディープラーニングは、独自の機械学習のサブフィールドになっている。 生物学的研究の文脈において、ディープラーニングは高次元の生物学的データから新しい洞察を導き出すためにますます使われてきた。
  論文  参考訳（メタデータ） (2021-05-29T21:02:44Z)
• Curriculum Learning: A Survey [65.31516318260759]
  カリキュラム学習戦略は、機械学習のあらゆる分野で成功している。 我々は,様々な分類基準を考慮して,カリキュラム学習アプローチの分類を手作業で構築する。 集約型クラスタリングアルゴリズムを用いて,カリキュラム学習手法の階層木を構築する。
  論文  参考訳（メタデータ） (2021-01-25T20:08:32Z)
• COG: Connecting New Skills to Past Experience with Offline Reinforcement Learning [78.13740204156858]
  我々は、動的プログラミングによって新しいスキルを拡張するために、事前データを再利用できることを示します。 我々は、新しいタスクを解決するために、以前のデータセットに見られるいくつかの動作をチェーンすることで、アプローチの有効性を実証する。 我々は、高次元画像観察を低レベルのロボット制御コマンドにマッピングし、エンドツーエンドでポリシーを訓練する。
  論文  参考訳（メタデータ） (2020-10-27T17:57:29Z)
• Mastering Rate based Curriculum Learning [78.45222238426246]
  学習の進行という概念には、学習者のサンプル効率の低下につながるいくつかの欠点があると主張する。 本稿では,習得率の概念に基づく新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-08-14T16:34:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。