論文の概要: Learning to Learn: How to Continuously Teach Humans and Machines
- arxiv url: http://arxiv.org/abs/2211.15470v1
- Date: Mon, 28 Nov 2022 15:53:44 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-29 18:58:35.907575
- Title: Learning to Learn: How to Continuously Teach Humans and Machines
- Title（参考訳）: 学ぶこと:人間と機械を継続的に教育する方法
- Authors: Parantak Singh, You Li, Ankur Sikarwar, Weixian Lei, Daniel Gao,
Morgan Bruce Talbot, Ying Sun, Mike Zheng Shou, Gabriel Kreiman, Mengmi Zhang
- Abstract要約: 人間か機械のどちらかを教えるためのカリキュラムを記述することは、ポジティブな知識伝達を最大化するという基本的な目標を共有する。
クラキュラがクラス増分設定における既存の継続学習アルゴリズムに与える影響を網羅的に調査した。
我々のカリキュラムデザイナは、人間の学習に有効な最適なカリキュラムセットをうまく予測する。
- 参考スコア（独自算出の注目度）: 10.565166082139273
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Our education system comprises a series of curricula. For example, when we
learn mathematics at school, we learn in order from addition, to
multiplication, and later to integration. Delineating a curriculum for teaching
either a human or a machine shares the underlying goal of maximizing the
positive knowledge transfer from early to later tasks and minimizing forgetting
of the early tasks. Here, we exhaustively surveyed the effect of curricula on
existing continual learning algorithms in the class-incremental setting, where
algorithms must learn classes one at a time from a continuous stream of data.
We observed that across a breadth of possible class orders (curricula),
curricula influence the retention of information and that this effect is not
just a product of stochasticity. Further, as a primary effort toward automated
curriculum design, we proposed a method capable of designing and ranking
effective curricula based on inter-class feature similarities. We compared the
predicted curricula against empirically determined effectual curricula and
observed significant overlaps between the two. To support the study of a
curriculum designer, we conducted a series of human psychophysics experiments
and contributed a new Continual Learning benchmark in object recognition. We
assessed the degree of agreement in effective curricula between humans and
machines. Surprisingly, our curriculum designer successfully predicts an
optimal set of curricula that is effective for human learning. There are many
considerations in curriculum design, such as timely student feedback and
learning with multiple modalities. Our study is the first attempt to set a
standard framework for the community to tackle the problem of teaching humans
and machines to learn to learn continuously.
- Abstract（参考訳）: 我々の教育システムは一連のカリキュラムで構成されている。
例えば、学校で数学を学ぶとき、加算から乗算へ、そして後に積分へ順に学習する。
人間または機械に教えるためのカリキュラムを記述することは、初期のタスクから後のタスクへのポジティブな知識伝達を最大化し、初期のタスクの忘れを最小化するという基本的な目標を共有します。
そこで我々は,アルゴリズムが連続的なデータストリームから一度に1つのクラスを学習しなければならないクラスインクリメンタルセッティングにおいて,カリキュラムが既存の継続学習アルゴリズムに与える影響を網羅的に調査した。
我々は,可能な級数(カリキュラム)の幅の広い範囲において,キュリキュラは情報の保持に影響を与え,この効果は確率性の産物ではないことを見出した。
さらに, 自動カリキュラム設計への取り組みとして, クラス間特徴類似度に基づいて, 効果的なカリキュラムを設計・ランク付けする手法を提案する。
実測値と実測値との比較を行い,両者の間に有意な重複が認められた。
カリキュラム設計者の研究を支援するために,人間心理物理学実験を行い,物体認識における新しい連続学習ベンチマークを作成した。
我々は人間と機械の効果的なカリキュラムにおける合意度を評価した。
驚いたことに、我々のカリキュラムデザイナーは、人間の学習に有効な最適なカリキュラムセットを予測できた。
カリキュラムデザインには、タイムリーな学生のフィードバックや複数のモダリティによる学習など、多くの考慮事項がある。
私たちの研究は、人間や機械に継続的な学習を教えることの課題に取り組むための、コミュニティの標準フレームワークを設定する最初の試みである。
関連論文リスト
- Continual Learning of Numerous Tasks from Long-tail Distributions [17.706669222987273]
継続的な学習は、以前獲得した知識を維持しながら、新しいタスクを学習し、適応するモデルの開発に焦点を当てる。
既存の連続学習アルゴリズムは、通常、一定の大きさの少数のタスクを伴い、現実世界の学習シナリオを正確に表現しないことがある。
本稿では,従来のタスクから第2モーメントの重み付け平均を維持することで,アダムの状態を再利用する手法を提案する。
提案手法は,既存のほとんどの連続学習アルゴリズムと互換性があり,少ない計算量やメモリコストで忘れを効果的に削減できることを実証する。
論文 参考訳（メタデータ） (2024-04-03T13:56:33Z) - Teacher-student curriculum learning for reinforcement learning [1.7259824817932292]
強化学習(rl)は、シーケンシャルな意思決定問題に対する一般的なパラダイムである。
深部強化学習手法のサンプル非効率性は,実世界の問題に適用する際の重要な障害である。
そこで我々は,学生が選択した課題の解き方を学習している間に,生徒の課題を選択する教師を同時に訓練する学習環境を提案する。
論文 参考訳（メタデータ） (2022-10-31T14:45:39Z) - Learning Multi-Objective Curricula for Deep Reinforcement Learning [55.27879754113767]
深部強化学習(DRL)のサンプル効率と最終性能を向上させるために,各種自動カリキュラム学習(ACL)手法が提案されている。
本稿では,多目的だがコヒーレントなカリキュラムを作成するための統合された自動カリキュラム学習フレームワークを提案する。
既存の手設計のカリキュラムパラダイムに加えて,抽象カリキュラムを学習するためのフレキシブルなメモリ機構を設計する。
論文 参考訳（メタデータ） (2021-10-06T19:30:25Z) - Iterative Teacher-Aware Learning [136.05341445369265]
人間の教育において、教師と学生はコミュニケーション効率を最大化するために適応的に交流することができる。
本稿では,教師の協調意図を可能性関数に組み込むことができる,勾配最適化に基づく教師認識学習者を提案する。
論文 参考訳（メタデータ） (2021-10-01T00:27:47Z) - An Analytical Theory of Curriculum Learning in Teacher-Student Networks [10.303947049948107]
人間や動物では、カリキュラム学習は迅速な学習と効果的な教育に不可欠である。
機械学習では、キュリキュラは広く使われておらず、経験的には適度な利益しか得られない。
論文 参考訳（メタデータ） (2021-06-15T11:48:52Z) - Coarse-to-Fine Curriculum Learning [26.213618168827026]
本稿では,課題をより簡単な中間目標のシーケンスに分解する新しいカリキュラム学習手法を提案する。
分類タスクに焦点をあて、自動構築されたラベル階層を用いて中間タスクを設計する。
特にラベルの分類問題において顕著な性能向上を示した。
論文 参考訳（メタデータ） (2021-06-08T03:09:38Z) - Ten Quick Tips for Deep Learning in Biology [116.78436313026478]
機械学習は、データのパターンを認識し、予測モデリングに使用するアルゴリズムの開発と応用に関係している。
ディープラーニングは、独自の機械学習のサブフィールドになっている。
生物学的研究の文脈において、ディープラーニングは高次元の生物学的データから新しい洞察を導き出すためにますます使われてきた。
論文 参考訳（メタデータ） (2021-05-29T21:02:44Z) - Curriculum Learning: A Survey [65.31516318260759]
カリキュラム学習戦略は、機械学習のあらゆる分野で成功している。
我々は,様々な分類基準を考慮して,カリキュラム学習アプローチの分類を手作業で構築する。
集約型クラスタリングアルゴリズムを用いて,カリキュラム学習手法の階層木を構築する。
論文 参考訳（メタデータ） (2021-01-25T20:08:32Z) - COG: Connecting New Skills to Past Experience with Offline Reinforcement
Learning [78.13740204156858]
我々は、動的プログラミングによって新しいスキルを拡張するために、事前データを再利用できることを示します。
我々は、新しいタスクを解決するために、以前のデータセットに見られるいくつかの動作をチェーンすることで、アプローチの有効性を実証する。
我々は、高次元画像観察を低レベルのロボット制御コマンドにマッピングし、エンドツーエンドでポリシーを訓練する。
論文 参考訳（メタデータ） (2020-10-27T17:57:29Z) - Mastering Rate based Curriculum Learning [78.45222238426246]
学習の進行という概念には、学習者のサンプル効率の低下につながるいくつかの欠点があると主張する。
本稿では,習得率の概念に基づく新しいアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-08-14T16:34:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。