論文の概要: The Next Big Thing(s) in Unsupervised Machine Learning: Five Lessons
from Infant Learning
- arxiv url: http://arxiv.org/abs/2009.08497v1
- Date: Thu, 17 Sep 2020 18:47:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-17 08:00:52.207364
- Title: The Next Big Thing(s) in Unsupervised Machine Learning: Five Lessons
from Infant Learning
- Title(参考訳): 教師なし機械学習における次の大きな意味:幼児学習から学ぶ5つの教訓
- Authors: Lorijn Zaadnoordijk, Tarek R. Besold, Rhodri Cusack
- Abstract要約: 我々は、幼児認知の発達科学が、次世代の教師なし学習アプローチの鍵を握るかもしれないと主張している。
ヒトの幼児の学習は、人工的な教師なし学習と最も平行な生物学的な学習であり、幼児もまた、未学習のデータから有用な表現を学ばなければならない。
幼児の学習の質と速さを実現する5つの重要な要因を特定し、これらがすでに機械学習で活用されている範囲を評価し、これらの要因のさらなる採用が、教師なし学習におけるこれまで見られなかったパフォーマンスレベルをいかに引き起こすかを提案する。
- 参考スコア(独自算出の注目度): 2.9005223064604078
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: After a surge in popularity of supervised Deep Learning, the desire to reduce
the dependence on curated, labelled data sets and to leverage the vast
quantities of unlabelled data available recently triggered renewed interest in
unsupervised learning algorithms. Despite a significantly improved performance
due to approaches such as the identification of disentangled latent
representations, contrastive learning, and clustering optimisations, the
performance of unsupervised machine learning still falls short of its
hypothesised potential. Machine learning has previously taken inspiration from
neuroscience and cognitive science with great success. However, this has mostly
been based on adult learners with access to labels and a vast amount of prior
knowledge. In order to push unsupervised machine learning forward, we argue
that developmental science of infant cognition might hold the key to unlocking
the next generation of unsupervised learning approaches. Conceptually, human
infant learning is the closest biological parallel to artificial unsupervised
learning, as infants too must learn useful representations from unlabelled
data. In contrast to machine learning, these new representations are learned
rapidly and from relatively few examples. Moreover, infants learn robust
representations that can be used flexibly and efficiently in a number of
different tasks and contexts. We identify five crucial factors enabling
infants' quality and speed of learning, assess the extent to which these have
already been exploited in machine learning, and propose how further adoption of
these factors can give rise to previously unseen performance levels in
unsupervised learning.
- Abstract(参考訳): 教師なしのディープラーニングの人気が高まった後、ラベル付きデータセットへの依存を減らし、利用可能な膨大な量の未学習データを活用したいという欲求は、教師なしの学習アルゴリズムへの新たな関心を呼び起こした。
歪んだ潜在表現の同定やコントラスト学習、クラスタリング最適化といったアプローチによる性能改善にもかかわらず、教師なし機械学習の性能は仮説化されたポテンシャルに劣っている。
機械学習は以前、神経科学と認知科学からインスピレーションを受け、大きな成功を収めた。
しかし、これは主に、ラベルへのアクセスと大量の事前知識を持つ成人学習者に基づいている。
教師なし機械学習を推し進めるために、幼児認知の発達科学が、教師なし学習の次世代アプローチを解き放つ鍵となるかもしれないと論じる。
概念的には、人間の幼児の学習は、人工的な教師なし学習に最も近い生物学的な並列性である。
機械学習とは対照的に、これらの新しい表現は、比較的少数の例から素早く学習される。
さらに、幼児は様々なタスクや状況において柔軟かつ効率的に使用できる堅牢な表現を学ぶ。
幼児の学習の質と速さを可能にする5つの重要な要因を特定し,これらが機械学習で既に活用されている範囲を評価し,教師なし学習におけるそれまで認識されていなかったパフォーマンスレベルを,これらの要因がいかに高めることができるかを提案する。
関連論文リスト
- Enhancing Generative Class Incremental Learning Performance with Model Forgetting Approach [50.36650300087987]
本研究は, ジェネレーティブ・クラス・インクリメンタル・ラーニング(GCIL, Generative Class Incremental Learning)への新たなアプローチを提案する。
我々は, 忘れる機構の統合により, 新たな知識獲得におけるモデルの性能が著しく向上することを発見した。
論文 参考訳(メタデータ) (2024-03-27T05:10:38Z) - Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。
PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
論文 参考訳(メタデータ) (2023-08-15T16:37:16Z) - A newborn embodied Turing test for view-invariant object recognition [0.0]
我々は、新生児の動物や機械を同じ環境で育て、同じタスクでテストできる「新生児体化チューリングテスト」を提案する。
このプラットフォームを構築するために、私たちはまず生まれたばかりのニワトリから制御可能なデータを収集し、次に、ニワトリの飼育条件を模倣する仮想環境で機械が育てられる「デジタルツイン」実験を行った。
論文 参考訳(メタデータ) (2023-06-08T22:46:31Z) - Responsible Active Learning via Human-in-the-loop Peer Study [88.01358655203441]
我々は,データプライバシを同時に保持し,モデルの安定性を向上させるために,Pear Study Learning (PSL) と呼ばれる責任あるアクティブラーニング手法を提案する。
まず,クラウドサイドのタスク学習者(教師)から未学習データを分離する。
トレーニング中、タスク学習者は軽量なアクティブ学習者に指示し、アクティブサンプリング基準に対するフィードバックを提供する。
論文 参考訳(メタデータ) (2022-11-24T13:18:27Z) - Activation Learning by Local Competitions [4.441866681085516]
我々は,神経細胞間の局所的な競合によって特徴を見出す,生物学に着想を得た学習ルールを開発した。
この局所学習規則によって学習された教師なし特徴が事前学習モデルとして機能することが実証された。
論文 参考訳(メタデータ) (2022-09-26T10:43:29Z) - Continual Learning with Bayesian Model based on a Fixed Pre-trained
Feature Extractor [55.9023096444383]
現在のディープラーニングモデルは、新しいクラスを学ぶ際に古い知識を破滅的に忘れることによって特徴づけられる。
人間の脳における新しい知識の学習プロセスに着想を得て,連続学習のためのベイズ生成モデルを提案する。
論文 参考訳(メタデータ) (2022-04-28T08:41:51Z) - Understand and Improve Contrastive Learning Methods for Visual
Representation: A Review [1.4650545418986058]
手動ラベリングなしで効果的なデータ表現を学習できる可能性から、有望な自己教師型学習が人気を集めている。
本文献レビューは, 自己指導型学習の鍵となる構成要素と限界を理解するための研究者の取り組みについて, 最新の分析を行うことを目的としている。
論文 参考訳(メタデータ) (2021-06-06T21:59:49Z) - Ten Quick Tips for Deep Learning in Biology [116.78436313026478]
機械学習は、データのパターンを認識し、予測モデリングに使用するアルゴリズムの開発と応用に関係している。
ディープラーニングは、独自の機械学習のサブフィールドになっている。
生物学的研究の文脈において、ディープラーニングは高次元の生物学的データから新しい洞察を導き出すためにますます使われてきた。
論文 参考訳(メタデータ) (2021-05-29T21:02:44Z) - Self-supervised learning through the eyes of a child [35.235974685889396]
汎用的な自己教師型学習目標を用いた,発達的な自然映像から高レベルな視覚表現が出現することを示す。
以上の結果から,発達的に現実的な自然映像から高レベルな視覚表現が出現することが示唆された。
論文 参考訳(メタデータ) (2020-07-31T17:33:45Z) - A Developmental Neuro-Robotics Approach for Boosting the Recognition of
Handwritten Digits [91.3755431537592]
近年のエビデンスでは、子どもの体現戦略をシミュレーションすることで、マシンインテリジェンスも改善できることが示されている。
本稿では,発達神経ロボティクスの文脈における畳み込みニューラルネットワークモデルへの具体的戦略の適用について検討する。
論文 参考訳(メタデータ) (2020-03-23T14:55:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。