論文の概要: On the Origin of Species of Self-Supervised Learning
- arxiv url: http://arxiv.org/abs/2103.17143v1
- Date: Wed, 31 Mar 2021 15:09:36 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-01 20:07:28.075682
- Title: On the Origin of Species of Self-Supervised Learning
- Title(参考訳): 自己監督学習の種の起源について
- Authors: Samuel Albanie, Erika Lu, Joao F. Henriques
- Abstract要約: 外部の監督を必要としない数学学習システムの基本スープから、新しい学習システムの角膜が出現していることを示す。
自己監視型機械進化の統一理論を提案し、標準統一型理論ベンチマークの他の統一理論と比較する。
パリ協定(パリ協定)に基づき,デジタル生物多様性の重要性を論じる。
- 参考スコア(独自算出の注目度): 17.042486885313668
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the quiet backwaters of cs.CV, cs.LG and stat.ML, a cornucopia of new
learning systems is emerging from a primordial soup of mathematics-learning
systems with no need for external supervision. To date, little thought has been
given to how these self-supervised learners have sprung into being or the
principles that govern their continuing diversification. After a period of
deliberate study and dispassionate judgement during which each author set their
Zoom virtual background to a separate Galapagos island, we now entertain no
doubt that each of these learning machines are lineal descendants of some older
and generally extinct species. We make five contributions: (1) We gather and
catalogue row-major arrays of machine learning specimens, each exhibiting
heritable discriminative features; (2) We document a mutation mechanism by
which almost imperceptible changes are introduced to the genotype of new
systems, but their phenotype (birdsong in the form of tweets and vestigial
plumage such as press releases) communicates dramatic changes; (3) We propose a
unifying theory of self-supervised machine evolution and compare to other
unifying theories on standard unifying theory benchmarks, where we establish a
new (and unifying) state of the art; (4) We discuss the importance of digital
biodiversity, in light of the endearingly optimistic Paris Agreement.
- Abstract(参考訳): cs.CV、cs.LG、stat.MLの静かなバックウォーターでは、外部の監督を必要としない数学学習システムの原始的なスープから新しい学習システムのコーノコピアが出現している。
これまでのところ、これらの自己監督学習者がどのようにして存在や、継続する多様化を支配する原則へと発展したのか、ほとんど考えられていない。
それぞれの著者がzoom仮想背景を別個のガラパゴス島に設定した、意図的な研究と不適切な判断の期間の後、私たちはこれらの学習機械が、古い種や一般的に絶滅した種の子孫であることに疑いの余地はない。
We make five contributions: (1) We gather and catalogue row-major arrays of machine learning specimens, each exhibiting heritable discriminative features; (2) We document a mutation mechanism by which almost imperceptible changes are introduced to the genotype of new systems, but their phenotype (birdsong in the form of tweets and vestigial plumage such as press releases) communicates dramatic changes; (3) We propose a unifying theory of self-supervised machine evolution and compare to other unifying theories on standard unifying theory benchmarks, where we establish a new (and unifying) state of the art; (4) We discuss the importance of digital biodiversity, in light of the endearingly optimistic Paris Agreement.
関連論文リスト
- Evolution with Opponent-Learning Awareness [10.689403855269704]
学習エージェントの多種多様な集団が通常のゲームでどのように進化するかを示す。
進化シミュレーションに適した対向学習意識の高速で並列化可能な実装を導出する。
我々は,Hawk-Dove,Stag-Hunt,Rock-Paper-Scissorsの古典ゲームにおいて,20万エージェントのシミュレーションでアプローチを実証した。
論文 参考訳(メタデータ) (2024-10-22T22:49:04Z) - Open-world Machine Learning: A Review and New Outlooks [83.6401132743407]
本稿では,新たなオープンワールド機械学習パラダイムを包括的に紹介することを目的としている。
研究者がそれぞれの分野でより強力なAIシステムを構築するのを支援し、人工知能の開発を促進することを目的としている。
論文 参考訳(メタデータ) (2024-03-04T06:25:26Z) - Attacks in Adversarial Machine Learning: A Systematic Survey from the
Life-cycle Perspective [69.25513235556635]
敵対的機械学習(英: Adversarial Machine Learning、AML)は、機械学習の逆行現象を研究する。
機械学習システムの異なる段階で発生するこの敵対現象を探求するために、いくつかのパラダイムが最近開発された。
既存の攻撃パラダイムをカバーするための統一的な数学的枠組みを提案する。
論文 参考訳(メタデータ) (2023-02-19T02:12:21Z) - I2D2: Inductive Knowledge Distillation with NeuroLogic and
Self-Imitation [89.38161262164586]
本稿では,ジェネリック生成の課題に着目し,コモンセンス知識の生成モデルについて検討する。
我々は,西欧の記号的知識蒸留を緩やかに追従する新しいコモンセンス蒸留フレームワークであるI2D2を紹介する。
我々の研究はジェネリックの新たなコーパス、Gen-A-tomicに繋がる。
論文 参考訳(メタデータ) (2022-12-19T04:47:49Z) - Transfer Dynamics in Emergent Evolutionary Curricula [4.692078300163222]
PINSKYは、ゲームベースのドメインにおける神経進化によるオープンエンド学習システムである。
本稿では、ある進化的分岐(種)から別の進化的分岐(種)へ政策を移す役割に焦点を当てる。
最も洞察に富んだ発見は、種間移動は稀ではあるが、システムの成功に不可欠であるということである。
論文 参考訳(メタデータ) (2022-03-03T21:10:22Z) - Towards a Theory of Evolution as Multilevel Learning [0.0]
生命の起源を含む生物学的進化の理論を多段階学習として発展させるために, 物理的に再正規化可能なシステムに学習理論を適用した。
我々は、宇宙を観測可能なものにするのに必要で十分と思われる進化の7つの基本原理を定式化する。
これらの原理は、複製や自然選択を含む生物進化の主要な特徴を包含していることを示す。
論文 参考訳(メタデータ) (2021-10-27T17:21:16Z) - Discriminative Distillation to Reduce Class Confusion in Continual
Learning [57.715862676788156]
クラス混乱は、連続学習における分類性能の低下に寄与する。
本稿では,クラス間の識別的特徴を適切に学習する上で,識別的蒸留戦略を提案する。
論文 参考訳(メタデータ) (2021-08-11T12:46:43Z) - GEM: Group Enhanced Model for Learning Dynamical Control Systems [78.56159072162103]
サンプルベースの学習が可能な効果的なダイナミクスモデルを構築します。
リー代数ベクトル空間上のダイナミクスの学習は、直接状態遷移モデルを学ぶよりも効果的であることを示す。
この研究は、ダイナミクスの学習とリー群の性質の関連性を明らかにし、新たな研究の方向への扉を開く。
論文 参考訳(メタデータ) (2021-04-07T01:08:18Z) - Applying Deutsch's concept of good explanations to artificial
intelligence and neuroscience -- an initial exploration [0.0]
深層学習におけるドイツの難しい原則と、より形式化された原則とどのように関連しているかを調査します。
私たちは、人間の脳を見ることで、知能でどのように難しい説明が果たす役割を見ます。
論文 参考訳(メタデータ) (2020-12-16T23:23:22Z) - Hierarchically Organized Latent Modules for Exploratory Search in
Morphogenetic Systems [21.23182328329019]
多様な表現の階層の教師なし学習を可能にする新しい動的・モジュラーアーキテクチャを導入する。
本システムは,ユーザの嗜好に対して効率よく多様性探索を適応できる発見アシスタントを構築できることを示す。
論文 参考訳(メタデータ) (2020-07-02T15:28:27Z) - Transferring Dense Pose to Proximal Animal Classes [83.84439508978126]
より一般的な対象検出器やセグメンタなどと同様に、密集したポーズ認識に存在する知識を、他のクラスにおける密集したポーズ認識の問題に移すことが可能であることを示す。
我々は、人間と幾何学的に整合した新しい動物のためのDensePoseモデルを確立することでこれを行う。
また、クラスチンパンジーにDensePoseの方法でラベル付けされた2つのベンチマークデータセットを導入し、アプローチを評価するためにそれらを使用します。
論文 参考訳(メタデータ) (2020-02-28T21:43:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。