論文の概要: Collective Intelligence for Deep Learning: A Survey of Recent Developments

• arxiv url: http://arxiv.org/abs/2111.14377v3
• Date: Thu, 10 Mar 2022 14:25:15 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-06 09:51:44.122805
• Title: Collective Intelligence for Deep Learning: A Survey of Recent Developments
• Title（参考訳）: 深層学習のための集団知性:最近の研究動向
• Authors: David Ha, Yujin Tang
• Abstract要約: 我々は、複雑なシステムへのニューラルネットワーク研究の関与に関する歴史的文脈を提供する。 我々は,集合知の原理を取り入れた,現代のディープラーニング研究の活発な領域をいくつか取り上げる。
• 参考スコア（独自算出の注目度）: 11.247894240593691
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In the past decade, we have witnessed the rise of deep learning to dominate the field of artificial intelligence. Advances in artificial neural networks alongside corresponding advances in hardware accelerators with large memory capacity, together with the availability of large datasets enabled practitioners to train and deploy sophisticated neural network models that achieve state-of-the-art performance on tasks across several fields spanning computer vision, natural language processing, and reinforcement learning. However, as these neural networks become bigger, more complex, and more widely used, fundamental problems with current deep learning models become more apparent. State-of-the-art deep learning models are known to suffer from issues that range from poor robustness, inability to adapt to novel task settings, to requiring rigid and inflexible configuration assumptions. Collective behavior, commonly observed in nature, tends to produce systems that are robust, adaptable, and have less rigid assumptions about the environment configuration. Collective intelligence, as a field, studies the group intelligence that emerges from the interactions of many individuals. Within this field, ideas such as self-organization, emergent behavior, swarm optimization, and cellular automata were developed to model and explain complex systems. It is therefore natural to see these ideas incorporated into newer deep learning methods. In this review, we will provide a historical context of neural network research's involvement with complex systems, and highlight several active areas in modern deep learning research that incorporate the principles of collective intelligence to advance its current capabilities. We hope this review can serve as a bridge between the complex systems and deep learning communities.
• Abstract（参考訳）: 過去10年間、私たちは人工知能の分野を支配するためのディープラーニングの台頭を目撃してきた。 大規模なデータセットが利用可能になったことにより、コンピュータビジョン、自然言語処理、強化学習など、さまざまな分野にわたるタスクにおける最先端のパフォーマンスを実現する、高度なニューラルネットワークモデルのトレーニングとデプロイが可能になる。 しかしながら、これらのニューラルネットワークがより大きく、より複雑で、より広く使われるようになると、現在のディープラーニングモデルに関する根本的な問題がより明確になる。 最先端のディープラーニングモデルは、堅牢性の低さや、新しいタスク設定に適応できないこと、厳格で柔軟性のない設定条件など、さまざまな問題に苦しむことが知られている。 集団行動は、一般的に自然界で観察されるが、堅牢で適応性があり、環境構成に関するより厳格な仮定を持つシステムを生み出す傾向がある。 集団知性は、分野として、多くの個人の相互作用から生じる集団知性を研究する。 この分野では、複雑なシステムをモデル化し説明するために自己組織化、創発的行動、群最適化、セルオートマトンといったアイデアが開発された。 したがって、これらのアイデアがより新しい深層学習手法に組み込まれることは自然である。 本稿では,ニューラルネットワーク研究の複雑なシステムへの関与に関する歴史的文脈と,集合知の原理を取り入れた現代のディープラーニング研究のいくつかの活発な領域に注目して,その能力の向上について述べる。 このレビューが、複雑なシステムとディープラーニングコミュニティの橋渡しになることを期待しています。

関連論文リスト

• Enhancing learning in spiking neural networks through neuronal heterogeneity and neuromodulatory signaling [52.06722364186432]
  人工ニューラルネットワーク(ANN)の強化のための生物学的インフォームドフレームワークを提案する。 提案したデュアルフレームアプローチは、多様なスパイキング動作をエミュレートするためのスパイキングニューラルネットワーク(SNN)の可能性を強調している。 提案手法は脳にインスパイアされたコンパートメントモデルとタスク駆動型SNN, バイオインスピレーション, 複雑性を統合している。
  論文  参考訳（メタデータ） (2024-07-05T14:11:28Z)
• A Survey on State-of-the-art Deep Learning Applications and Challenges [0.0]
  ディープラーニングモデルの構築は、アルゴリズムの複雑さと現実世界の問題の動的な性質のため、難しい。 本研究の目的は,コンピュータビジョン,自然言語処理,時系列解析,広範コンピューティングにおける最先端のディープラーニングモデルを網羅的にレビューすることである。
  論文  参考訳（メタデータ） (2024-03-26T10:10:53Z)
• Reasoning Algorithmically in Graph Neural Networks [1.8130068086063336]
  ニューラルネットワークの適応学習能力にアルゴリズムの構造的および規則に基づく推論を統合することを目的としている。 この論文は、この領域の研究に理論的および実践的な貢献を提供する。
  論文  参考訳（メタデータ） (2024-02-21T12:16:51Z)
• A Neuro-mimetic Realization of the Common Model of Cognition via Hebbian Learning and Free Energy Minimization [55.11642177631929]
  大規模なニューラル生成モデルは、意味的に豊富なテキストのパスを合成したり、複雑な画像を生成することができる。 我々はコモン・モデル・オブ・コグニティブ・ニューラル・ジェネレーティブ・システムについて論じる。
  論文  参考訳（メタデータ） (2023-10-14T23:28:48Z)
• Neuronal Auditory Machine Intelligence (NEURO-AMI) In Perspective [0.0]
  ニューラル・オーディトリー・マシン・インテリジェンス(Neuro-AMI)と競合するバイオインスパイアされた連続学習型ニューラル・ニューラル・ニューラル・ニューラル・インテリジェンス(Neuro-AMI)の概要を述べる。 本稿では,ニューラル・オーディトリー・マシン・インテリジェンス(Neuro-AMI)と競合するバイオインスパイアされた連続学習型ニューラル・ラーニング・ツールについて概説する。
  論文  参考訳（メタデータ） (2023-10-14T13:17:58Z)
• Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
  予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。 PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
  論文  参考訳（メタデータ） (2023-08-15T16:37:16Z)
• Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
  この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。 我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
  論文  参考訳（メタデータ） (2023-03-30T02:40:28Z)
• Ten Quick Tips for Deep Learning in Biology [116.78436313026478]
  機械学習は、データのパターンを認識し、予測モデリングに使用するアルゴリズムの開発と応用に関係している。 ディープラーニングは、独自の機械学習のサブフィールドになっている。 生物学的研究の文脈において、ディープラーニングは高次元の生物学的データから新しい洞察を導き出すためにますます使われてきた。
  論文  参考訳（メタデータ） (2021-05-29T21:02:44Z)
• A brain basis of dynamical intelligence for AI and computational neuroscience [0.0]
  より多くの脳のような能力は、新しい理論、モデル、および人工学習システムを設計する方法を要求するかもしれない。 本稿は,第6回US/NIH BRAIN Initiative Investigators Meetingにおける動的神経科学と機械学習に関するシンポジウムに触発されたものです。
  論文  参考訳（メタデータ） (2021-05-15T19:49:32Z)
• Learning Contact Dynamics using Physically Structured Neural Networks [81.73947303886753]
  ディープニューラルネットワークと微分方程式の接続を用いて、オブジェクト間の接触ダイナミクスを表現するディープネットワークアーキテクチャのファミリを設計する。 これらのネットワークは,ノイズ観測から不連続な接触事象をデータ効率良く学習できることを示す。 以上の結果から,タッチフィードバックの理想化形態は,この学習課題を扱いやすくするための重要な要素であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-22T17:33:51Z)
• Neurosymbolic AI for Situated Language Understanding [13.249453757295083]
  我々は,これらの学習課題に対する解法として,計算位置定位法が有効であると主張している。 我々のモデルは、古典的なAIの考えをニューロシンボリックインテリジェンス(英語版)の枠組みに再組み入れている。 我々は、さまざまなAI学習課題に対して、位置情報が多様なデータと複数のレベルのモデリングを提供する方法について論じる。
  論文  参考訳（メタデータ） (2020-12-05T05:03:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。