論文の概要: Learning with Capsules: A Survey
- arxiv url: http://arxiv.org/abs/2206.02664v1
- Date: Mon, 6 Jun 2022 15:05:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-07 14:40:37.873014
- Title: Learning with Capsules: A Survey
- Title（参考訳）: カプセルで学ぶ:調査
- Authors: Fabio De Sousa Ribeiro, Kevin Duarte, Miles Everett, Georgios
Leontidis, Mubarak Shah
- Abstract要約: カプセルネットワークは、オブジェクト中心の表現を学習するための畳み込みニューラルネットワーク(CNN)に代わるアプローチとして提案された。
CNNとは異なり、カプセルネットワークは部分的に階層的な関係を明示的にモデル化するように設計されている。
- 参考スコア（独自算出の注目度）: 73.31150426300198
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Capsule networks were proposed as an alternative approach to Convolutional
Neural Networks (CNNs) for learning object-centric representations, which can
be leveraged for improved generalization and sample complexity. Unlike CNNs,
capsule networks are designed to explicitly model part-whole hierarchical
relationships by using groups of neurons to encode visual entities, and learn
the relationships between those entities. Promising early results achieved by
capsule networks have motivated the deep learning community to continue trying
to improve their performance and scalability across several application areas.
However, a major hurdle for capsule network research has been the lack of a
reliable point of reference for understanding their foundational ideas and
motivations. The aim of this survey is to provide a comprehensive overview of
the capsule network research landscape, which will serve as a valuable resource
for the community going forward. To that end, we start with an introduction to
the fundamental concepts and motivations behind capsule networks, such as
equivariant inference in computer vision. We then cover the technical advances
in the capsule routing mechanisms and the various formulations of capsule
networks, e.g. generative and geometric. Additionally, we provide a detailed
explanation of how capsule networks relate to the popular attention mechanism
in Transformers, and highlight non-trivial conceptual similarities between them
in the context of representation learning. Afterwards, we explore the extensive
applications of capsule networks in computer vision, video and motion, graph
representation learning, natural language processing, medical imaging and many
others. To conclude, we provide an in-depth discussion regarding the main
hurdles in capsule network research, and highlight promising research
directions for future work.
- Abstract（参考訳）: カプセルネットワークは、オブジェクト中心の表現を学習するための畳み込みニューラルネットワーク(CNN)に代わるアプローチとして提案され、一般化とサンプル複雑性の改善に利用することができる。
cnnとは異なり、カプセルネットワークはニューロンのグループを使って視覚エンティティをエンコードし、それらのエンティティ間の関係を学習することによって、部分的な階層関係を明示的にモデル化するように設計されている。
カプセルネットワークによって達成された初期の成果を約束することで、ディープラーニングコミュニティは、いくつかのアプリケーション分野におけるパフォーマンスとスケーラビリティの向上を引き続き試みている。
しかし、カプセルネットワーク研究の大きなハードルは、基礎となるアイデアやモチベーションを理解するための信頼できる参照ポイントがないことである。
本調査の目的は,カプセルネットワーク研究の展望を包括的に概観することであり,今後,コミュニティにとって貴重な資源となるだろう。
そのために、コンピュータビジョンにおける等変推論のようなカプセルネットワークの背後にある基本的な概念とモチベーションの紹介から始める。
次にカプセルルーティング機構の技術的進歩とカプセルネットワークの様々な定式化、例えば生成的および幾何学的手法を取り上げる。
さらに,トランスフォーマーの注目メカニズムとカプセルネットワークがどのように関連しているかを詳細に説明し,表現学習の文脈において,それら間の非自明な概念的類似性を強調する。
その後,コンピュータビジョン,ビデオとモーション,グラフ表現学習,自然言語処理,医用イメージングなどにおけるカプセルネットワークの広範な応用について検討する。
結論として,カプセルネットワーク研究の主なハードルについて深く議論し,将来的な研究の方向性を明らかにする。
関連論文リスト
- Hierarchical Object-Centric Learning with Capsule Networks [0.0]
畳み込みニューラルネットワークの制限に対処するために、カプセルネットワーク(CapsNets)が導入された。
この論文はCapsNetsの興味深い側面を調査し、その潜在能力を解き放つための3つの重要な疑問に焦点を当てている。
論文 参考訳（メタデータ） (2024-05-30T09:10:33Z) - Less Data, More Knowledge: Building Next Generation Semantic
Communication Networks [180.82142885410238]
本稿では、スケーラブルなエンドツーエンドセマンティック通信ネットワークの最初の厳密なビジョンを示す。
まず、セマンティック・コミュニケーション・ネットワークの設計は、データ駆動型ネットワークから知識駆動型ネットワークへどのように移行する必要があるかについて議論する。
意味表現と言語を用いることで、従来の送信機と受信機が教師と見習いになることを示す。
論文 参考訳（メタデータ） (2022-11-25T19:03:25Z) - Neural Network based Successor Representations of Space and Language [6.748976209131109]
本稿では,構造化知識のマルチスケールの後継表現をニューラルネットワークで学習する手法を提案する。
すべてのシナリオにおいて、ニューラルネットワークは、後続表現を構築することによって基盤構造を正しく学習し、近似する。
我々は、認知地図とニューラルネットワークに基づく構造化知識の継承表現が、人工知能への深層学習の短さを克服する有望な方法を提供すると結論付けた。
論文 参考訳（メタデータ） (2022-02-22T21:52:46Z) - Routing with Self-Attention for Multimodal Capsule Networks [108.85007719132618]
我々は,カプセルの強度をマルチモーダル学習フレームワークの文脈で活用できる,新しいマルチモーダルカプセルネットワークを提案する。
カプセルを大規模入力データに適応させるために, カプセルを選択する自己保持機構による新たなルーティングを提案する。
これにより、ノイズの多いビデオデータによる堅牢なトレーニングだけでなく、従来のルーティング方法と比較してカプセルネットワークのサイズを拡大することが可能になる。
論文 参考訳（メタデータ） (2021-12-01T19:01:26Z) - Network representation learning systematic review: ancestors and current
development state [1.0312968200748116]
本稿では,ネットワーク埋め込みとして知られるネットワーク表現学習を誕生から現在までの体系的に調査する。
また,ネットワーク表現学習の理解に必要な基本概念の形式的定義も提供する。
最も一般的に使用される下流タスクは、埋め込みの評価、評価メトリクス、一般的なデータセットである。
論文 参考訳（メタデータ） (2021-09-14T14:44:44Z) - A Comprehensive Survey on Community Detection with Deep Learning [93.40332347374712]
コミュニティは、ネットワーク内の他のコミュニティと異なるメンバーの特徴と接続を明らかにする。
この調査は、最先端の手法の様々なカテゴリをカバーする新しい分類法を考案し、提案する。
ディープニューラルネットワーク(Deep Neural Network)は、畳み込みネットワーク(convolutional network)、グラフアテンションネットワーク( graph attention network)、生成的敵ネットワーク(generative adversarial network)、オートエンコーダ(autoencoder)に分けられる。
論文 参考訳（メタデータ） (2021-05-26T14:37:07Z) - Deformable Capsules for Object Detection [3.702343116848637]
我々は,コンピュータビジョンにおいて重要な問題である物体検出に対処するために,新しいカプセルネットワーク,変形可能なカプセル(textitDeformCaps)を導入した。
提案手法は,本論文において,オブジェクト検出のためのカプセルネットワークを構築するために,効率よくスケールアップできることを実証する。
論文 参考訳（メタデータ） (2021-04-11T15:36:30Z) - Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。
接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。
この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
論文 参考訳（メタデータ） (2020-08-19T04:53:31Z) - Subspace Capsule Network [85.69796543499021]
SubSpace Capsule Network (SCN) はカプセルネットワークのアイデアを利用して、エンティティの外観や暗黙的に定義された特性のバリエーションをモデル化する。
SCNは、テスト期間中にCNNと比較して計算オーバーヘッドを発生させることなく、識別モデルと生成モデルの両方に適用することができる。
論文 参考訳（メタデータ） (2020-02-07T17:51:56Z) - Examining the Benefits of Capsule Neural Networks [9.658250977094562]
カプセルネットワーク(Capsule Network)は、従来の畳み込みニューラルネットワークの欠点に対処する可能性のある、新たに開発されたニューラルネットワークのクラスである。
標準的なスカラーアクティベーションをベクトルに置き換えることで、カプセルネットワークはコンピュータビジョンアプリケーションのための次の大きな開発を目指している。
論文 参考訳（メタデータ） (2020-01-29T17:18:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。