論文の概要: Capsule networks with non-iterative cluster routing
- arxiv url: http://arxiv.org/abs/2109.09213v1
- Date: Sun, 19 Sep 2021 20:14:22 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-21 16:54:45.522162
- Title: Capsule networks with non-iterative cluster routing
- Title(参考訳): 非イテレーティブクラスタルーティングを用いたカプセルネットワーク
- Authors: Zhihao Zhao, Samuel Cheng
- Abstract要約: 既存の手順では、カプセルは次の層のカプセルの予測(最終投票)を生成する。
提案したクラスタルーティングでは、カプセルは次の層カプセルの個々の投票ではなく、投票クラスタを生成する。
提案したカプセルネットワークは、より少ないパラメータでFashion-MNISTとSVHNデータセット上で最高の精度を達成する。
- 参考スコア(独自算出の注目度): 2.8935588665357077
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Capsule networks use routing algorithms to flow information between
consecutive layers. In the existing routing procedures, capsules produce
predictions (termed votes) for capsules of the next layer. In a nutshell, the
next-layer capsule's input is a weighted sum over all the votes it receives. In
this paper, we propose non-iterative cluster routing for capsule networks. In
the proposed cluster routing, capsules produce vote clusters instead of
individual votes for next-layer capsules, and each vote cluster sends its
centroid to a next-layer capsule. Generally speaking, the next-layer capsule's
input is a weighted sum over the centroid of each vote cluster it receives. The
centroid that comes from a cluster with a smaller variance is assigned a larger
weight in the weighted sum process. Compared with the state-of-the-art capsule
networks, the proposed capsule networks achieve the best accuracy on the
Fashion-MNIST and SVHN datasets with fewer parameters, and achieve the best
accuracy on the smallNORB and CIFAR-10 datasets with a moderate number of
parameters. The proposed capsule networks also produce capsules with
disentangled representation and generalize well to images captured at novel
viewpoints. The proposed capsule networks also preserve 2D spatial information
of an input image in the capsule channels: if the capsule channels are rotated,
the object reconstructed from these channels will be rotated by the same
transformation. Codes are available at
https://github.com/ZHAOZHIHAO/ClusterRouting.
- Abstract(参考訳): カプセルネットワークは、連続する層間で情報を流すルーティングアルゴリズムを使用する。
既存のルーティング手順では、カプセルは次の層のカプセルの予測(最終投票)を生成する。
簡単に言えば、次の層カプセルの入力は、受け取った全ての票に対する重み付けの合計である。
本稿では,カプセルネットワークのための非イテレーティブクラスタルーティングを提案する。
提案されているクラスタルーティングでは、カプセルは次層カプセルの個別の投票ではなく、投票クラスタを生成し、各投票クラスタは次層カプセルにその中心を送信します。
一般に、次の層カプセルの入力は、受信した各投票クラスタのセントロイド上の重み付き和である。
より小さなばらつきを持つクラスターから来るセンチロイドは、重み付き和過程においてより重い重みを割り当てる。
現状のカプセルネットワークと比較して,提案したカプセルネットワークは,Fashion-MNISTデータセットとSVHNデータセットにおいて,パラメータが少なく,かつ,パラメータが適度な小さなNORBデータセットとCIFAR-10データセット上で最高の精度を達成する。
提案したカプセルネットワークは、不絡み合った表現を持つカプセルも生成し、新しい視点で撮影された画像によく当てはまる。
提案するカプセルネットワークは、カプセルチャネル内の入力画像の2次元空間情報を保存し、カプセルチャネルが回転すると、これらのチャネルから再構成されたオブジェクトは同じ変換によって回転する。
コードはhttps://github.com/zhaozhihao/clusterroutingで入手できる。
関連論文リスト
- Deep multi-prototype capsule networks [0.3823356975862005]
カプセルネットワーク(Capsule Network)は、画像の部分を特定し、階層的に全体のインスタンス化パラメータを形成するニューラルネットワークの一種である。
本稿では,画像部品のバリエーションを表現するためにカプセルネットワークを誘導するマルチプロトタイプアーキテクチャを提案する。
MNIST, SVHN, C-Cube, CEDAR, MCYT, UTSigのデータセットに対する実験結果から, 提案したモデルが画像分類精度で他のモデルよりも優れていることが明らかになった。
論文 参考訳(メタデータ) (2024-04-23T18:37:37Z) - HP-Capsule: Unsupervised Face Part Discovery by Hierarchical Parsing
Capsule Network [76.92310948325847]
教師なしの顔部分発見のための階層型パーシングカプセルネットワーク(HP-Capsule Network)を提案する。
HP-Capsuleは、数字から人間の顔へのカプセルネットワークの適用を拡張し、ニューラルネットワークが人間の介入なしにオブジェクトを理解する方法を示す。
論文 参考訳(メタデータ) (2022-03-21T01:39:41Z) - PointCaps: Raw Point Cloud Processing using Capsule Networks with
Euclidean Distance Routing [2.916675178729016]
カプセルネットワークを用いた生クラウド処理は、分類、再構築、セグメンテーションにおいて広く採用されている。
既存のカプセルベースのネットワークアプローチのほとんどは計算的に重く、ポイントクラウド全体を単一のカプセルとして表現できない。
パラメータ共有を備えた新しい畳み込みカプセルアーキテクチャであるPointCapsを提案する。
論文 参考訳(メタデータ) (2021-12-21T14:34:39Z) - ASPCNet: A Deep Adaptive Spatial Pattern Capsule Network for
Hyperspectral Image Classification [47.541691093680406]
本稿では,適応型空間パターンカプセルネットワーク(ASPCNet)アーキテクチャを提案する。
拡大された受容体に基づいて畳み込み核のサンプリング位置を回転させることができる。
3つの公開データセットの実験は、ASPCNetが最先端の方法よりも高い精度で競争力を発揮することを示しています。
論文 参考訳(メタデータ) (2021-04-25T07:10:55Z) - Training Deep Capsule Networks with Residual Connections [0.0]
capsule networkは、最近人気が高まっているニューラルネットワークの一種だ。
それらはカプセルと呼ばれるニューロンのグループで構成され、オブジェクトやオブジェクトの部分の特性をエンコードする。
多くのカプセルネットワーク実装では2層から3層にカプセル層が使われており、表現性が指数関数的に大きくなり、適用性が制限されている。
4つのデータセットと3つの異なるルーティングアルゴリズムで評価された残差接続を用いた深層カプセルネットワークを訓練する手法を提案する。
実験の結果,より深いカプセルネットワークのトレーニングでは,性能が向上することがわかった。
論文 参考訳(メタデータ) (2021-04-15T11:42:44Z) - Capsule-Transformer for Neural Machine Translation [73.84254045203222]
トランスフォーマーはマルチヘッド自己注意ネットワーク(SAN)の鍵設計から大きな恩恵を受ける
より一般的なカプセルルーティングアルゴリズムに線形変換を拡張するカプセル変換器を提案する。
広く使われている機械翻訳データセットの実験結果から,提案したカプセルトランスフォーマーは強力なトランスフォーマーベースラインを著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2020-04-30T09:11:38Z) - Capsules with Inverted Dot-Product Attention Routing [84.89818784286953]
本研究では,親の状況と子どもの投票の一致に基づいて子カプセルを親にルーティングする,カプセルネットワークのための新しいルーティングアルゴリズムを提案する。
提案手法は,CIFAR-10やCIFAR-100などのベンチマークデータセットの性能を向上させる。
私たちの研究は、複雑な現実世界のタスクにカプセルネットワークを適用する可能性を高めていると考えています。
論文 参考訳(メタデータ) (2020-02-12T02:09:33Z) - Subspace Capsule Network [85.69796543499021]
SubSpace Capsule Network (SCN) はカプセルネットワークのアイデアを利用して、エンティティの外観や暗黙的に定義された特性のバリエーションをモデル化する。
SCNは、テスト期間中にCNNと比較して計算オーバーヘッドを発生させることなく、識別モデルと生成モデルの両方に適用することができる。
論文 参考訳(メタデータ) (2020-02-07T17:51:56Z) - Quaternion Equivariant Capsule Networks for 3D Point Clouds [58.566467950463306]
本稿では,3次元回転と翻訳に同値な点雲を処理するための3次元カプセルモジュールを提案する。
カプセル間の動的ルーティングをよく知られたWeiszfeldアルゴリズムに接続する。
オペレーターに基づいて、ポーズから幾何学をアンタングルするカプセルネットワークを構築します。
論文 参考訳(メタデータ) (2019-12-27T13:51:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。