論文の概要: An Efficient Agreement Mechanism in CapsNets By Pairwise Product

• arxiv url: http://arxiv.org/abs/2004.00272v1
• Date: Wed, 1 Apr 2020 08:09:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-17 18:55:19.323327
• Title: An Efficient Agreement Mechanism in CapsNets By Pairwise Product
• Title（参考訳）: ペアワイズ製品によるCapsNetsの効率的な合意機構
• Authors: Lei Zhao, Xiaohui Wang, and Lei Huang
• Abstract要約: ファクトリゼーションマシン(FM)の特徴的相互作用に触発されたカプセル構築のためのペアワイズ合意機構を提案する。 本稿では,低レベルの視覚的特徴を表現するための残差ネットワークの長所と,部分と全体との関係をモデル化するCapsNetアーキテクチャを提案する。
• 参考スコア（独自算出の注目度）: 13.247509552137487
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Capsule networks (CapsNets) are capable of modeling visual hierarchical relationships, which is achieved by the "routing-by-agreement" mechanism. This paper proposes a pairwise agreement mechanism to build capsules, inspired by the feature interactions of factorization machines (FMs). The proposed method has a much lower computation complexity. We further proposed a new CapsNet architecture that combines the strengths of residual networks in representing low-level visual features and CapsNets in modeling the relationships of parts to wholes. We conduct comprehensive experiments to compare the routing algorithms, including dynamic routing, EM routing, and our proposed FM agreement, based on both architectures of original CapsNet and our proposed one, and the results show that our method achieves both excellent performance and efficiency under a variety of situations.
• Abstract（参考訳）: カプセルネットワーク(CapsNets)は、"routing-by-agreement"メカニズムによって実現される視覚的階層関係をモデル化することができる。 本稿では, ファクトリゼーションマシン(FM)の特徴的相互作用に着想を得て, カプセル構築のための相互合意機構を提案する。 提案手法は計算複雑性がはるかに低い。 さらに,残差ネットワークの強みと低レベルの視覚特徴とcapsnetを組み合わせることで,部品と全体の関係をモデル化する新しいcapsnetアーキテクチャを提案する。 提案手法は,従来のCapsNetアーキテクチャと提案手法の両方に基づいて,動的ルーティングやEMルーティング,提案したFMアライアンスなどのルーティングアルゴリズムを総合的に比較し,様々な状況下で優れた性能と効率を達成することを示す。

関連論文リスト

• ProtoCaps: A Fast and Non-Iterative Capsule Network Routing Method [6.028175460199198]
  本稿では,カプセルネットワークのための新しい非定型ルーティング機構を提案する。 私たちは共有のCapsuleサブスペースを利用し、各下位のCapsuleを各上位のCapsuleに投影する必要性を否定します。 本研究は,カプセルネットワークの運用効率と性能を向上させるための提案手法の可能性を明らかにするものである。
  論文  参考訳（メタデータ） (2023-07-19T12:39:40Z)
• A Multi-objective Complex Network Pruning Framework Based on Divide-and-conquer and Global Performance Impairment Ranking [40.59001171151929]
  本稿では,多目的複合ネットワークプルーニングフレームワークを提案する。 提案アルゴリズムは,最先端プルーニング手法と同等の性能を実現する。
  論文  参考訳（メタデータ） (2023-03-28T12:05:15Z)
• Hybrid Gromov-Wasserstein Embedding for Capsule Learning [24.520120182880333]
  Capsule Network (CapsNets) は、オブジェクト、部品、およびそれらの関係を2段階のプロセスで解析することを目的としている。 階層的関係モデリングは計算コストが高く、潜在的な利点にもかかわらずCapsNetの利用が制限されている。 本稿では,標準ベースラインモデルを超え,高性能な畳み込みモデルよりも優れた性能を示すカプセルの学習手法を提案する。
  論文  参考訳（メタデータ） (2022-09-01T05:26:32Z)
• Towards efficient feature sharing in MIMO architectures [102.40140369542755]
  マルチインプットのマルチアウトプットアーキテクチャでは、ひとつのベースネットワーク内でマルチワークをトレーニングし、サブネットワーク予測を平均化し、無料でアンサンブルの恩恵を受けることを提案している。 相対的な成功にもかかわらず、これらのアーキテクチャはパラメータの使用に不便である。 この論文では、学習したサブネットワークは、より小さなモバイルやAR/VRデバイスに適用性を制限する汎用的な機能でさえも共有できない点を強調します。
  論文  参考訳（メタデータ） (2022-05-20T12:33:34Z)
• UniNet: Unified Architecture Search with Convolution, Transformer, and MLP [62.401161377258234]
  本稿では,コンボリューション,トランスフォーマー,COCOの最適組み合わせを共同で探索し,一連の全演算型ネットワークアーキテクチャを構築することを提案する。 広範に使われているストリップド・コンボリューション (strided convolution) あるいはプール・ベース・ダウンサンプリング・モジュールは,演算子を結合してネットワークを形成する場合,性能上のボトルネックとなる。 変換器と演算子によって捕捉されるグローバルなコンテキストによりよく対処するために,2つの新しいコンテキスト対応ダウンサンプリングモジュールを提案する。
  論文  参考訳（メタデータ） (2021-10-08T11:09:40Z)
• CondenseNet V2: Sparse Feature Reactivation for Deep Networks [87.38447745642479]
  高密度接続によるディープネットワークの機能再利用は、高い計算効率を達成する効果的な方法である。 スパース機能再活性化(SFR)と呼ばれる代替アプローチを提案し、再利用機能の有用性を積極的に高めることを目指しています。 提案手法は画像分類(ImageNet, CIFAR)とオブジェクト検出(MSCOCO)において,理論的効率と実用的速度の両面で有望な性能を達成できることを示す。
  論文  参考訳（メタデータ） (2021-04-09T14:12:43Z)
• Efficient-CapsNet: Capsule Network with Self-Attention Routing [0.0]
  深層畳み込みニューラルネットワークは、オブジェクト変換を埋め込むために、多数の機能マップを持つデータ拡張技術とレイヤを広範囲に活用する。 カプセルネットワークは、現在の畳み込みネットワークを拡張し、より効率的に全てのアフィン変換をエンコードするプロセスで人工的な視覚知覚を実現する、有望なソリューションである。 本稿では,カプセルネットワークの効率について検討し,その容量を160Kのパラメータをほとんど持たない極端なアーキテクチャで限界まで押し上げることにより,提案アーキテクチャがまだ最先端の結果が得られることを実証する。
  論文  参考訳（メタデータ） (2021-01-29T09:56:44Z)
• Structured Convolutions for Efficient Neural Network Design [65.36569572213027]
  畳み込みニューラルネットワーク構築ブロックのテクスト単純構造における冗長性を利用してモデル効率に取り組む。 この分解が2Dカーネルや3Dカーネルだけでなく、完全に接続されたレイヤにも適用可能であることを示す。
  論文  参考訳（メタデータ） (2020-08-06T04:38:38Z)
• Wasserstein Routed Capsule Networks [90.16542156512405]
  複雑なタスクに対処できる新しいパラメータ効率の良いカプセルアーキテクチャを提案する。 我々のネットワークはCIFAR-10で他のカプセルのアプローチを1.2%以上上回ります。
  論文  参考訳（メタデータ） (2020-07-22T14:38:05Z)
• Obtaining Faithful Interpretations from Compositional Neural Networks [72.41100663462191]
  NLVR2およびDROPデータセット上でNMNの中間出力を評価する。 中間出力は期待出力と異なり,ネットワーク構造がモデル動作の忠実な説明を提供していないことを示す。
  論文  参考訳（メタデータ） (2020-05-02T06:50:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。