論文の概要: Connections Between Pairs of Filters Improve the Accuracy of Convolutional Neural Networks
- arxiv url: http://arxiv.org/abs/2606.13736v1
- Date: Thu, 11 Jun 2026 12:15:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 16:00:42.533342
- Title: Connections Between Pairs of Filters Improve the Accuracy of Convolutional Neural Networks
- Title(参考訳): 畳み込みニューラルネットワークの精度を向上させるフィルタのペア間の接続
- Authors: Kathleen Anderson, Philipp Grüning, Erhardt Barth,
- Abstract要約: CNNは、学習したパラメータを含む、より一般的な接続の恩恵を受けることができることを示す。
このようなパラメータにより、ネットワークは異なるネットワーク層に異なる接続を実装することができ、手元にあるタスクに接続関数を適応させることができる。
- 参考スコア(独自算出の注目度): 0.013903116275861835
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While researchers continue to find new and improved network structures for CNNs, most of the newly invented architectures still rely on the traditional pattern of stacking convolutional blocks and separating them with pointwise activation functions. However, there are drawbacks to a network purely building on pointwise nonlinearities. One alternative is to introduce a pairwise connection between two filters of a network. Typical connection functions use multiplications or the minimum operation to realize logical AND connections. In this paper, we go one step further by demonstrating that CNNs can benefit from more general connections, which include parameters that are learned. With such parameters, the network is able to implement different connections in different network layers and better adapt the connection function to the task at hand.
- Abstract(参考訳): 研究者は、CNNの新しい改良されたネットワーク構造を見つけ続けているが、新しく発明されたアーキテクチャのほとんどは、畳み込みブロックを積み重ね、それらをポイントワイズアクティベーション関数で分離する伝統的なパターンに依存している。
しかし、純粋に点方向の非線形性に基づいて構築されるネットワークには欠点がある。
1つの選択肢は、ネットワークの2つのフィルタ間のペアワイズ接続を導入することである。
典型的な接続関数は、論理的および接続を実現するために乗算または最小演算を使用する。
本稿では、CNNが学習パラメータを含むより一般的な接続の恩恵を受けることを示すことで、さらに一歩進める。
このようなパラメータにより、ネットワークは異なるネットワーク層に異なる接続を実装することができ、手元にあるタスクに接続関数を適応させることができる。
関連論文リスト
- Stitching for Neuroevolution: Recombining Deep Neural Networks without Breaking Them [0.0]
神経進化への伝統的なアプローチは、しばしばゼロから始まる。
アーキテクチャと特徴表現が典型的に異なるため、トレーニングされたネットワークの再結合は簡単ではない。
我々は、クロスオーバーポイントで新しいレイヤを導入することで、ネットワークをマージするステアリングを採用しています。
論文 参考訳(メタデータ) (2024-03-21T08:30:44Z) - Optimizing Connectivity through Network Gradients for Restricted Boltzmann Machines [0.0]
ネットワーク接続は、浅いネットワークの学習性能において重要な役割を果たす。
本研究では, RBMの最適接続パターンを求める最適化手法を提案する。
論文 参考訳(メタデータ) (2022-09-14T21:09:58Z) - Deep Architecture Connectivity Matters for Its Convergence: A
Fine-Grained Analysis [94.64007376939735]
我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。
接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
論文 参考訳(メタデータ) (2022-05-11T17:43:54Z) - Neural network relief: a pruning algorithm based on neural activity [47.57448823030151]
重要でない接続を非活性化する簡易な重要スコア計量を提案する。
MNIST上でのLeNetアーキテクチャの性能に匹敵する性能を実現する。
このアルゴリズムは、現在のハードウェアとソフトウェアの実装を考えるとき、FLOPを最小化するように設計されていない。
論文 参考訳(メタデータ) (2021-09-22T15:33:49Z) - Dynamic Graph: Learning Instance-aware Connectivity for Neural Networks [78.65792427542672]
動的グラフネットワーク(DG-Net)は完全な有向非巡回グラフであり、ノードは畳み込みブロックを表し、エッジは接続経路を表す。
ネットワークの同じパスを使用する代わりに、DG-Netは各ノードの機能を動的に集約する。
論文 参考訳(メタデータ) (2020-10-02T16:50:26Z) - It's Hard for Neural Networks To Learn the Game of Life [4.061135251278187]
最近の研究では、ニューラルネットワークは、ソリューションに迅速に収束する"ロテリチケット"のラッキーな初期重みに依存していることが示唆されている。
本研究では,2次元セル・オートマトン・コンウェイのゲーム・オブ・ライフのn段階を予測するために訓練された小さな畳み込みネットワークについて検討する。
このタスクでトレーニングされたこのアーキテクチャのネットワークは、ほとんど収束しない。
論文 参考訳(メタデータ) (2020-09-03T00:47:08Z) - Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。
接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。
この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
論文 参考訳(メタデータ) (2020-08-19T04:53:31Z) - Network Adjustment: Channel Search Guided by FLOPs Utilization Ratio [101.84651388520584]
本稿では,ネットワークの精度をFLOPの関数として考慮した,ネットワーク調整という新しいフレームワークを提案する。
標準画像分類データセットと幅広いベースネットワークの実験は、我々のアプローチの有効性を実証している。
論文 参考訳(メタデータ) (2020-04-06T15:51:00Z) - Convolutional Networks with Dense Connectivity [59.30634544498946]
Dense Convolutional Network (DenseNet)を導入し、フィードフォワード方式で各レイヤを他のすべてのレイヤに接続する。
各レイヤについて、先行するすべてのレイヤのフィーチャーマップをインプットとして使用し、それ自身のフィーチャーマップをその後のすべてのレイヤへのインプットとして使用します。
提案したアーキテクチャを、4つの高度に競争力のあるオブジェクト認識ベンチマークタスクで評価する。
論文 参考訳(メタデータ) (2020-01-08T06:54:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。