論文の概要: Modular Deep Recurrent Neural Network: Application to Quadrotors
- arxiv url: http://arxiv.org/abs/2609.04339v1
- Date: Thu, 03 Sep 2026 18:06:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:23.776587
- Title: Modular Deep Recurrent Neural Network: Application to Quadrotors
- Title(参考訳): Modular Deep Recurrent Neural Network: Application to Quadrotors (特集:ニューラルネット)
- Abstract要約: RNNの高次力学と非線形性を学習・モデル化する能力は大幅に向上した。
また, フィードフォワード接続を用いて, 多層RNNの空間における勾配の消失/拡散の問題も緩和する。
- 参考スコア(独自算出の注目度): 13.551450190727033
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A modular deep Recurrent Neural Network (RNN) is introduced to facilitate the process of deploying various architectures of RNNs, and to automatically compute derivatives for gradient-based learning methods. The modularity leads to a set of new architectures, one of which includes feedforward inter-layer connections. By adding feedforward inter-layer connections in a multi-layer RNN, it is observed that the capability of the RNN to learn and model high-order dynamics and nonlinearities is significantly improved. The problem of vanishing/exploding gradient in space for a multilayer RNN is also alleviated using feedforward connections. These results are demonstrated using a quadrotor case study, for which a model of the altitude dynamics is learned with our particular network structure, while existing methods are unable to generalize as quickly or at all.
- Abstract(参考訳): モジュラーディープ・リカレントニューラルネットワーク(RNN)を導入し、RNNの様々なアーキテクチャをデプロイし、勾配に基づく学習方法の導関数を自動的に計算する。
モジュラリティは一連の新しいアーキテクチャをもたらし、そのうちの1つはフィードフォワード層間接続を含んでいる。
多層RNNにフィードフォワード層間接続を追加することにより、RNNが高次ダイナミクスと非線形性を学習・モデル化する能力が大幅に向上することが観察された。
また, フィードフォワード接続を用いて, 多層RNNの空間における勾配の消失/拡散の問題も緩和する。
これらの結果は、我々の特定のネットワーク構造によって高度力学のモデルが学習され、既存の手法は素早くも全く一般化できないという、四重項ケーススタディを用いて実証された。
関連論文リスト
- Scalable Learning in Structured Recurrent Spiking Neural Networks without Backpropagation [6.572000338549628]
Spiking Neural Networks (SNN)は、エネルギー効率と生物学的基盤計算のための有望なフレームワークを提供する。
本研究では, 局所的に密集した再帰層で構成された構造的多層再帰型SNNアーキテクチャを提案する。
長距離接続は概ね固定されており、ルーティング効率とハードウェアのスケーラビリティを保ち、シナプス適応は厳密に局所的な可塑性機構を用いて実行される。
論文 参考訳(メタデータ) (2026-05-01T04:45:21Z) - Unveiling Hidden Convexity in Deep Learning: a Sparse Signal Processing Perspective [51.908606610432194]
ディープニューラルネットワーク(DNN)は、さまざまな機械学習タスクで大きな成功を収めています。
近年の研究では、特定のNNアーキテクチャが失われる際のいくつかの凸性を明らかにしている。
論文 参考訳(メタデータ) (2026-03-25T01:34:04Z) - Surrogate-Assisted Evolution for Efficient Multi-branch Connection Design in Deep Neural Networks [3.113634696452565]
最先端のディープニューラルネットワーク(DNN)には、しばしばマルチブランチ接続が組み込まれている。
DNN内のマルチブランチ(MB)接続を符号化するために,線形遺伝的プログラミング(LGP)に基づく新しい手法を提案する。
数十から数百のサンプルポイントから数千に拡張し、複雑なDNNの要求に合わせています。
論文 参考訳(メタデータ) (2025-06-25T14:18:17Z) - Residual Kolmogorov-Arnold Network for Enhanced Deep Learning [0.9399249626168465]
深層畳み込みニューラルネットワーク(Deep Convolutional Neural Network, CNN)は、ネットワーク深度内に数百のレイヤがあるため、最適化が困難で、トレーニングにコストがかかる。
我々はResidual Kolmogorov-Arnold Network (RKAN)と呼ばれる"plug-in"モジュールを導入する。
RKANは、異なるビジョンタスクにおけるベースラインモデルよりも一貫した改善を提供する。
論文 参考訳(メタデータ) (2024-10-07T21:12:32Z) - Deep Architecture Connectivity Matters for Its Convergence: A
Fine-Grained Analysis [94.64007376939735]
我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。
接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
論文 参考訳(メタデータ) (2022-05-11T17:43:54Z) - Hybrid-Layers Neural Network Architectures for Modeling the
Self-Interference in Full-Duplex Systems [23.55330151898652]
フル分析(FD)システムは、周波数リソースを介して情報を同時送信する。
本稿では、低複雑性でローカライズされた2つの新しいハイブリッド層ニューラルネットワーク(NN)アーキテクチャを提案する。
提案されたNNは、隠れた層(例えば密度の高い層)を組み合わせて、最先端のNNベースのキャンセラよりも計算複雑性の低いSIをモデル化する。
論文 参考訳(メタデータ) (2021-10-18T14:18:56Z) - SIRe-Networks: Skip Connections over Interlaced Multi-Task Learning and
Residual Connections for Structure Preserving Object Classification [28.02302915971059]
本稿では、オブジェクト分類タスクにおける消失勾配を低減するために、SIReを定義したインターレース型マルチタスク学習戦略を提案する。
提案手法は、自動エンコーダを介して入力画像構造を保存することにより、畳み込みニューラルネットワーク(CNN)を直接改善する。
提案手法を検証するため、SIRe戦略を介して単純なCNNと有名なネットワークの様々な実装を拡張し、CIFAR100データセットで広範囲にテストする。
論文 参考訳(メタデータ) (2021-10-06T13:54:49Z) - A novel Deep Neural Network architecture for non-linear system
identification [78.69776924618505]
非線形システム識別のための新しいDeep Neural Network (DNN)アーキテクチャを提案する。
メモリシステムにインスパイアされたインダクティブバイアス(アーキテクチャ)と正規化(損失関数)を導入する。
このアーキテクチャは、利用可能なデータのみに基づいて、自動的な複雑性の選択を可能にする。
論文 参考訳(メタデータ) (2021-06-06T10:06:07Z) - Coupled Oscillatory Recurrent Neural Network (coRNN): An accurate and
(gradient) stable architecture for learning long time dependencies [15.2292571922932]
本稿では,リカレントニューラルネットワークのための新しいアーキテクチャを提案する。
提案するRNNは, 2次常微分方程式系の時間分解に基づく。
実験の結果,提案したRNNは,様々なベンチマークによる最先端技術に匹敵する性能を示した。
論文 参考訳(メタデータ) (2020-10-02T12:35:04Z) - Accurate and Lightweight Image Super-Resolution with Model-Guided Deep
Unfolding Network [63.69237156340457]
我々は、モデル誘導深部展開ネットワーク(MoG-DUN)と呼ばれるSISRに対する説明可能なアプローチを提示し、提唱する。
MoG-DUNは正確(エイリアスを少なくする)、計算効率(モデルパラメータを減らした)、多用途(多重劣化を処理できる)である。
RCAN, SRDNF, SRFBNを含む既存の最先端画像手法に対するMoG-DUN手法の優位性は、いくつかの一般的なデータセットと様々な劣化シナリオに関する広範な実験によって実証されている。
論文 参考訳(メタデータ) (2020-09-14T08:23:37Z) - Modeling from Features: a Mean-field Framework for Over-parameterized
Deep Neural Networks [54.27962244835622]
本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。
このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。
本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
論文 参考訳(メタデータ) (2020-07-03T01:37:16Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。