論文の概要: Efficient Hybrid Network: Inducting Scattering Features

• arxiv url: http://arxiv.org/abs/2203.15392v1
• Date: Tue, 29 Mar 2022 09:33:59 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-31 01:27:43.809610
• Title: Efficient Hybrid Network: Inducting Scattering Features
• Title（参考訳）: 効率的なハイブリッドネットワーク:散乱特性の誘導
• Authors: Dmitry Minskiy, Miroslaw Bober
• Abstract要約: 効率的なハイブリッドネットワーク(E-HybridNet)を導入する。 さまざまなデータセットにおいて、従来よりも一貫してパフォーマンスが向上している。 我々の手法は、学習した特徴の柔軟性とパワー、散乱表現の安定性と予測可能性という2つの世界のベストをうまく組み合わせている。
• 参考スコア（独自算出の注目度）: 9.101294179203794
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Recent work showed that hybrid networks, which combine predefined and learnt filters within a single architecture, are more amenable to theoretical analysis and less prone to overfitting in data-limited scenarios. However, their performance has yet to prove competitive against the conventional counterparts when sufficient amounts of training data are available. In an attempt to address this core limitation of current hybrid networks, we introduce an Efficient Hybrid Network (E-HybridNet). We show that it is the first scattering based approach that consistently outperforms its conventional counterparts on a diverse range of datasets. It is achieved with a novel inductive architecture that embeds scattering features into the network flow using Hybrid Fusion Blocks. We also demonstrate that the proposed design inherits the key property of prior hybrid networks -- an effective generalisation in data-limited scenarios. Our approach successfully combines the best of the two worlds: flexibility and power of learnt features and stability and predictability of scattering representations.
• Abstract（参考訳）: 最近の研究によると、単一のアーキテクチャ内で事前定義されたフィルタと学習されたフィルタを組み合わせたハイブリッドネットワークは、理論的解析に適しており、データ制限シナリオの過度な適合性が低い。 しかし、その性能は、十分な量のトレーニングデータが利用可能である場合、従来のものとは競合していない。 現在のハイブリッドネットワークのこの中核的限界に対処するために,効率的なハイブリッドネットワーク(E-HybridNet)を導入する。 様々なデータセットにおいて従来の手法を一貫して上回り、散乱に基づく最初のアプローチであることを示す。 ハイブリッド融合ブロックを用いたネットワークフローに散乱機能を組み込んだ,新しいインダクティブアーキテクチャによって実現されている。 また,提案手法が先行するハイブリッドネットワークの重要な特性を継承していることを示す。 私たちのアプローチは、学習特徴の柔軟性とパワー、散乱表現の安定性と予測可能性という2つの世界のベストをうまく組み合わせています。

関連論文リスト

• DiffSG: A Generative Solver for Network Optimization with Diffusion Model [75.27274046562806]
  拡散生成モデルはより広い範囲の解を考えることができ、学習パラメータによるより強力な一般化を示す。 拡散生成モデルの本質的な分布学習を利用して高品質な解を学習する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-13T07:56:21Z)
• Hierarchical Multi-Marginal Optimal Transport for Network Alignment [52.206006379563306]
  マルチネットワークアライメントは,複数ネットワーク上での協調学習に必須の要件である。 マルチネットワークアライメントのための階層型マルチマージ最適トランスポートフレームワークHOTを提案する。 提案するHOTは,有効性とスケーラビリティの両面で,最先端の大幅な改善を実現している。
  論文  参考訳（メタデータ） (2023-10-06T02:35:35Z)
• Accurate Neural Network Pruning Requires Rethinking Sparse Optimization [87.90654868505518]
  標準コンピュータビジョンと自然言語処理の疎度ベンチマークを用いたモデルトレーニングにおいて,高い疎度が与える影響について述べる。 本稿では,視覚モデルのスパース事前学習と言語モデルのスパース微調整の両面において,この問題を軽減するための新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-08-03T21:49:14Z)
• HybridNet: Dual-Branch Fusion of Geometrical and Topological Views for VLSI Congestion Prediction [5.6934255257494]
  本稿では,回路のトポロジ的特徴と幾何学的特徴を包含する新しい手法を提案する。 本稿では,各経路に異なるエンコーダ層を配置し,複雑な融合戦略で表現を集約するデュアルブランチネットワークを提案する。 われわれのネットワークであるHybridNetは、セルの幾何学的相互作用を捉えるための単純かつ効果的な方法を提供するだけでなく、ネットリストにおける元のトポロジ的関係も保存する。
  論文  参考訳（メタデータ） (2023-05-07T15:02:02Z)
• Fitting Low-rank Models on Egocentrically Sampled Partial Networks [4.111899441919165]
  本稿では,egocentricly sampled network に対する一般的な低ランクモデルに適合する手法を提案する。 この手法は、エゴセントリックな部分的ネットワーク推定に関する最初の理論的保証を提供する。 本手法を複数の合成および実世界のネットワーク上で評価し,リンク予測タスクにおいて競合性能を実現することを示す。
  論文  参考訳（メタデータ） (2023-03-09T03:20:44Z)
• Defensive Tensorization [113.96183766922393]
  本稿では,ネットワークの遅延高次分解を利用した対角防御手法であるテンソル防御手法を提案する。 我々は,標準画像分類ベンチマークにおけるアプローチの有効性を実証的に実証した。 我々は,音声タスクとバイナリネットワークを考慮し,ドメイン間のアプローチと低精度アーキテクチャの汎用性を検証した。
  論文  参考訳（メタデータ） (2021-10-26T17:00:16Z)
• Synthetic Active Distribution System Generation via Unbalanced Graph Generative Adversarial Network [2.2749157557381245]
  Wasserstein GANの目的を持つ暗黙的な生成モデルは、合成三相非平衡な能動分布系接続を生成するように設計されている。 基本的な考え方は、実世界のシステムと線分の各フェーズにおけるランダムウォークの分布を学習することである。 いくつかのパワーアプリケーションを用いたケーススタディでは、提案フレームワークによって生成された合成アクティブネットワークが、現実世界のネットワークのほとんど全ての特徴を模倣できることが示されている。
  論文  参考訳（メタデータ） (2021-08-02T02:17:01Z)
• Probabilistic electric load forecasting through Bayesian Mixture Density Networks [70.50488907591463]
  確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。 ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。 後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
  論文  参考訳（メタデータ） (2020-12-23T16:21:34Z)
• Attn-HybridNet: Improving Discriminability of Hybrid Features with Attention Fusion [15.083406111874249]
  主成分分析ネットワーク(PCANet)は、主成分を畳み込み層内のフィルタとして利用する、教師なしの擬似深層ネットワークである。 PCANetとTFNet(Facterization Network)が取得した情報は、独特で非自明であるが、個々に不十分であることを示す。 そこで, PCANet と TFNet が取得した情報は, 独特で非自明であるが, 個々に不十分であることを示す。 ハイブリッドな特徴の識別性を高めるために,注意に基づく特徴融合を行うことで特徴の冗長性を緩和する Attn-HybridNet を提案する。
  論文  参考訳（メタデータ） (2020-10-13T00:52:57Z)
• Regression Prior Networks [14.198991969107524]
  Prior Networksは、不確実性の解釈可能な尺度を生成する、新しく開発されたモデルのクラスである。 また、Ensemble Distribution Distillation (EnD$2$)を介してモデルのアンサンブルを蒸留することもできる。 この作業は、Normal-Wishart分布を考慮し、Presideor NetworksとEnD$2$を回帰タスクに拡張する。
  論文  参考訳（メタデータ） (2020-06-20T14:50:14Z)
• Fitting the Search Space of Weight-sharing NAS with Graph Convolutional Networks [100.14670789581811]
  サンプルサブネットワークの性能に適合するグラフ畳み込みネットワークを訓練する。 この戦略により、選択された候補集合において、より高いランク相関係数が得られる。
  論文  参考訳（メタデータ） (2020-04-17T19:12:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。