Fugu-MT 論文翻訳(概要): Towards More Efficient and Effective Inference: The Joint Decision of Multi-Participants

論文の概要: Towards More Efficient and Effective Inference: The Joint Decision of Multi-Participants

arxiv url: http://arxiv.org/abs/2001.06774v1
Date: Sun, 19 Jan 2020 04:52:05 GMT
ステータス: 処理完了
システム内更新日: 2023-01-08 12:39:47.491890
Title: Towards More Efficient and Effective Inference: The Joint Decision of Multi-Participants
Title（参考訳）: より効率的かつ効果的な推論に向けて:多人数共同決定
Authors: Hui Zhu, Zhulin An, Kaiqiang Xu, Xiaolong Hu, Yongjun Xu
Abstract要約: 本稿では,エッジデバイスに適した手法を提案する。主に多層膜と多層ネットワークを含む複数参加者の連成決定は、より高い分類精度を実現することができる。
参考スコア（独自算出の注目度）: 9.994317392276432
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Existing approaches to improve the performances of convolutional neural networks by optimizing the local architectures or deepening the networks tend to increase the size of models significantly. In order to deploy and apply the neural networks to edge devices which are in great demand, reducing the scale of networks are quite crucial. However, It is easy to degrade the performance of image processing by compressing the networks. In this paper, we propose a method which is suitable for edge devices while improving the efficiency and effectiveness of inference. The joint decision of multi-participants, mainly contain multi-layers and multi-networks, can achieve higher classification accuracy (0.26% on CIFAR-10 and 4.49% on CIFAR-100 at most) with similar total number of parameters for classical convolutional neural networks.
Abstract（参考訳）: 局所的なアーキテクチャを最適化したり、ネットワークを深くすることで畳み込みニューラルネットワークの性能を向上させる既存のアプローチは、モデルのサイズを大幅に増加させる傾向がある。需要の高いエッジデバイスにニューラルネットワークをデプロイして適用するためには、ネットワークの規模を縮小することが非常に重要です。しかし、ネットワークを圧縮して画像処理の性能を低下させることは容易である。本稿では,エッジデバイスに適した推論手法を提案する。多層および多層ネットワークを主成分とする多成分の結合決定は、従来の畳み込みニューラルネットワークのパラメータの合計数と同等で、より高い分類精度(cifar-10では0.26%、cifar-100では4.49%)を達成することができる。

関連論文リスト

Hierarchical Multi-Marginal Optimal Transport for Network Alignment [52.206006379563306]
マルチネットワークアライメントは,複数ネットワーク上での協調学習に必須の要件である。マルチネットワークアライメントのための階層型マルチマージ最適トランスポートフレームワークHOTを提案する。提案するHOTは,有効性とスケーラビリティの両面で,最先端の大幅な改善を実現している。
論文参考訳（メタデータ） (2023-10-06T02:35:35Z)
A Multi-objective Complex Network Pruning Framework Based on Divide-and-conquer and Global Performance Impairment Ranking [40.59001171151929]
本稿では,多目的複合ネットワークプルーニングフレームワークを提案する。提案アルゴリズムは,最先端プルーニング手法と同等の性能を実現する。
論文参考訳（メタデータ） (2023-03-28T12:05:15Z)
Iterative Soft Shrinkage Learning for Efficient Image Super-Resolution [91.3781512926942]
画像超解像(SR)は、CNNからトランスフォーマーアーキテクチャへの広範なニューラルネットワーク設計を目撃している。本研究は,市販のネットワーク設計を生かし,基礎となる計算オーバーヘッドを低減するため,超高解像度イテレーションにおけるネットワークプルーニングの可能性について検討する。本研究では, ランダムネットワークのスパース構造を最適化し, 重要でない重みを小さめに微調整することにより, 反復型軟収縮率(ISS-P)法を提案する。
論文参考訳（メタデータ） (2023-03-16T21:06:13Z)
Rewarded meta-pruning: Meta Learning with Rewards for Channel Pruning [19.978542231976636]
本稿では,ディープラーニングモデルにおける計算効率向上のためのパラメータとFLOPの削減手法を提案する。本稿では,ネットワークの精度と計算効率のトレードオフを制御するために,精度と効率係数を導入する。
論文参考訳（メタデータ） (2023-01-26T12:32:01Z)
Multi-agent Reinforcement Learning with Graph Q-Networks for Antenna Tuning [60.94661435297309]
モバイルネットワークの規模は、手作業による介入や手作業による戦略を使ってアンテナパラメータの最適化を困難にしている。本研究では,モバイルネットワーク構成をグローバルに最適化するマルチエージェント強化学習アルゴリズムを提案する。シミュレーション環境におけるアンテナ傾き調整問題とジョイント傾き・電力制御問題に対するアルゴリズムの性能を実証的に示す。
論文参考訳（メタデータ） (2023-01-20T17:06:34Z)
A Faster Approach to Spiking Deep Convolutional Neural Networks [0.0]
スパイキングニューラルネットワーク(SNN)は、現在のディープニューラルネットワークよりも脳に近いダイナミクスを持つ。ネットワークのランタイムと精度を改善するために,従来の作業に基づくネットワーク構造を提案する。
論文参考訳（メタデータ） (2022-10-31T16:13:15Z)
Manifold Regularized Dynamic Network Pruning [102.24146031250034]
本稿では,全インスタンスの多様体情報をプルーンドネットワークの空間に埋め込むことにより,冗長フィルタを動的に除去する新しいパラダイムを提案する。提案手法の有効性をいくつかのベンチマークで検証し,精度と計算コストの両面で優れた性能を示す。
論文参考訳（メタデータ） (2021-03-10T03:59:03Z)
All at Once Network Quantization via Collaborative Knowledge Transfer [56.95849086170461]
オールオンス量子化ネットワークを効率的にトレーニングするための新しい共同知識伝達アプローチを開発しています。具体的には、低精度の学生に知識を伝達するための高精度のエンクォータを選択するための適応的選択戦略を提案する。知識を効果的に伝達するために,低精度の学生ネットワークのブロックを高精度の教師ネットワークのブロックにランダムに置き換える動的ブロックスワッピング法を開発した。
論文参考訳（メタデータ） (2021-03-02T03:09:03Z)
Channel Planting for Deep Neural Networks using Knowledge Distillation [3.0165431987188245]
我々は,植林と呼ばれる深層ニューラルネットワークのための新しいインクリメンタルトレーニングアルゴリズムを提案する。本システムでは,ネットワーク性能向上のためのパラメータの少ない最適ネットワークアーキテクチャを探索できる。 CIFAR-10/100 や STL-10 などの異なるデータセットに対する提案手法の有効性を評価する。
論文参考訳（メタデータ） (2020-11-04T16:29:59Z)
Resolution Adaptive Networks for Efficient Inference [53.04907454606711]
本稿では,低分解能表現が「容易」な入力を分類するのに十分である,という直感に触発された新しいレゾリューション適応ネットワーク(RANet)を提案する。 RANetでは、入力画像はまず、低解像度表現を効率的に抽出する軽量サブネットワークにルーティングされる。ネットワーク内の高解像度パスは、"ハード"サンプルを認識する能力を維持している。
論文参考訳（メタデータ） (2020-03-16T16:54:36Z)
Differentiable Sparsification for Deep Neural Networks [0.0]
本稿では,ディープニューラルネットワークのための完全微分可能なスペーシフィケーション手法を提案する。提案手法は,ネットワークのスパース化構造と重み付けの両方をエンドツーエンドに学習することができる。私たちの知る限りでは、これが最初の完全に差別化可能なスパーシフィケーション手法である。
論文参考訳（メタデータ） (2019-10-08T03:57:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。