Fugu-MT 論文翻訳(概要): Compressed Meta-Optical Encoder for Image Classification

論文の概要: Compressed Meta-Optical Encoder for Image Classification

arxiv url: http://arxiv.org/abs/2406.06534v2
Date: Fri, 14 Jun 2024 05:43:12 GMT
ステータス: 処理完了
システム内更新日: 2024-06-17 18:03:47.154790
Title: Compressed Meta-Optical Encoder for Image Classification
Title（参考訳）: 画像分類のための圧縮メタオプティカルエンコーダ
Authors: Anna Wirth-Singh, Jinlin Xiang, Minho Choi, Johannes E. Fröch, Luocheng Huang, Shane Colburn, Eli Shlizerman, Arka Majumdar,
Abstract要約: 我々は知識蒸留を用いて、改良されたAlexNetを1つの線形畳み込み層と電子バックエンドに圧縮する。 5つの畳み込み層と3つの完全連結層を持つ純粋電子CNNに匹敵する性能を得る。 MNISTデータセットでは,分類精度が93%を超えることが実験的に実証された。
参考スコア（独自算出の注目度）: 4.884466391667505
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Optical and hybrid convolutional neural networks (CNNs) recently have become of increasing interest to achieve low-latency, low-power image classification and computer vision tasks. However, implementing optical nonlinearity is challenging, and omitting the nonlinear layers in a standard CNN comes at a significant reduction in accuracy. In this work, we use knowledge distillation to compress modified AlexNet to a single linear convolutional layer and an electronic backend (two fully connected layers). We obtain comparable performance to a purely electronic CNN with five convolutional layers and three fully connected layers. We implement the convolution optically via engineering the point spread function of an inverse-designed meta-optic. Using this hybrid approach, we estimate a reduction in multiply-accumulate operations from 17M in a conventional electronic modified AlexNet to only 86K in the hybrid compressed network enabled by the optical frontend. This constitutes over two orders of magnitude reduction in latency and power consumption. Furthermore, we experimentally demonstrate that the classification accuracy of the system exceeds 93% on the MNIST dataset.
Abstract（参考訳）: 光およびハイブリッド畳み込みニューラルネットワーク(CNN)は、最近、低レイテンシ、低消費電力の画像分類およびコンピュータビジョンタスクを達成するために関心が高まっている。しかし、光学的非線形性の実装は困難であり、標準CNNにおける非線形層を省略することは、精度を大幅に低下させる。本研究では、知識蒸留を用いて、改良されたAlexNetを1つの線形畳み込み層と電子バックエンド(2つの完全に接続された層)に圧縮する。 5つの畳み込み層と3つの完全連結層を持つ純粋電子CNNに匹敵する性能を得る。逆設計メタ光学の点展開関数を工学的に光学的に実装する。このハイブリッド手法を用いて、従来の電子修正型AlexNetでは17Mから86Kに減算された乗算演算を、光フロントエンドによって実現されたハイブリッド圧縮ネットワークでは86Kに削減する。これは、レイテンシと消費電力を2桁以上削減する。さらに,MNISTデータセットの分類精度が93%を超えることを示した。

関連論文リスト

Transferable polychromatic optical encoder for neural networks [13.311727599288524]
本稿では,画像キャプチャ中に3つの色チャネルで同時に畳み込みを行う光学エンコーダを実演する。このような光学符号化は計算処理を24,000倍に削減し、自由空間光学系における最先端の分類精度(73.2%)が得られる。
論文参考訳（メタデータ） (2024-11-05T00:49:47Z)
HyperKAN: Kolmogorov-Arnold Networks make Hyperspectral Image Classificators Smarter [0.0699049312989311]
本稿では,従来のネットワークの線形層と畳み込み層をKANベースのネットワークに置き換えることを提案する。これらの修正により,高スペクトルリモートセンシング画像の画素単位の分類精度が大幅に向上した。最も大きな効果は、スペクトルデータのみを扱う畳み込みネットワークにおいて達成された。
論文参考訳（メタデータ） (2024-07-07T06:36:09Z)
1-bit Quantized On-chip Hybrid Diffraction Neural Network Enabled by Authentic All-optical Fully-connected Architecture [4.594367761345624]
本研究では,行列乗算をDNNに組み込んだ新しいアーキテクチャであるHybrid Diffraction Neural Network(HDNN)を紹介する。特異位相変調層と振幅変調層を用いて、トレーニングされたニューラルネットワークは、数字認識タスクにおいて96.39%と89%の顕著な精度を示した。
論文参考訳（メタデータ） (2024-04-11T02:54:17Z)
Single-Shot Optical Neural Network [55.41644538483948]
深層ニューラルネットワークに必要な計算資源を削減するために,「重定常」アナログ光学・電子ハードウェアが提案されている。我々は、スケーラブルで1層当たり単発の重み付き光学プロセッサを提案する。
論文参考訳（メタデータ） (2022-05-18T17:49:49Z)
All-optical graph representation learning using integrated diffractive photonic computing units [51.15389025760809]
フォトニックニューラルネットワークは、電子の代わりに光子を用いて脳にインスパイアされた計算を行う。我々は、DGNN(diffractive graph neural network)と呼ばれる全光グラフ表現学習アーキテクチャを提案する。ベンチマークデータベースを用いたノードおよびグラフレベルの分類タスクにおけるDGNN抽出機能の利用を実演し、優れた性能を実現する。
論文参考訳（メタデータ） (2022-04-23T02:29:48Z)
Neural Architecture Search for Efficient Uncalibrated Deep Photometric Stereo [105.05232615226602]
差別化可能なニューラルアーキテクチャサーチ(NAS)戦略を利用して、非校正型PSアーキテクチャを自動的に見つける。 DiLiGenTデータセットの実験では、自動検索されたニューラルネットワークのパフォーマンスが、最先端の未校正PSメソッドと好適に比較されている。
論文参考訳（メタデータ） (2021-10-11T21:22:17Z)
DS-Net++: Dynamic Weight Slicing for Efficient Inference in CNNs and Transformers [105.74546828182834]
本稿では,様々な難易度を持つ入力に対して,ネットワークパラメータの一部を適応的にスライスする動的ウェイトスライシングという,ハードウェア効率のよい動的推論方式を示す。我々は、CNNのフィルタ数とCNNと変換器の多重次元を入力依存的に調整することで、動的スライム可能なネットワーク(DS-Net)と動的スライス可能なネットワーク(DS-Net++)を提案する。
論文参考訳（メタデータ） (2021-09-21T09:57:21Z)
A Battle of Network Structures: An Empirical Study of CNN, Transformer, and MLP [121.35904748477421]
畳み込みニューラルネットワーク(CNN)は、コンピュータビジョンのための支配的なディープニューラルネットワーク(DNN)アーキテクチャである。トランスフォーマーとマルチ層パーセプトロン(MLP)ベースのモデル(Vision TransformerやVision-Mixer)が新しいトレンドを導い始めた。本稿では,これらのDNN構造について実証的研究を行い,それぞれの長所と短所を理解しようとする。
論文参考訳（メタデータ） (2021-08-30T06:09:02Z)
Lightweight Compression of Intermediate Neural Network Features for Collaborative Intelligence [32.03465747357384]
協調インテリジェンスアプリケーションでは、ディープニューラルネットワーク(DNN)の一部が携帯電話やエッジデバイスなどの軽量デバイスにデプロイされます。本稿では,分割DNNの中間層によって出力される特徴を量子化し圧縮する,新しい軽量圧縮技術を提案する。
論文参考訳（メタデータ） (2021-05-15T00:10:12Z)
Lightweight compression of neural network feature tensors for collaborative intelligence [32.03465747357384]
協調インテリジェンスアプリケーションでは、ディープニューラルネットワーク(DNN)の一部は、携帯電話やエッジデバイスなどの比較的低い複雑さのデバイスにデプロイされます。本稿では,スプリットdnn層のアクティベーションをコード化するために設計された新しい軽量圧縮技術を提案する。
論文参考訳（メタデータ） (2021-05-12T23:41:35Z)
MicroNet: Towards Image Recognition with Extremely Low FLOPs [117.96848315180407]
MicroNetは計算コストの極めて低い効率的な畳み込みニューラルネットワークである。 MicroNetのファミリは、低いFLOP体制における最先端技術よりも大きなパフォーマンス向上を実現している。例えば、MicroNet-M1は12のMFLOPを持つImageNet分類において61.1%のトップ-1の精度を達成し、MobileNetV3を11.3%上回っている。
論文参考訳（メタデータ） (2020-11-24T18:59:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。