論文の概要: Multi-mode fiber reservoir computing overcomes shallow neural networks
classifiers
- arxiv url: http://arxiv.org/abs/2210.04745v2
- Date: Fri, 26 May 2023 14:40:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-29 23:46:37.955449
- Title: Multi-mode fiber reservoir computing overcomes shallow neural networks
classifiers
- Title(参考訳): 浅層ニューラルネットワーク分類器を克服したマルチモードファイバリザーバコンピューティング
- Authors: Daniele Ancora, Matteo Negri, Antonio Gianfrate, Dimitris
Trypogeorgos, Lorenzo Dominici, Daniele Sanvitto, Federico Ricci-Tersenghi,
Luca Leuzzi
- Abstract要約: 我々は、マルチモード光ファイバをランダムなハードウェアプロジェクタにリキャストし、入力データセットをスペックルイメージセットに変換する。
このハードウェアは、ファイバデータに基づいてトレーニングされた場合、損失景観の平坦な領域で動作し、これはディープニューラルネットワークの現在の理論と一致する。
- 参考スコア(独自算出の注目度): 8.891157811906407
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the field of disordered photonics, a common objective is to characterize
optically opaque materials for controlling light delivery or performing
imaging. Among various complex devices, multi-mode optical fibers stand out as
cost-effective and easy-to-handle tools, making them attractive for several
tasks. In this context, we leverage the reservoir computing paradigm to recast
these fibers into random hardware projectors, transforming an input dataset
into a higher dimensional speckled image set. The goal of our study is to
demonstrate that using such randomized data for classification by training a
single logistic regression layer improves accuracy compared to training on
direct raw images. Interestingly, we found that the classification accuracy
achieved using the reservoir is also higher than that obtained with the
standard transmission matrix model, a widely accepted tool for describing light
transmission through disordered devices. We find that the reason for such
improved performance could be due to the fact that the hardware classifier
operates in a flatter region of the loss landscape when trained on fiber data,
which aligns with the current theory of deep neural networks. These findings
strongly suggest that multi-mode fibers possess robust generalization
properties, positioning them as promising tools for optically-assisted neural
networks. With this study, in fact, we want to contribute to advancing the
knowledge and practical utilization of these versatile instruments, which may
play a significant role in shaping the future of machine learning.
- Abstract(参考訳): 乱れたフォトニクスの分野では、光伝達を制御するために光学不透明な材料を特徴づけることやイメージングを行うことが共通の目的である。
様々な複雑なデバイスの中で、多モード光ファイバは費用対効果と扱いやすいツールとして際立っている。
この文脈では、貯留層計算のパラダイムを利用して、これらのファイバーをランダムなハードウェアプロジェクタにリキャストし、入力データセットを高次元のスペックル画像集合に変換する。
本研究の目的は,単一ロジスティック回帰層のトレーニングによる分類におけるランダム化データの利用が,直接生画像のトレーニングに比べて精度を向上させることを示すことである。
興味深いことに, この貯水池で得られた分類精度は, 乱れた装置による光透過を記述する手段として広く受け入れられている標準透過マトリクスモデルよりも高いことがわかった。
このような性能向上の理由は、現在のディープニューラルネットワークの理論と整合するファイバーデータを用いたトレーニングにおいて、ハードウェア分類器が損失ランドスケープのフラットな領域で動作していることに起因している可能性がある。
これらの結果は、多モードファイバが強力な一般化特性を有しており、光アシストニューラルネットワークの有望なツールとして位置づけられていることを強く示唆している。
本研究は,これらの多目的楽器の知識と実用性の向上に寄与し,機械学習の未来を形作る上で重要な役割を担っていると考えられる。
関連論文リスト
- Optical training of large-scale Transformers and deep neural networks with direct feedback alignment [48.90869997343841]
我々は,ハイブリッド電子フォトニックプラットフォーム上で,ダイレクトフィードバックアライメントと呼ばれる多目的でスケーラブルなトレーニングアルゴリズムを実験的に実装した。
光処理ユニットは、このアルゴリズムの中央動作である大規模ランダム行列乗算を最大1500テラOpsで行う。
我々は、ハイブリッド光アプローチの計算スケーリングについて検討し、超深度・広帯域ニューラルネットワークの潜在的な利点を実証する。
論文 参考訳(メタデータ) (2024-09-01T12:48:47Z) - Deep Learning with Passive Optical Nonlinear Mapping [9.177212626554505]
残響共振器内の多重散乱を利用して光非線形ランダムマッピングを受動的に誘導する設計を提案する。
キャビティ内の多重散乱により容易な光データ圧縮を行い, 重要情報を効率よく圧縮し, 保持できることを示す。
我々の発見は、光コンピューティングのための新しいアルゴリズムとアーキテクチャ設計の道を開いた。
論文 参考訳(メタデータ) (2023-07-17T15:15:47Z) - Unsupervised Domain Transfer with Conditional Invertible Neural Networks [83.90291882730925]
条件付き可逆ニューラルネットワーク(cINN)に基づくドメイン転送手法を提案する。
提案手法は本質的に,その可逆的アーキテクチャによるサイクル一貫性を保証し,ネットワークトレーニングを最大限効率的に行うことができる。
提案手法は,2つの下流分類タスクにおいて,現実的なスペクトルデータの生成を可能にし,その性能を向上する。
論文 参考訳(メタデータ) (2023-03-17T18:00:27Z) - Experimentally realized in situ backpropagation for deep learning in
nanophotonic neural networks [0.7627023515997987]
私たちは、カスタムデザインの「フォトニックメッシュ」アクセラレーターをカスケードする、大量製造可能なシリコンフォトニックニューラルネットワークを設計します。
In situ backproagation を初めて示し、分類課題を解く。
本研究は、フォトニクス加速人工知能の新しいトレーニングパラダイムを、一般的なバックプロパゲーション手法の物理的類似に基づいて提案するものであることを示唆する。
論文 参考訳(メタデータ) (2022-05-17T17:13:50Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - Learning optical flow from still images [53.295332513139925]
我々は,容易に利用可能な単一の実画像から,高精度な光学的フローアノテーションを迅速かつ多量に生成するフレームワークを提案する。
既知の動きベクトルと回転角を持つ再構成された環境でカメラを仮想的に移動させる。
我々のデータでトレーニングすると、最先端の光フローネットワークは、実データを見るのに優れた一般化を実現する。
論文 参考訳(メタデータ) (2021-04-08T17:59:58Z) - Neural BRDF Representation and Importance Sampling [79.84316447473873]
本稿では,リフレクタンスBRDFデータのコンパクトニューラルネットワークに基づく表現について述べる。
BRDFを軽量ネットワークとしてエンコードし、適応角サンプリングによるトレーニングスキームを提案する。
複数の実世界のデータセットから等方性および異方性BRDFの符号化結果を評価する。
論文 参考訳(メタデータ) (2021-02-11T12:00:24Z) - Scalable Optical Learning Operator [0.2399911126932526]
提案するフレームワークは,速度を分類することなく既存のシステムのエネルギースケーリング問題を克服する。
数値的および実験的に、デジタル実装に匹敵する精度で複数の異なるタスクを実行する方法の能力を示した。
その結果、マルチモードファイバベースのコンピュータの性能を複製するには、強力なスーパーコンピュータが必要であることが示された。
論文 参考訳(メタデータ) (2020-12-22T23:06:59Z) - Scale-, shift- and rotation-invariant diffractive optical networks [0.0]
D2NN(Diffractive Deep Neural Networks)は、一連のトレーニング可能な表面上の光-物質相互作用を利用して、所望の統計的推論タスクを計算する。
そこで本研究では,学習期間中に入力オブジェクトの変換,回転,スケーリングを導入する,拡散型ネットワークの新たなトレーニング戦略を示す。
このトレーニング戦略は、スケール、シフト、回転不変の解への微分光学ネットワーク設計の進化をうまく導く。
論文 参考訳(メタデータ) (2020-10-24T02:18:39Z) - Rapid characterisation of linear-optical networks via PhaseLift [51.03305009278831]
集積フォトニクスは優れた位相安定性を提供し、半導体産業によって提供される大規模な製造性に依存することができる。
このような光回路に基づく新しいデバイスは、機械学習アプリケーションにおいて高速でエネルギー効率の高い計算を約束する。
線形光ネットワークの転送行列を再構成する新しい手法を提案する。
論文 参考訳(メタデータ) (2020-10-01T16:04:22Z) - Large-scale spatiotemporal photonic reservoir computer for image
classification [0.8701566919381222]
本稿では,手書き桁の分類を行うために,フィードフォワードとリカレントニューラルネットワークを実装するためのスケーラブルなフォトニックアーキテクチャを提案する。
実験では、既製の光学部品と電子部品を利用して、現在16,384ノードのネットワークサイズを実現している。
論文 参考訳(メタデータ) (2020-04-06T10:22:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。