論文の概要: Genetically programmable optical random neural networks

• arxiv url: http://arxiv.org/abs/2403.12490v1
• Date: Tue, 19 Mar 2024 06:55:59 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-20 15:02:36.270030
• Title: Genetically programmable optical random neural networks
• Title（参考訳）: 遺伝的にプログラム可能な光ランダムニューラルネットワーク
• Authors: Bora Çarpınlıoğlu, Bahrem Serhat Daniş, Uğur Teğin,
• Abstract要約: 遺伝的にプログラム可能であるが、光学的ランダムプロジェクションによる高性能を実現するための単純な光学ニューラルネットワークを実証する。 ランダムプロジェクションカーネルとして機能する散乱媒質の配向を遺伝的にプログラミングすることにより,本手法は最適なカーネルを発見し,初期試験精度を7-22%向上させる。 提案手法は,シンプルでスケーラブルな設計で,光ニューラルネットワークの高性能化を実現するための有望な手法である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Today, machine learning tools, particularly artificial neural networks, have become crucial for diverse applications. However, current digital computing tools to train and deploy artificial neural networks often struggle with massive data sizes and high power consumptions. Optical computing provides inherent parallelism and perform fundamental operations with passive optical components. However, most of the optical computing platforms suffer from relatively low accuracies for machine learning tasks due to fixed connections while avoiding complex and sensitive techniques. Here, we demonstrate a genetically programmable yet simple optical neural network to achieve high performances with optical random projection. By genetically programming the orientation of the scattering medium which acts as a random projection kernel and only using 1% of the search space, our novel technique finds an optimum kernel and improves its initial test accuracies 7-22% for various machine learning tasks. Our optical computing method presents a promising approach to achieve high performance in optical neural networks with a simple and scalable design.
• Abstract（参考訳）: 今日では、機械学習ツール、特に人工知能は、多様なアプリケーションに欠かせない存在になっている。 しかし、ニューラルネットワークをトレーニングし、デプロイする現在のデジタルコンピューティングツールは、大規模なデータサイズと高消費電力に悩まされることが多い。 光コンピューティングは本質的に並列性を提供し、受動光学部品で基本的な操作を行う。 しかし、ほとんどの光学コンピューティングプラットフォームは、複雑でセンシティブな技術を避けながら、固定接続による機械学習タスクの精度が比較的低い。 本稿では,遺伝的にプログラム可能な単純な光学ニューラルネットワークを実演し,光学的ランダムプロジェクションによる高い性能を実現する。 ランダムなプロジェクションカーネルとして機能し、検索空間の1%しか使用しない散乱媒体の向きを遺伝的にプログラミングすることにより、新しい手法は最適なカーネルを見つけ、様々な機械学習タスクに対する初期試験精度を7-22%改善する。 提案手法は,シンプルでスケーラブルな設計で,光ニューラルネットワークの高性能化を実現するための有望な手法である。

関連論文リスト

• Optical training of large-scale Transformers and deep neural networks with direct feedback alignment [48.90869997343841]
  我々は,ハイブリッド電子フォトニックプラットフォーム上で,ダイレクトフィードバックアライメントと呼ばれる多目的でスケーラブルなトレーニングアルゴリズムを実験的に実装した。 光処理ユニットは、このアルゴリズムの中央動作である大規模ランダム行列乗算を最大1500テラOpsで行う。 我々は、ハイブリッド光アプローチの計算スケーリングについて検討し、超深度・広帯域ニューラルネットワークの潜在的な利点を実証する。
  論文  参考訳（メタデータ） (2024-09-01T12:48:47Z)
• Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
  本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。 我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。 本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
  論文  参考訳（メタデータ） (2024-03-18T18:01:01Z)
• Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
  我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。 新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。 我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
  論文  参考訳（メタデータ） (2024-02-20T15:23:24Z)
• Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks [74.3099028063756]
  我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。 我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。 我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
  論文  参考訳（メタデータ） (2024-02-19T09:29:37Z)
• Training neural networks with end-to-end optical backpropagation [1.1602089225841632]
  光プロセスを用いてニューラルネットワークをトレーニングするアルゴリズムであるバックプロパゲーションの実装方法を示す。 我々のアプローチは、様々なアナログプラットフォーム、材料、ネットワーク構造に適用可能である。 これは、トレーニングタスクと推論タスクの両方において、アナログ光学プロセスに完全に依存するニューラルネットワークを構築する可能性を示している。
  論文  参考訳（メタデータ） (2023-08-09T21:11:26Z)
• Hybrid training of optical neural networks [1.0323063834827415]
  光学ニューラルネットワークは、機械学習ハードウェアの有望なタイプとして登場しつつある。 これらのネットワークは主に、デジタルシミュレータのシリコトレーニング後に光推論を行うために開発されている。 我々は,光ニューラルネットワークのハイブリッドトレーニングを,多種多様な光ニューラルネットワークに適用できることを実証した。
  論文  参考訳（メタデータ） (2022-03-20T21:16:42Z)
• An optical neural network using less than 1 photon per multiplication [4.003843776219224]
  手書き桁分類において99%の精度を達成する光ニューラルネットワークを実験的に実証した。 この性能は、カスタム自由空間光学プロセッサを使用して達成された。 私達の結果は低光力操作のための原則を提供します。
  論文  参考訳（メタデータ） (2021-04-27T20:43:23Z)
• Photonics for artificial intelligence and neuromorphic computing [52.77024349608834]
  フォトニック集積回路は超高速な人工ニューラルネットワークを可能にした。 フォトニックニューロモルフィックシステムはナノ秒以下のレイテンシを提供する。 これらのシステムは、機械学習と人工知能の需要の増加に対応する可能性がある。
  論文  参考訳（メタデータ） (2020-10-30T21:41:44Z)
• Light-in-the-loop: using a photonics co-processor for scalable training of neural networks [21.153688679957337]
  本稿では,デジタル実装ニューラルネットワークのトレーニングフェーズを高速化する最初の光コプロセッサを提案する。 我々は、手書き桁認識のためのニューラルネットワークのトレーニングに使用していることを実証する。
  論文  参考訳（メタデータ） (2020-06-02T09:19:45Z)
• Spiking Neural Networks Hardware Implementations and Challenges: a Survey [53.429871539789445]
  スパイキングニューラルネットワークは、ニューロンとシナプスの操作原理を模倣する認知アルゴリズムである。 スパイキングニューラルネットワークのハードウェア実装の現状について述べる。 本稿では,これらのイベント駆動アルゴリズムの特性をハードウェアレベルで活用するための戦略について論じる。
  論文  参考訳（メタデータ） (2020-05-04T13:24:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。