論文の概要: Automated Architecture Search for Brain-inspired Hyperdimensional Computing

• arxiv url: http://arxiv.org/abs/2202.05827v1
• Date: Fri, 11 Feb 2022 18:43:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-14 16:51:08.199088
• Title: Automated Architecture Search for Brain-inspired Hyperdimensional Computing
• Title（参考訳）: 脳にインスパイアされた超次元コンピューティングのための自動アーキテクチャ探索
• Authors: Junhuan Yang, Yi Sheng, Sizhe Zhang, Ruixuan Wang, Kenneth Foreman, Mikell Paige, Xun Jiao, Weiwen Jiang, Lei Yang
• Abstract要約: 本稿では,超次元コンピューティング(HDC)のためのアーキテクチャの自動探索のための最初の試みを示す。 検索したHDCアーキテクチャは、薬物発見データセットと言語認識タスクを含むケーススタディにおける競合性能を示す。
• 参考スコア（独自算出の注目度）: 5.489173080636452
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: This paper represents the first effort to explore an automated architecture search for hyperdimensional computing (HDC), a type of brain-inspired neural network. Currently, HDC design is largely carried out in an application-specific ad-hoc manner, which significantly limits its application. Furthermore, the approach leads to inferior accuracy and efficiency, which suggests that HDC cannot perform competitively against deep neural networks. Herein, we present a thorough study to formulate an HDC architecture search space. On top of the search space, we apply reinforcement-learning to automatically explore the HDC architectures. The searched HDC architectures show competitive performance on case studies involving a drug discovery dataset and a language recognition task. On the Clintox dataset, which tries to learn features from developed drugs that passed/failed clinical trials for toxicity reasons, the searched HDC architecture obtains the state-of-the-art ROC-AUC scores, which are 0.80% higher than the manually designed HDC and 9.75% higher than conventional neural networks. Similar results are achieved on the language recognition task, with 1.27% higher performance than conventional methods.
• Abstract（参考訳）: 本稿では,脳にインスパイアされたニューラルネットワークの一種である超次元コンピューティング(HDC)の自動アーキテクチャ探索について検討する。 現在、HDC設計はアプリケーション固有のアドホックな方法で行われており、その適用を著しく制限している。 さらに、このアプローチは精度と効率を低下させ、HDCがディープニューラルネットワークと競合することができないことを示唆している。 本稿では,HDCアーキテクチャの探索空間を定式化するための詳細な研究について述べる。 検索空間の上に強化学習を適用して,HDCアーキテクチャを自動的に探索する。 検索したHDCアーキテクチャは、薬物発見データセットと言語認識タスクを含むケーススタディにおける競合性能を示す。 毒性のために臨床試験をパス・フェールした薬品から特徴を学習しようとするクリントックスデータセットにおいて、探索されたhdcアーキテクチャは、手作業で設計したhdcよりも0.80%高く、従来のニューラルネットワークよりも9.75%高い最先端のroc-aucスコアを得る。 同様の結果は、従来の手法よりも1.27%高い性能を持つ言語認識タスクで達成される。

関連論文リスト

• EM-DARTS: Hierarchical Differentiable Architecture Search for Eye Movement Recognition [54.99121380536659]
  眼球運動バイオメトリックスは、高い安全性の識別により注目されている。 深層学習(DL)モデルは近年,眼球運動認識に成功している。 DLアーキテクチャはまだ人間の事前知識によって決定されている。 眼球運動認識のためのDLアーキテクチャを自動設計する階層的微分可能なアーキテクチャ探索アルゴリズムEM-DARTSを提案する。
  論文  参考訳（メタデータ） (2024-09-22T13:11:08Z)
• DNA Family: Boosting Weight-Sharing NAS with Block-Wise Supervisions [121.05720140641189]
  蒸留型ニューラルアーキテクチャ(DNA)技術を用いたモデル群を開発した。 提案するDNAモデルでは,アルゴリズムを用いてサブサーチ空間にのみアクセス可能な従来の手法とは対照的に,すべてのアーキテクチャ候補を評価できる。 当社のモデルでは,モバイルコンボリューションネットワークと小型ビジョントランスフォーマーにおいて,ImageNet上で78.9%,83.6%の最先端トップ1精度を実現している。
  論文  参考訳（メタデータ） (2024-03-02T22:16:47Z)
• DCP-NAS: Discrepant Child-Parent Neural Architecture Search for 1-bit CNNs [53.82853297675979]
  バイナリ重みとアクティベーションを備えた1ビット畳み込みニューラルネットワーク(CNN)は、リソース制限された組み込みデバイスの可能性を示している。 自然なアプローチの1つは、NASの計算とメモリコストを削減するために1ビットCNNを使用することである。 本稿では,1ビットCNNを効率的に探索するためにDCP-NAS(Disrepant Child-Parent Neural Architecture Search)を提案する。
  論文  参考訳（メタデータ） (2023-06-27T11:28:29Z)
• Hyperdimensional Computing vs. Neural Networks: Comparing Architecture and Learning Process [3.244375684001034]
  我々は、HDCとニューラルネットワークの比較研究を行い、HDCを前もって訓練された非常にコンパクトなニューラルネットワークから引き出すことができる異なる角度を提供する。 実験の結果,従来のHDCモデルと学習ベースのHDCモデルから,ニューラルネットワーク由来のHDCモデルを最大21%,精度5%向上させることができることがわかった。
  論文  参考訳（メタデータ） (2022-07-24T21:23:50Z)
• Automating Neural Architecture Design without Search [3.651848964235307]
  アルゴリズム実行中に生成された各ニューラルネットワークを逐次評価する必要のない新しい視点から、自動アーキテクチャ設計について検討する。 リンク予測にグラフニューラルネットワークを用いて提案手法を実装し,NAS-Bench-101から知識を得た。 さらに、NAS-Bench-101から学んだ知識を利用して、DARTS検索空間におけるアーキテクチャ設計を自動化し、CIFAR10では97.82%、ImageNetでは76.51%の精度で2時間10-4ドルのGPU日しか消費しなかった。
  論文  参考訳（メタデータ） (2022-04-21T14:41:05Z)
• EnHDC: Ensemble Learning for Brain-Inspired Hyperdimensional Computing [2.7462881838152913]
  本稿では,超次元コンピューティングの文脈において,アンサンブル学習を探求する最初の試みについて述べる。 本稿では,EnHDCと呼ばれる最初のアンサンブルHDCモデルを提案する。 本研究では,1つのHDC分類器に対して平均3.2%の精度向上を達成できることを示す。
  論文  参考訳（メタデータ） (2022-03-25T09:54:00Z)
• Probeable DARTS with Application to Computational Pathology [44.20005949950844]
  我々は、その効率のために微分可能なアーキテクチャサーチ(DARTS)を使用している。 次に、最適なネットワークアーキテクチャを探索することで、CPathアプリケーションに検索フレームワークを適用します。 その結果,検索したネットワークは,予測精度と複雑性の観点から,最先端ネットワークよりも優れていた。
  論文  参考訳（メタデータ） (2021-08-16T02:16:06Z)
• MS-RANAS: Multi-Scale Resource-Aware Neural Architecture Search [94.80212602202518]
  我々は,MS-RANAS(Multi-Scale Resource-Aware Neural Architecture Search)を提案する。 我々は,検索コストの削減を図るために,ワンショットのアーキテクチャ探索手法を採用した。 我々は精度-速度トレードオフの観点から最先端の結果を得る。
  論文  参考訳（メタデータ） (2020-09-29T11:56:01Z)
• Disentangled Neural Architecture Search [7.228790381070109]
  本稿では,制御器の隠蔽表現を意味論的に意味のある概念に解き放つ,アンタングル型ニューラルネットワーク探索(DNAS)を提案する。 DNASは、オペレーションの選択、接続のスキップ、レイヤ数など、アーキテクチャ表現のアンタングルに成功している。 センスサンプリングは、より高い効率とより良いパフォーマンスでニューラルネットワーク検索につながる。
  論文  参考訳（メタデータ） (2020-09-24T03:35:41Z)
• Off-Policy Reinforcement Learning for Efficient and Effective GAN Architecture Search [50.40004966087121]
  本稿では,GANアーキテクチャ探索のための強化学習に基づくニューラルアーキテクチャ探索手法を提案する。 鍵となる考え方は、よりスムーズなアーキテクチャサンプリングのためのマルコフ決定プロセス(MDP)として、GANアーキテクチャ探索問題を定式化することである。 我々は,従来の政策によって生成されたサンプルを効率的に活用する,非政治的なGANアーキテクチャ探索アルゴリズムを利用する。
  論文  参考訳（メタデータ） (2020-07-17T18:29:17Z)
• A Semi-Supervised Assessor of Neural Architectures [157.76189339451565]
  我々は、ニューラルネットワークの有意義な表現を見つけるためにオートエンコーダを用いる。 アーキテクチャの性能を予測するために、グラフ畳み込みニューラルネットワークを導入する。
  論文  参考訳（メタデータ） (2020-05-14T09:02:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。