Fugu-MT 論文翻訳(概要): Braid-based architecture search

論文の概要: Braid-based architecture search

arxiv url: http://arxiv.org/abs/2207.04121v1
Date: Fri, 8 Jul 2022 20:44:57 GMT
ステータス: 処理完了
システム内更新日: 2022-07-12 13:09:05.417627
Title: Braid-based architecture search
Title（参考訳）: braidベースのアーキテクチャ検索
Authors: Olga Lukyanova and Oleg Nikitin and Alex Kunin
Abstract要約: 本稿では、ニューラルネットワークのグラフ構造記述に応用されたブレイド理論の基礎について述べる。ニューラルネットワーク層間のブレイド構造を用いて、様々なトポロジのネットワークを構築する方法を示す。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: In this article, we propose the approach to structural optimization of neural networks, based on the braid theory. The paper describes the basics of braid theory as applied to the description of graph structures of neural networks. It is shown how networks of various topologies can be built using braid structures between layers of neural networks. The operation of a neural network based on the braid theory is compared with a homogeneous deep neural network and a network with random intersections between layers that do not correspond to the ordering of the braids. Results are obtained showing the advantage of braid-based networks over comparable architectures in classification problems.
Abstract（参考訳）: 本稿では,ブレイド理論に基づくニューラルネットワークの構造最適化手法を提案する。本稿では,ニューラルネットワークのグラフ構造の記述法としてブレイド理論の基本について述べる。ニューラルネットワーク層間のブレイド構造を用いて、様々なトポロジのネットワークを構築する方法を示す。ブレイド理論に基づくニューラルネットワークの動作は、均質なディープニューラルネットワークと、ブレイドの順序に対応しない層間のランダムな交差を持つネットワークと比較される。その結果、分類問題において、同等のアーキテクチャよりもブレイドネットワークの利点が示された。

関連論文リスト

Collective variables of neural networks: empirical time evolution and scaling laws [0.535514140374842]
実験的なニューラル・タンジェント・カーネルのスペクトル、特にエントロピーとトレースのスペクトルに対する特定の測定により、ニューラルネットワークが学習した表現についての洞察が得られることを示す。結果は、トランスフォーマー、オートエンコーダ、グラフニューラルネットワーク、強化学習研究など、より複雑なネットワークで示される前に、まずテストケースで実証される。
論文参考訳（メタデータ） (2024-10-09T21:37:14Z)
Rank Diminishing in Deep Neural Networks [71.03777954670323]
ニューラルネットワークのランクは、層をまたがる情報を測定する。これは機械学習の幅広い領域にまたがる重要な構造条件の例である。しかし、ニューラルネットワークでは、低ランク構造を生み出す固有のメカニズムはあいまいで不明瞭である。
論文参考訳（メタデータ） (2022-06-13T12:03:32Z)
Learning Structures for Deep Neural Networks [99.8331363309895]
我々は,情報理論に根ざし,計算神経科学に発達した効率的な符号化原理を採用することを提案する。スパース符号化は出力信号のエントロピーを効果的に最大化できることを示す。公開画像分類データセットを用いた実験により,提案アルゴリズムでスクラッチから学習した構造を用いて,最も優れた専門家設計構造に匹敵する分類精度が得られることを示した。
論文参考訳（メタデータ） (2021-05-27T12:27:24Z)
BraidNet: procedural generation of neural networks for image classification problems using braid theory [0.0]
本稿では,情報理論とブレイド理論を組み合わせたニューラルネットワークの手続き的最適化手法を提案する。ブレイドストランド間の交点と単純化されたネットワークを用いて実装した論文で研究したネットワークは、多クラス画像分類の様々な問題を解決するために使用される。シミュレーションの結果,braidnetは学習速度と分類精度において比較優位であった。
論文参考訳（メタデータ） (2021-04-20T14:40:30Z)
Firefly Neural Architecture Descent: a General Approach for Growing Neural Networks [50.684661759340145]
firefly neural architecture descentは、ニューラルネットワークを漸進的かつ動的に成長させるための一般的なフレームワークである。ホタルの降下は、より広く、より深くネットワークを柔軟に成長させ、正確だがリソース効率のよいニューラルアーキテクチャを学習するために応用できることを示す。特に、サイズは小さいが、最先端の手法で学習したネットワークよりも平均精度が高いネットワークを学習する。
論文参考訳（メタデータ） (2021-02-17T04:47:18Z)
Learning low-rank latent mesoscale structures in networks [1.1470070927586016]
ネットワークにおける低ランクメソスケール構造を記述するための新しい手法を提案する。いくつかの合成ネットワークモデルと経験的友情、協調、タンパク質-タンパク質相互作用(PPI)ネットワークを使用します。破損したネットワークから直接学習する潜在モチーフのみを用いて、破損したネットワークを認知する方法を示す。
論文参考訳（メタデータ） (2021-02-13T18:54:49Z)
Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
論文参考訳（メタデータ） (2020-08-19T04:53:31Z)
Graph Structure of Neural Networks [104.33754950606298]
ニューラルネットワークのグラフ構造が予測性能にどのように影響するかを示す。リレーショナルグラフの"スイートスポット"は、予測性能を大幅に改善したニューラルネットワークにつながる。トップパフォーマンスニューラルネットワークは、実際の生物学的ニューラルネットワークと驚くほどよく似たグラフ構造を持つ。
論文参考訳（メタデータ） (2020-07-13T17:59:31Z)
Neural networks adapting to datasets: learning network size and topology [77.34726150561087]
ニューラルネットワークは、勾配に基づくトレーニングの過程で、そのサイズとトポロジの両方を学習できるフレキシブルなセットアップを導入します。結果として得られるネットワークは、特定の学習タスクとデータセットに合わせたグラフの構造を持つ。
論文参考訳（メタデータ） (2020-06-22T12:46:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。