論文の概要: A new nature inspired modularity function adapted for unsupervised
learning involving spatially embedded networks: A comparative analysis
- arxiv url: http://arxiv.org/abs/2007.09330v1
- Date: Sat, 18 Jul 2020 04:32:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-09 05:25:12.162300
- Title: A new nature inspired modularity function adapted for unsupervised
learning involving spatially embedded networks: A comparative analysis
- Title(参考訳): 空間埋め込み型ネットワークを含む教師なし学習に適応したモジュラリティ関数の新たな性質 : 比較解析
- Authors: Raj Kishore, Zohar Nussinov, Kisor Kumar Sahu
- Abstract要約: 教師なしの機械学習手法は、多くの伝統的なエンジニアリング分野において非常に役立つ。
新たに開発したモジュラリティ関数の性能を,よく知られたモジュラリティ関数と比較した。
本稿では,本手法が競合する手法よりもはるかに優れた結果をもたらすことを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised machine learning methods can be of great help in many
traditional engineering disciplines, where huge amount of labeled data is not
readily available or is extremely difficult or costly to generate. Two specific
examples include the structure of granular materials and atomic structure of
metallic glasses. While the former is critically important for several hundreds
of billion dollars global industries, the latter is still a big puzzle in
fundamental science. One thing is common in both the examples is that the
particles are the elements of the ensembles that are embedded in Euclidean
space and one can create a spatially embedded network to represent their key
features. Some recent studies show that clustering, which generically refers to
unsupervised learning, holds great promise in partitioning these networks. In
many complex networks, the spatial information of nodes play very important
role in determining the network properties. So understanding the structure of
such networks is very crucial. We have compared the performance of our newly
developed modularity function with some of the well-known modularity functions.
We performed this comparison by finding the best partition in 2D and 3D
granular assemblies. We show that for the class of networks considered in this
article, our method produce much better results than the competing methods.
- Abstract(参考訳): 大量のラベル付きデータが手軽に利用できない、あるいは生成が非常に困難でコストがかかる、多くの伝統的なエンジニアリング分野において、教師なしの機械学習手法は大きな助けになる。
2つの具体例は、粒状物質の構造と金属ガラスの原子構造である。
前者は数十億ドルのグローバル産業にとって非常に重要であるが、後者は基礎科学において依然として大きなパズルである。
どちらの例でもよく見られるのは、粒子はユークリッド空間に埋め込まれたアンサンブルの要素であり、その重要な特徴を表現するために空間的に埋め込まれたネットワークを作ることができるということである。
近年の研究では、教師なし学習を指すクラスタリングが、これらのネットワークの分割において大きな可能性を秘めていることが示されている。
多くの複雑なネットワークにおいて、ノードの空間情報はネットワーク特性を決定する上で非常に重要な役割を果たす。
このようなネットワークの構造を理解することが非常に重要です。
新たに開発したモジュラリティ関数の性能を,よく知られたモジュラリティ関数と比較した。
2次元および3次元の粒状アセンブリで最適なパーティションを見つけることで、この比較を行った。
本稿では,本論文で検討したネットワークのクラスに対して,本手法が競合する手法よりも優れた結果をもたらすことを示す。
関連論文リスト
- Modular Blended Attention Network for Video Question Answering [1.131316248570352]
本稿では,再利用可能で構成可能なニューラルユニットを用いた問題解決手法を提案する。
一般的に使用されている3つのデータセットについて実験を行った。
論文 参考訳(メタデータ) (2023-11-02T14:22:17Z) - The effect of network topologies on fully decentralized learning: a
preliminary investigation [2.9592782993171918]
分散機械学習システムでは、データは複数のデバイスまたはノードに分割され、それぞれが独自のデータを使用してローカルモデルをトレーニングする。
異なるタイプのトポロジが「知識の拡散」に与える影響について検討する。
具体的には、多かれ少なかれ連結されたノード(ハーブと葉)のこのプロセスにおける異なる役割を強調します。
論文 参考訳(メタデータ) (2023-07-29T09:39:17Z) - General-Purpose Multimodal Transformer meets Remote Sensing Semantic
Segmentation [35.100738362291416]
マルチモーダルAIは、特にセマンティックセグメンテーションのような複雑なタスクのために、補完的なデータソースを活用する。
汎用マルチモーダルネットワークの最近のトレンドは、最先端の性能を達成する大きな可能性を示している。
本稿では,3次元畳み込みを利用して重要なローカル情報をエンコードし,同時にモーダルな特徴を学習するUNet型モジュールを提案する。
論文 参考訳(メタデータ) (2023-07-07T04:58:34Z) - How Do Transformers Learn Topic Structure: Towards a Mechanistic
Understanding [56.222097640468306]
我々は、トランスフォーマーが「意味構造」を学ぶ方法の機械的理解を提供する
数学的解析とウィキペディアデータの実験を組み合わせることで、埋め込み層と自己保持層がトピック構造をエンコードしていることを示す。
論文 参考訳(メタデータ) (2023-03-07T21:42:17Z) - Clustering units in neural networks: upstream vs downstream information [3.222802562733787]
フィードフォワード全接続ネットワークの隠蔽層表現のモジュラリティについて検討する。
2つの驚くべき結果が得られた: 第一に、ドロップアウトはモジュラリティを劇的に増加させ、他の形態の重み正規化はより穏やかな効果を持っていた。
このことは、入力の構造を反映するモジュラー表現を見つけることは、出力の構造を反映するモジュラー表現を学習することとは異なる目標である、という示唆から、表現学習に重要な意味を持つ。
論文 参考訳(メタデータ) (2022-03-22T15:35:10Z) - Efficient Transfer Learning via Joint Adaptation of Network Architecture
and Weight [66.8543732597723]
近年のニューラルネットワーク探索(NAS)は,十分なネットワーク探索空間を確立することで伝達学習を支援する。
本稿では,2つのモジュールからなる新しいフレームワークを提案する。アーキテクチャトランスファーのためのニューラルアーキテクチャ探索モジュールと,ウェイトトランスファーのためのニューラルウェイト探索モジュールである。
これら2つのモジュールは、減らされたスーパーネットワークに基づいてターゲットタスクを探索するので、ソースタスクのみを訓練する必要がある。
論文 参考訳(メタデータ) (2021-05-19T08:58:04Z) - ATOM3D: Tasks On Molecules in Three Dimensions [91.72138447636769]
近年、深層ニューラルネットワークが注目されている。
本稿では,生物分子のいくつかの重要なクラスにまたがる新しいデータセットと既存のデータセットのコレクションであるATOM3Dを紹介する。
これらのタスクごとに3次元の分子学習ネットワークを開発し、パフォーマンスを一貫して改善します。
論文 参考訳(メタデータ) (2020-12-07T20:18:23Z) - Neural Function Modules with Sparse Arguments: A Dynamic Approach to
Integrating Information across Layers [84.57980167400513]
Neural Function Modules (NFM)は、ディープラーニングに同じ構造機能を導入することを目的としている。
トップダウンとボトムアップのフィードバックを組み合わせたフィードフォワードネットワークのコンテキストにおける作業のほとんどは、分類の問題に限られている。
私たちの仕事の重要な貢献は、フレキシブルなアルゴリズムで注意、疎結合、トップダウン、ボトムアップのフィードバックを組み合わせることです。
論文 参考訳(メタデータ) (2020-10-15T20:43:17Z) - Understanding the Role of Individual Units in a Deep Neural Network [85.23117441162772]
本稿では,画像分類と画像生成ネットワーク内の隠れ単位を系統的に同定する分析フレームワークを提案する。
まず、シーン分類に基づいて訓練された畳み込みニューラルネットワーク(CNN)を分析し、多様なオブジェクト概念にマッチするユニットを発見する。
第2に、シーンを生成するために訓練されたGANモデルについて、同様の分析手法を用いて分析する。
論文 参考訳(メタデータ) (2020-09-10T17:59:10Z) - From Federated to Fog Learning: Distributed Machine Learning over
Heterogeneous Wireless Networks [71.23327876898816]
フェデレートラーニング(Federated Learning)は、データを収集するノード間で処理能力を活用することによって、ネットワークエッジでMLモデルをトレーニングするテクニックとして登場した。
我々は、エッジデバイスからクラウドサーバへのノード連続体にMLモデルのトレーニングをインテリジェントに分散する、フォグラーニングと呼ばれる新しい学習パラダイムを提唱する。
論文 参考訳(メタデータ) (2020-06-07T05:11:18Z) - SpatialSim: Recognizing Spatial Configurations of Objects with Graph
Neural Networks [31.695447265278126]
本稿では,外部オブザーバの視点に不変な幾何学的空間構成のクラスを学習し,比較する方法を示す。
本稿では,新しい幾何学的推論ベンチマークであるSpatialSim(Spatial similarity)を提案する。
次に,完全接続型メッセージパスグラフニューラルネットワーク(MPGNN)が示す帰納的リレーショナルバイアスが,これらの課題の解決にどのように役立つかを検討する。
論文 参考訳(メタデータ) (2020-04-09T14:13:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。