論文の概要: Hybrid machine-learned homogenization: Bayesian data mining and
convolutional neural networks
- arxiv url: http://arxiv.org/abs/2302.12545v1
- Date: Fri, 24 Feb 2023 09:59:29 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-27 14:06:29.148640
- Title: Hybrid machine-learned homogenization: Bayesian data mining and
convolutional neural networks
- Title(参考訳): ハイブリッドマシン学習均質化:ベイジアンデータマイニングと畳み込みニューラルネットワーク
- Authors: Julian Li{\ss}ner and Felix Fritzen
- Abstract要約: 本研究では,新しい特徴記述子を開発することにより,機械学習による予測を改善することを目的とする。
特徴記述子の反復的な開発により37の新たな特徴が生まれ、予測誤差を約3分の1削減することができた。
特徴に基づくアプローチと畳み込みニューラルネットワークの組み合わせは、ハイブリッドニューラルネットワークにつながる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Beyond the generally deployed features for microstructure property prediction
this study aims to improve the machine learned prediction by developing novel
feature descriptors. Therefore, Bayesian infused data mining is conducted to
acquire samples containing characteristics inexplicable to the current feature
set, and suitable feature descriptors to describe these characteristics are
proposed. The iterative development of feature descriptors resulted in 37 novel
features, being able to reduce the prediction error by roughly one third. To
further improve the predictive model, convolutional neural networks (Conv Nets)
are deployed to generate auxiliary features in a supervised machine learning
manner. The Conv Nets were able to outperform the feature based approach. A key
ingredient for that is a newly proposed data augmentation scheme and the
development of so-called deep inception modules. A combination of the feature
based approach and the convolutional neural network leads to a hybrid neural
network: A parallel deployment of the both neural network archetypes in a
single model achieved a relative rooted mean squared error below 1%, more than
halving the error compared to prior models operating on the same data. The
hybrid neural network was found powerful enough to be extended to predict
variable material parameters, from a low to high phase contrast, while allowing
for arbitrary microstructure geometry at the same time.
- Abstract(参考訳): 本研究は, 構造特性予測のための一般的な特徴の他, 新たな特徴記述子の開発により, 機械学習予測を改善することを目的としている。
そこで,現在の特徴集合に説明できない特徴を含むサンプルを得るため,ベイズ・インフューズド・データ・マイニングを行い,これらの特徴を記述するための適切な特徴記述子を提案する。
特徴ディスクリプタの反復的な開発は37の新機能を生み出し、予測エラーを約3分の1削減することができた。
さらに予測モデルを改善するために、畳み込みニューラルネットワーク(conv net)をデプロイし、教師付き機械学習方式で補助機能を生成する。
Conv Netsは機能ベースのアプローチより優れていた。
その鍵となる要素は、新たに提案されたデータ拡張スキームと、いわゆるディープインセプションモジュールの開発である。
機能ベースアプローチと畳み込みニューラルネットワークの組み合わせによって、ハイブリッドニューラルネットワークが実現される。単一モデルにおける両方のニューラルネットワークアーチタイプを並列に展開することで、相対根付き平均二乗誤差が1%未満となり、同じデータで動作する以前のモデルと比較して誤差が半減する。
ハイブリッドニューラルネットワークは、低位相のコントラストから高位相のコントラストまで、可変材料パラメータを予測できるように拡張できるほど強力であり、同時に任意の微細構造を可能としていた。
関連論文リスト
- Set-based Neural Network Encoding Without Weight Tying [91.37161634310819]
本稿では,ネットワーク特性予測のためのニューラルネットワーク重み符号化手法を提案する。
我々のアプローチは、混合アーキテクチャのモデル動物園でニューラルネットワークを符号化することができる。
ニューラルネットワークのプロパティ予測には,クロスデータセットとクロスアーキテクチャという,2つの新しいタスクを導入する。
論文 参考訳(メタデータ) (2023-05-26T04:34:28Z) - Do deep neural networks have an inbuilt Occam's razor? [1.1470070927586016]
構造データとOccam's razor-likeインダクティブバイアスが組み合わさった単純な関数に対する構造データは、複雑さを伴う関数の指数的成長に反することを示す。
この分析により、構造データと(コルモゴロフ)単純関数に対するOccam's razor-likeインダクティブバイアスが組み合わさって、複雑さを伴う関数の指数的成長に対抗できるほど強いことがDNNの成功の鍵であることが明らかになった。
論文 参考訳(メタデータ) (2023-04-13T16:58:21Z) - NCTV: Neural Clamping Toolkit and Visualization for Neural Network
Calibration [66.22668336495175]
ニューラルネットワークのキャリブレーションに対する考慮の欠如は、人間から信頼を得ることはないだろう。
我々はNeural Clamping Toolkitを紹介した。これは開発者が最先端のモデルに依存しないキャリブレーションモデルを採用するのを支援するために設計された最初のオープンソースフレームワークである。
論文 参考訳(メタデータ) (2022-11-29T15:03:05Z) - Neural networks trained with SGD learn distributions of increasing
complexity [78.30235086565388]
勾配降下法を用いてトレーニングされたニューラルネットワークは、まず低次入力統計を用いて入力を分類する。
その後、トレーニング中にのみ高次の統計を利用する。
本稿では,DSBと他の単純度バイアスとの関係について論じ,学習における普遍性の原理にその意味を考察する。
論文 参考訳(メタデータ) (2022-11-21T15:27:22Z) - Learning to Learn with Generative Models of Neural Network Checkpoints [71.06722933442956]
ニューラルネットワークのチェックポイントのデータセットを構築し,パラメータの生成モデルをトレーニングする。
提案手法は,幅広い損失プロンプトに対するパラメータの生成に成功している。
我々は、教師付きおよび強化学習における異なるニューラルネットワークアーキテクチャとタスクに本手法を適用した。
論文 参考訳(メタデータ) (2022-09-26T17:59:58Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - A Sparse Coding Interpretation of Neural Networks and Theoretical
Implications [0.0]
深層畳み込みニューラルネットワークは、様々なコンピュータビジョンタスクにおいて前例のない性能を達成した。
本稿では、ReLUアクティベーションを持つニューラルネットワークのスパース符号化解釈を提案する。
正規化やプーリングなしに完全な畳み込みニューラルネットワークを導出する。
論文 参考訳(メタデータ) (2021-08-14T21:54:47Z) - Contextual HyperNetworks for Novel Feature Adaptation [43.49619456740745]
Contextual HyperNetwork(CHN)は、ベースモデルを新機能に拡張するためのパラメータを生成する。
予測時、CHNはニューラルネットワークを通る単一のフォワードパスのみを必要とし、大幅なスピードアップをもたらす。
本システムでは,既存のインプテーションやメタラーニングベースラインよりも,新しい特徴のマイズショット学習性能が向上することを示す。
論文 参考訳(メタデータ) (2021-04-12T23:19:49Z) - The Neural Coding Framework for Learning Generative Models [91.0357317238509]
本稿では,脳の予測処理理論に触発された新しい神経生成モデルを提案する。
同様に、私たちの生成モデルにおける人工ニューロンは、隣接するニューロンが何をするかを予測し、予測が現実にどの程度一致するかに基づいてパラメータを調整します。
論文 参考訳(メタデータ) (2020-12-07T01:20:38Z) - A Hybrid Objective Function for Robustness of Artificial Neural Networks
-- Estimation of Parameters in a Mechanical System [0.0]
本稿では,加速度プロファイルに基づく機械車両モデルのパラメータ推定の課題について考察する。
未知のパラメータが異なる車両モデル群に対するパラメータを予測できる畳み込みニューラルネットワークアーキテクチャを導入する。
論文 参考訳(メタデータ) (2020-04-16T15:06:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。