論文の概要: Inductive biases and Self Supervised Learning in modelling a physical heating system

• arxiv url: http://arxiv.org/abs/2104.11478v1
• Date: Fri, 23 Apr 2021 08:50:41 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-26 18:19:58.843268
• Title: Inductive biases and Self Supervised Learning in modelling a physical heating system
• Title（参考訳）: 物理加熱システムのモデリングにおける帰納バイアスと自己教師あり学習
• Authors: Cristian Vicas
• Abstract要約: 本稿では,物理系に関する帰納バイアスを推測する。 このバイアスを使って、実際のシステムをモデル化できる新しいニューラルネットワークアーキテクチャを導出します。 提案されたアーキテクチャファミリーであるDelayは、遅延応答を持つシステムを制御するために実際のシナリオで使用できる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Model Predictive Controllers (MPC) require a good model for the controlled process. In this paper I infer inductive biases about a physical system. I use these biases to derive a new neural network architecture that can model this real system that has noise and inertia. The main inductive biases exploited here are: the delayed impact of some inputs on the system and the separability between the temporal component and how the inputs interact to produce the output of a system. The inputs are independently delayed using shifted convolutional kernels. Feature interactions are modelled using a fully connected network that does not have access to temporal information. The available data and the problem setup allow the usage of Self Supervised Learning in order to train the models. The baseline architecture is an Attention based Reccurent network adapted to work with MPC like inputs. The proposed networks are faster, better at exploiting larger data volumes and are almost as good as baseline networks in terms of prediction performance. The proposed architecture family called Delay can be used in a real scenario to control systems with delayed responses with respect to its controls or inputs. Ablation studies show that the presence of delay kernels are vital to obtain any learning in proposed architecture. Code and some experimental data are available online.
• Abstract（参考訳）: モデル予測制御器(MPC)は制御プロセスに適切なモデルを必要とする。 本稿では,物理系に関する帰納バイアスを推定する。 私はこれらのバイアスを使って、ノイズと慣性を持つこの実際のシステムをモデル化できる新しいニューラルネットワークアーキテクチャを導き出します。 ここで悪用された主な帰納バイアスは、システムに対するいくつかの入力の遅延影響と、時間成分と入力がどのように相互作用してシステムの出力を生成するかの間の分離性である。 入力はシフト畳み込みカーネルを使用して独立に遅延される。 機能相互作用は、時間情報にアクセスできない完全に接続されたネットワークを用いてモデル化される。 利用可能なデータと問題設定は、モデルをトレーニングするためにセルフ監視学習の使用を可能にする。 ベースラインアーキテクチャは、mpcのような入力で動作するように適合した注意に基づく再帰ネットワークである。 提案したネットワークはより高速で、より大きなデータボリュームを活用でき、予測性能の点でベースラインネットワークとほぼ同等である。 提案されたアーキテクチャファミリーであるDelayは、実際のシナリオで、制御や入力に関して遅延応答を持つシステムを制御するために使用できる。 アブレーション研究により、遅延カーネルの存在は、提案されたアーキテクチャにおける学習を得るためには不可欠であることが示されている。 コードと実験データはオンラインで公開されている。

関連論文リスト

• Domain-decoupled Physics-informed Neural Networks with Closed-form Gradients for Fast Model Learning of Dynamical Systems [2.8730926763860687]
  物理インフォームドニューラルネットワーク(PINN)は、物理方程式を用いて訓練され、データから学習することで、モデル化されていない効果を組み込むことができる。 本稿では、大規模で複雑な非線形力学系を扱う場合のPINCの現在の限界に対処するために、ドメイン分離された物理情報ニューラルネットワーク(DD-PINN)を導入する。
  論文  参考訳（メタデータ） (2024-08-27T10:54:51Z)
• How neural networks learn to classify chaotic time series [77.34726150561087]
  本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。 入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
  論文  参考訳（メタデータ） (2023-06-04T08:53:27Z)
• An FPGA Architecture for Online Learning using the Tsetlin Machine [5.140342614848069]
  本稿では,オンライン学習のための新しいフィールドプログラミング可能なゲートアレイ基盤を提案する。 Tsetlin Machineと呼ばれる低複雑さの機械学習アルゴリズムを実装している。 本稿では,提案するインフラを用いたオンライン学習の事例と,エネルギー/性能/精度のトレードオフを実証する。
  論文  参考訳（メタデータ） (2023-06-01T13:33:26Z)
• Brain-Inspired Spiking Neural Network for Online Unsupervised Time Series Prediction [13.521272923545409]
  連続学習に基づく非教師付きリカレントスパイキングニューラルネットワークモデル(CLURSNN)を提案する。 CLURSNNは、ランダム遅延埋め込み(Random Delay Embedding)を使用して基盤となる動的システムを再構築することで、オンライン予測を行う。 提案手法は,進化するロレンツ63力学系を予測する際に,最先端のDNNモデルよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-04-10T16:18:37Z)
• Learning Flow Functions from Data with Applications to Nonlinear Oscillators [0.0]
  フロー関数の学習は離散時間力学系の入力状態マップの学習と等価であることを示す。 これにより、RNNをエンコーダとデコーダネットワークと共に使用し、システムの状態をRNNとバックの隠された状態にマッピングする。
  論文  参考訳（メタデータ） (2023-03-29T13:04:04Z)
• Deep networks for system identification: a Survey [56.34005280792013]
  システム識別は、入力出力データから動的システムの数学的記述を学習する。 同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。 我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
  論文  参考訳（メタデータ） (2023-01-30T12:38:31Z)
• Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
  トレーニングセットとその構造が長期予測の品質に与える影響を考察する。 トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2021-12-15T20:09:20Z)
• Dynamic Inference with Neural Interpreters [72.90231306252007]
  本稿では,モジュールシステムとしての自己アテンションネットワークにおける推論を分解するアーキテクチャであるNeural Interpretersを提案する。 モデルへの入力は、エンドツーエンドの学習方法で一連の関数を通してルーティングされる。 ニューラル・インタープリタは、より少ないパラメータを用いて視覚変換器と同等に動作し、サンプル効率で新しいタスクに転送可能であることを示す。
  論文  参考訳（メタデータ） (2021-10-12T23:22:45Z)
• Model-Based Deep Learning [155.063817656602]
  信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。 ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。 私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
  論文  参考訳（メタデータ） (2020-12-15T16:29:49Z)
• Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G Networks [84.2155885234293]
  まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。 このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
  論文  参考訳（メタデータ） (2020-02-22T14:38:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。