論文の概要: Model-Based Deep Learning

• arxiv url: http://arxiv.org/abs/2012.08405v1
• Date: Tue, 15 Dec 2020 16:29:49 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-07 05:09:24.423661
• Title: Model-Based Deep Learning
• Title（参考訳）: モデルベースディープラーニング
• Authors: Nir Shlezinger, Jay Whang, Yonina C. Eldar, and Alexandros G. Dimakis
• Abstract要約: 信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。 ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。 私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
• 参考スコア（独自算出の注目度）: 155.063817656602
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Signal processing, communications, and control have traditionally relied on classical statistical modeling techniques. Such model-based methods utilize mathematical formulations that represent the underlying physics, prior information and additional domain knowledge. Simple classical models are useful but sensitive to inaccuracies and may lead to poor performance when real systems display complex or dynamic behavior. On the other hand, purely data-driven approaches that are model-agnostic are becoming increasingly popular as datasets become abundant and the power of modern deep learning pipelines increases. Deep neural networks (DNNs) use generic architectures which learn to operate from data, and demonstrate excellent performance, especially for supervised problems. However, DNNs typically require massive amounts of data and immense computational resources, limiting their applicability for some signal processing scenarios. We are interested in hybrid techniques that combine principled mathematical models with data-driven systems to benefit from the advantages of both approaches. Such model-based deep learning methods exploit both partial domain knowledge, via mathematical structures designed for specific problems, as well as learning from limited data. In this article we survey the leading approaches for studying and designing model-based deep learning systems. We divide hybrid model-based/data-driven systems into categories based on their inference mechanism. We provide a comprehensive review of the leading approaches for combining model-based algorithms with deep learning in a systematic manner, along with concrete guidelines and detailed signal processing oriented examples from recent literature. Our aim is to facilitate the design and study of future systems on the intersection of signal processing and machine learning that incorporate the advantages of both domains.
• Abstract（参考訳）: 信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。 このようなモデルに基づく手法は、基礎となる物理学、事前情報、および追加のドメイン知識を表す数学的定式化を利用する。 単純な古典モデルは有用だが不正確さに敏感であり、実際のシステムが複雑または動的振る舞いを示す場合、性能が低下する可能性がある。 一方で、データセットが豊富になり、現代のディープラーニングパイプラインのパワーが増すにつれて、モデルに依存しない純粋なデータ駆動アプローチが普及しています。 ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、特に教師付き問題に対して優れたパフォーマンスを示す。 しかし、DNNは通常大量のデータと膨大な計算資源を必要とし、いくつかの信号処理シナリオに適用性を制限する。 私たちは、原則化された数学モデルとデータ駆動システムを組み合わせて、両方のアプローチの利点を享受するハイブリッド技術に興味を持っています。 このようなモデルに基づくディープラーニング手法は、特定の問題のために設計された数学的構造や限られたデータからの学習を通じて、部分的なドメイン知識の両方を利用する。 本稿では、モデルベースディープラーニングシステムの研究と設計のための主要なアプローチについて調査する。 ハイブリッドモデルベース/データ駆動システムはその推論メカニズムに基づいてカテゴリに分類する。 本稿では,モデルに基づくアルゴリズムとディープラーニングを体系的に組み合わせる主要なアプローチについて,具体的なガイドラインや最近の文献からの詳細な信号処理指向の例とともに概説する。 本研究の目的は,両領域の利点を取り入れた信号処理と機械学習の交差する未来のシステムの設計と研究を促進することである。

関連論文リスト

• CoDBench: A Critical Evaluation of Data-driven Models for Continuous Dynamical Systems [8.410938527671341]
  微分方程式を解くための11の最先端データ駆動モデルからなる総合ベンチマークスイートであるCodBenchを紹介する。 具体的には、Viz.、フィードフォワードニューラルネットワーク、ディープオペレータ回帰モデル、周波数ベースのニューラル演算子、トランスフォーマーアーキテクチャの4つの異なるカテゴリを評価する。 我々は、学習におけるオペレータの能力、ゼロショット超解像、データ効率、ノイズに対する堅牢性、計算効率を評価する広範な実験を行う。
  論文  参考訳（メタデータ） (2023-10-02T21:27:54Z)
• Deep networks for system identification: a Survey [56.34005280792013]
  システム識別は、入力出力データから動的システムの数学的記述を学習する。 同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。 我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
  論文  参考訳（メタデータ） (2023-01-30T12:38:31Z)
• Model-Based Deep Learning: On the Intersection of Deep Learning and Optimization [101.32332941117271]
  決定アルゴリズムは様々なアプリケーションで使われている。 数理モデルに頼らずにデータから調整された高度パラメトリックアーキテクチャを使用するディープラーニングアプローチが、ますます人気が高まっている。 モデルに基づく最適化とデータ中心のディープラーニングは、しばしば異なる規律とみなされる。
  論文  参考訳（メタデータ） (2022-05-05T13:40:08Z)
• Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
  トレーニングセットとその構造が長期予測の品質に与える影響を考察する。 トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2021-12-15T20:09:20Z)
• Constructing Neural Network-Based Models for Simulating Dynamical Systems [59.0861954179401]
  データ駆動モデリングは、真のシステムの観測からシステムの力学の近似を学ぼうとする代替パラダイムである。 本稿では,ニューラルネットワークを用いた動的システムのモデル構築方法について検討する。 基礎的な概要に加えて、関連する文献を概説し、このモデリングパラダイムが克服すべき数値シミュレーションから最も重要な課題を概説する。
  論文  参考訳（メタデータ） (2021-11-02T10:51:42Z)
• Model-Based Machine Learning for Communications [110.47840878388453]
  モデルベースのアルゴリズムと機械学習をハイレベルな視点で組み合わせるための既存の戦略を見直します。 通信受信機の基本的なタスクの一つであるシンボル検出に注目する。
  論文  参考訳（メタデータ） (2021-01-12T19:55:34Z)
• Knowledge-Based Learning of Nonlinear Dynamics and Chaos [3.673994921516517]
  本稿では,非線形システムから観測結果に基づいて予測モデルを抽出するための普遍的な学習フレームワークを提案する。 我々のフレームワークは、非線形システムを連続時間系として自然にモデル化するため、第一原理知識を容易に組み込むことができる。
  論文  参考訳（メタデータ） (2020-10-07T13:50:13Z)
• Learning Queuing Networks by Recurrent Neural Networks [0.0]
  データから性能モデルを導出する機械学習手法を提案する。 我々は、通常の微分方程式のコンパクトな系の観点から、それらの平均力学の決定論的近似を利用する。 これにより、ニューラルネットワークの解釈可能な構造が可能になり、システム測定からトレーニングしてホワイトボックスパラメータ化モデルを生成することができる。
  論文  参考訳（メタデータ） (2020-02-25T10:56:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。