論文の概要: Personalized Algorithm Generation: A Case Study in Meta-Learning ODE Integrators

• arxiv url: http://arxiv.org/abs/2105.01303v1
• Date: Tue, 4 May 2021 05:42:33 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-05 18:09:47.144825
• Title: Personalized Algorithm Generation: A Case Study in Meta-Learning ODE Integrators
• Title（参考訳）: パーソナライズされたアルゴリズム生成:メタラーニングODEインテグレータの事例
• Authors: Yue Guo, Felix Dietrich, Tom Bertalan, Danimir T. Doncevic, Manuel Dahmen, Ioannis G. Kevrekidis, Qianxiao Li
• Abstract要約: 科学計算における数値アルゴリズムのメタラーニングに関する研究 初期値問題の解法を自動的に学習する機械学習手法を開発した。
• 参考スコア（独自算出の注目度）: 6.457555233038933
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study the meta-learning of numerical algorithms for scientific computing, which combines the mathematically driven, handcrafted design of general algorithm structure with a data-driven adaptation to specific classes of tasks. This represents a departure from the classical approaches in numerical analysis, which typically do not feature such learning-based adaptations. As a case study, we develop a machine learning approach that automatically learns effective solvers for initial value problems in the form of ordinary differential equations (ODEs), based on the Runge-Kutta (RK) integrator architecture. By combining neural network approximations and meta-learning, we show that we can obtain high-order integrators for targeted families of differential equations without the need for computing integrator coefficients by hand. Moreover, we demonstrate that in certain cases we can obtain superior performance to classical RK methods. This can be attributed to certain properties of the ODE families being identified and exploited by the approach. Overall, this work demonstrates an effective, learning-based approach to the design of algorithms for the numerical solution of differential equations, an approach that can be readily extended to other numerical tasks.
• Abstract（参考訳）: 本研究では, 数値計算のメタラーニングについて検討し, 汎用アルゴリズムの構造を数学的に駆動した手作り設計と, タスクの特定のクラスへのデータ駆動適応を組み合わせた。 これは、古典的な数値解析のアプローチとは違い、通常はそのような学習に基づく適応を特徴としない。 本研究では,ランゲ・クッタ(RK)インテグレータアーキテクチャに基づいて,一般微分方程式(ODE)の形で初期値問題に対する効果的な解法を自動的に学習する機械学習手法を開発した。 ニューラルネットワーク近似とメタラーニングを組み合わせることで、微分方程式の族を対象とする高次積分器を手動で計算することなく得ることを示す。 さらに,古典的RK法よりも優れた性能が得られることを示す。 これは、アプローチによって特定され、利用されるODEファミリーの特定の特性に起因する可能性がある。 全体として、本研究は微分方程式の数値解のためのアルゴリズムの設計に効果的な学習に基づくアプローチを示し、他の数値タスクにも容易に拡張できる手法である。

関連論文リスト

• Engineered Ordinary Differential Equations as Classification Algorithm (EODECA): thorough characterization and testing [0.9786690381850358]
  本稿では,機械学習と動的システム理論の交叉における新しいアプローチであるEODECAを提案する。 EODECAの設計には、安定したアトラクタをフェーズ空間に埋め込む機能が含まれており、信頼性を高め、可逆的なダイナミクスを可能にする。 我々は,MNISTデータセットとFashion MNISTデータセットに対するEODECAの有効性を実証し,それぞれ98.06%,88.21%の精度を達成した。
  論文  参考訳（メタデータ） (2023-12-22T13:34:18Z)
• Spectral methods for Neural Integral Equations [0.6993026261767287]
  本稿では,スペクトル法に基づくニューラル積分方程式の枠組みを提案する。 モデルの近似能力に関する様々な理論的保証を示す。 得られたモデルの有効性を示す数値実験を行う。
  論文  参考訳（メタデータ） (2023-12-09T19:42:36Z)
• Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
  低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。 既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。 提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
  論文  参考訳（メタデータ） (2023-07-08T15:41:48Z)
• On Robust Numerical Solver for ODE via Self-Attention Mechanism [82.95493796476767]
  我々は,内在性雑音障害を緩和し,AIによって強化された数値解法を,データサイズを小さくする訓練について検討する。 まず,教師付き学習における雑音を制御するための自己認識機構の能力を解析し,さらに微分方程式の数値解に付加的な自己認識機構を導入し,簡便かつ有効な数値解法であるAttrを提案する。
  論文  参考訳（メタデータ） (2023-02-05T01:39:21Z)
• A Recursively Recurrent Neural Network (R2N2) Architecture for Learning Iterative Algorithms [64.3064050603721]
  本研究では,リカレントニューラルネットワーク (R2N2) にランゲ・クッタニューラルネットワークを一般化し,リカレントニューラルネットワークを最適化した反復アルゴリズムの設計を行う。 本稿では, 線形方程式系に対するクリロフ解法, 非線形方程式系に対するニュートン・クリロフ解法, 常微分方程式に対するルンゲ・クッタ解法と類似の繰り返しを計算問題クラスの入力・出力データに対して提案した超構造内における重みパラメータの正規化について述べる。
  論文  参考訳（メタデータ） (2022-11-22T16:30:33Z)
• Neural Combinatorial Optimization: a New Player in the Field [69.23334811890919]
  本稿では,ニューラルネットワークに基づくアルゴリズムの古典的最適化フレームワークへの導入に関する批判的分析を行う。 性能, 転送可能性, 計算コスト, 大規模インスタンスなど, これらのアルゴリズムの基本的側面を分析するために, 総合的研究を行った。
  論文  参考訳（メタデータ） (2022-05-03T07:54:56Z)
• Fractal Structure and Generalization Properties of Stochastic Optimization Algorithms [71.62575565990502]
  最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。 さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
  論文  参考訳（メタデータ） (2021-06-09T08:05:36Z)
• Evolving Reinforcement Learning Algorithms [186.62294652057062]
  メタラーニング強化学習アルゴリズムの手法を提案する。 学習アルゴリズムはドメインに依存しないため、トレーニング中に見えない新しい環境に一般化することができる。 従来の制御タスク、gridworld型タスク、atariゲームよりも優れた一般化性能を得る2つの学習アルゴリズムに注目した。
  論文  参考訳（メタデータ） (2021-01-08T18:55:07Z)
• Symbolically Solving Partial Differential Equations using Deep Learning [5.1964883240501605]
  本稿では、微分方程式の正確な解や近似解を生成するニューラルネットワーク手法について述べる。 他のニューラルネットワークとは異なり、我々のシステムは直接解釈できるシンボリック表現を返す。
  論文  参考訳（メタデータ） (2020-11-12T22:16:03Z)
• Learning ODE Models with Qualitative Structure Using Gaussian Processes [0.6882042556551611]
  多くのコンテキストにおいて、明示的なデータ収集は高価であり、学習アルゴリズムはデータ効率が良くなければならない。 スパースガウス過程を用いて微分方程式のベクトル場を学習する手法を提案する。 この組み合わせにより,外挿性能と長期的挙動が大幅に向上し,計算コストの低減が図られる。
  論文  参考訳（メタデータ） (2020-11-10T19:34:07Z)
• A Neuro-Symbolic Method for Solving Differential and Functional Equations [6.899578710832262]
  微分方程式を解くために記号式を生成する方法を提案する。 既存の手法とは異なり、このシステムは記号数学よりも言語モデルを学習する必要はない。 我々は,他の数学的課題に対するシンボリックな解を見つけるために,システムがいかに懸命に一般化されるかを示す。
  論文  参考訳（メタデータ） (2020-11-04T17:13:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。