論文の概要: Offline Model-Based Optimization via Normalized Maximum Likelihood
Estimation
- arxiv url: http://arxiv.org/abs/2102.07970v1
- Date: Tue, 16 Feb 2021 06:04:27 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-17 15:00:34.125625
- Title: Offline Model-Based Optimization via Normalized Maximum Likelihood
Estimation
- Title(参考訳): 正規化最大形推定によるオフラインモデルベース最適化
- Authors: Justin Fu and Sergey Levine
- Abstract要約: データ駆動最適化の問題を検討し、一定の点セットでクエリのみを与えられた関数を最大化する必要がある。
この問題は、関数評価が複雑で高価なプロセスである多くの領域に現れる。
我々は,提案手法を高容量ニューラルネットワークモデルに拡張可能なトラクタブル近似を提案する。
- 参考スコア(独自算出の注目度): 101.22379613810881
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work we consider data-driven optimization problems where one must
maximize a function given only queries at a fixed set of points. This problem
setting emerges in many domains where function evaluation is a complex and
expensive process, such as in the design of materials, vehicles, or neural
network architectures. Because the available data typically only covers a small
manifold of the possible space of inputs, a principal challenge is to be able
to construct algorithms that can reason about uncertainty and
out-of-distribution values, since a naive optimizer can easily exploit an
estimated model to return adversarial inputs. We propose to tackle this problem
by leveraging the normalized maximum-likelihood (NML) estimator, which provides
a principled approach to handling uncertainty and out-of-distribution inputs.
While in the standard formulation NML is intractable, we propose a tractable
approximation that allows us to scale our method to high-capacity neural
network models. We demonstrate that our method can effectively optimize
high-dimensional design problems in a variety of disciplines such as chemistry,
biology, and materials engineering.
- Abstract(参考訳): この研究では、固定された点のクエリのみを与えられた関数を最大化しなければならないデータ駆動最適化問題を考える。
この問題の設定は、材料、車両、ニューラルネットワークアーキテクチャの設計など、機能評価が複雑で高価なプロセスである多くの領域で発生します。
利用可能なデータは典型的には入力空間の小さな多様体のみをカバーしているため、単純なオプティマイザは推定モデルを利用して逆入力を返却できるため、不確実性や分布外値を推論できるアルゴリズムを構築することが主な課題である。
我々は,不確実性やアウト・オブ・ディストリビューションの入力を扱うための原則的アプローチを提供する正規化最大形推定器(NML)を活用することで,この問題に対処することを提案する。
標準の定式化ではNMLは難解であるが,本手法を大容量ニューラルネットワークモデルに拡張可能なトラクタブル近似を提案する。
本手法は, 化学, 生物学, 材料工学など, 様々な分野における高次元設計問題を効果的に最適化できることを実証する。
関連論文リスト
- Functional Graphical Models: Structure Enables Offline Data-Driven Optimization [111.28605744661638]
構造がサンプル効率のよいデータ駆動最適化を実現する方法を示す。
また、FGM構造自体を推定するデータ駆動最適化アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-01-08T22:33:14Z) - A Learning-Based Optimal Uncertainty Quantification Method and Its
Application to Ballistic Impact Problems [1.713291434132985]
本稿では、入力(または事前)測度が部分的に不完全であるシステムに対する最適(最大および無限)不確実性境界について述べる。
本研究では,不確実性最適化問題に対する学習基盤の枠組みを実証する。
本手法は,工学的実践における性能証明と安全性のためのマップ構築に有効であることを示す。
論文 参考訳(メタデータ) (2022-12-28T14:30:53Z) - Estimating a potential without the agony of the partition function [5.994412766684842]
サンプルが与えられたギブス密度関数を推定することは、計算統計学と統計学において重要な問題である。
最大A-Posteriori (MAP) 推定器に基づく代替手法を提案する。
論文 参考訳(メタデータ) (2022-08-19T16:27:02Z) - RoMA: Robust Model Adaptation for Offline Model-based Optimization [115.02677045518692]
入力出力クエリの静的データセットからブラックボックス目的関数を最大化する入力を探索する問題を考える。
この問題を解決するための一般的なアプローチは、真の客観的関数を近似するプロキシモデルを維持することである。
ここでの大きな課題は、検索中に逆最適化された入力を避ける方法である。
論文 参考訳(メタデータ) (2021-10-27T05:37:12Z) - Data-informed Deep Optimization [3.331457049134526]
本稿では,データインフォームド・ディープ・最適化(DiDo)による高次元設計問題の解法を提案する。
我々は、ディープニューラルネットワーク(DNN)を用いて、実現可能な領域を学習し、目的関数に適合する実行可能なポイントをサンプリングする。
以上の結果から,DNN による DiDo のアプローチは柔軟で,現実的な高次元設計問題の解決に有効であることが示唆された。
論文 参考訳(メタデータ) (2021-07-17T02:53:54Z) - Conservative Objective Models for Effective Offline Model-Based
Optimization [78.19085445065845]
計算設計の問題は、合成生物学からコンピュータアーキテクチャまで、様々な場面で発生している。
本研究では,分布外入力に対する接地的目標の実際の値を低くする目的関数のモデルを学習する手法を提案する。
COMは、様々なMBO問題に対して、既存のメソッドの実装と性能の面では単純である。
論文 参考訳(メタデータ) (2021-07-14T17:55:28Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z) - Model Inversion Networks for Model-Based Optimization [110.24531801773392]
スコアから入力への逆写像を学習するモデル反転ネットワーク(MIN)を提案する。
MINは高次元の入力空間にスケールでき、コンテキスト最適化と非コンテキスト最適化の両方にオフラインログデータを利用する。
我々は,ベイズ最適化の文献から,画像やタンパク質の設計に対する高次元モデルベース最適化問題,ログデータからのコンテキスト的帯域最適化といったタスクのMINを評価した。
論文 参考訳(メタデータ) (2019-12-31T18:06:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。