論文の概要: Functional Graphical Models: Structure Enables Offline Data-Driven Optimization

• arxiv url: http://arxiv.org/abs/2401.05442v3
• Date: Thu, 17 Oct 2024 00:53:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-18 13:17:05.601909
• Title: Functional Graphical Models: Structure Enables Offline Data-Driven Optimization
• Title（参考訳）: 関数型グラフィカルモデル: オフラインのデータ駆動最適化を可能にする構造
• Authors: Jakub Grudzien Kuba, Masatoshi Uehara, Pieter Abbeel, Sergey Levine,
• Abstract要約: 構造がサンプル効率のよいデータ駆動最適化を実現する方法を示す。 また、FGM構造自体を推定するデータ駆動最適化アルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 111.28605744661638
• License:
• Abstract: While machine learning models are typically trained to solve prediction problems, we might often want to use them for optimization problems. For example, given a dataset of proteins and their corresponding fluorescence levels, we might want to optimize for a new protein with the highest possible fluorescence. This kind of data-driven optimization (DDO) presents a range of challenges beyond those in standard prediction problems, since we need models that successfully predict the performance of new designs that are better than the best designs seen in the training set. It is not clear theoretically when existing approaches can even perform better than the naive approach that simply selects the best design in the dataset. In this paper, we study how structure can enable sample-efficient data-driven optimization. To formalize the notion of structure, we introduce functional graphical models (FGMs) and show theoretically how they can provide for principled data-driven optimization by decomposing the original high-dimensional optimization problem into smaller sub-problems. This allows us to derive much more practical regret bounds for DDO, and the result implies that DDO with FGMs can achieve nearly optimal designs in situations where naive approaches fail due to insufficient coverage of the offline data. We further present a data-driven optimization algorithm that inferes the FGM structure itself, either over the original input variables or a latent variable representation of the inputs.
• Abstract（参考訳）: マシンラーニングモデルは通常、予測問題を解決するためにトレーニングされていますが、最適化問題に使用する場合も少なくありません。 例えば、タンパク質のデータセットとその蛍光レベルが与えられたら、最も高い蛍光の可能な新しいタンパク質を最適化したいかもしれません。 この種のデータ駆動最適化(DDO)は、トレーニングセットで見られる最高の設計よりも優れた新しい設計の性能を予測できるモデルが必要であるため、標準的な予測問題以外の様々な課題を提示します。 既存のアプローチがデータセットの最良の設計を単純に選択する単純なアプローチよりも優れたパフォーマンスを達成できるのか、理論的には明らかではない。 本稿では,サンプル効率のよいデータ駆動最適化を実現する方法について検討する。 構造の概念を定式化するために,関数型グラフィカルモデル(FGM)を導入し,元の高次元最適化問題をより小さなサブプロブレムに分解することにより,データ駆動最適化の原理を理論的に示す。 これにより、より実用的なDDO境界を導出することが可能となり、結果として、オフラインデータのカバー不足により単純なアプローチが失敗する状況において、FGMを持つDDOは、ほぼ最適な設計を実現できることが示唆される。 さらに、FGM構造自体を推定するデータ駆動最適化アルゴリズムを、元の入力変数または入力の潜在変数表現に対して提案する。

関連論文リスト

• Diffusion Models as Network Optimizers: Explorations and Analysis [71.69869025878856]
  生成拡散モデル(GDM)は,ネットワーク最適化の新しいアプローチとして期待されている。 本研究ではまず,生成モデルの本質的な特徴について考察する。 本稿では,識別的ネットワーク最適化よりも生成モデルの利点を簡潔かつ直感的に示す。
  論文  参考訳（メタデータ） (2024-11-01T09:05:47Z)
• From Function to Distribution Modeling: A PAC-Generative Approach to Offline Optimization [30.689032197123755]
  本稿では、オフラインデータ例の集合を除いて目的関数が不明なオフライン最適化の問題について考察する。 未知の目的関数を学習して最適化するのではなく、より直感的で直接的な視点で、最適化は生成モデルからサンプリングするプロセスと考えることができる。
  論文  参考訳（メタデータ） (2024-01-04T01:32:50Z)
• Optimizer's Information Criterion: Dissecting and Correcting Bias in Data-Driven Optimization [16.57676001669012]
  データ駆動最適化では、得られた決定のサンプル性能は通常、真の性能に対して楽観的なバイアスを生じさせる。 クロスバリデーションのような、このバイアスを修正するための一般的なテクニックは、追加の最適化問題を繰り返し解決する必要があるため、コストがかかる。 我々は一階偏差を直接近似する一般バイアス補正手法を開発し、追加の最適化問題を解く必要はない。
  論文  参考訳（メタデータ） (2023-06-16T07:07:58Z)
• Data-informed Deep Optimization [3.331457049134526]
  本稿では,データインフォームド・ディープ・最適化(DiDo)による高次元設計問題の解法を提案する。 我々は、ディープニューラルネットワーク(DNN)を用いて、実現可能な領域を学習し、目的関数に適合する実行可能なポイントをサンプリングする。 以上の結果から,DNN による DiDo のアプローチは柔軟で,現実的な高次元設計問題の解決に有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-07-17T02:53:54Z)
• Conservative Objective Models for Effective Offline Model-Based Optimization [78.19085445065845]
  計算設計の問題は、合成生物学からコンピュータアーキテクチャまで、様々な場面で発生している。 本研究では,分布外入力に対する接地的目標の実際の値を低くする目的関数のモデルを学習する手法を提案する。 COMは、様々なMBO問題に対して、既存のメソッドの実装と性能の面では単純である。
  論文  参考訳（メタデータ） (2021-07-14T17:55:28Z)
• Offline Model-Based Optimization via Normalized Maximum Likelihood Estimation [101.22379613810881]
  データ駆動最適化の問題を検討し、一定の点セットでクエリのみを与えられた関数を最大化する必要がある。 この問題は、関数評価が複雑で高価なプロセスである多くの領域に現れる。 我々は,提案手法を高容量ニューラルネットワークモデルに拡張可能なトラクタブル近似を提案する。
  論文  参考訳（メタデータ） (2021-02-16T06:04:27Z)
• Automatically Learning Compact Quality-aware Surrogates for Optimization Problems [55.94450542785096]
  未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。 最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。 我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
  論文  参考訳（メタデータ） (2020-06-18T19:11:54Z)
• Model Inversion Networks for Model-Based Optimization [110.24531801773392]
  スコアから入力への逆写像を学習するモデル反転ネットワーク(MIN)を提案する。 MINは高次元の入力空間にスケールでき、コンテキスト最適化と非コンテキスト最適化の両方にオフラインログデータを利用する。 我々は,ベイズ最適化の文献から,画像やタンパク質の設計に対する高次元モデルベース最適化問題,ログデータからのコンテキスト的帯域最適化といったタスクのMINを評価した。
  論文  参考訳（メタデータ） (2019-12-31T18:06:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。