論文の概要: Stepwise Model Selection for Sequence Prediction via Deep Kernel Learning

• arxiv url: http://arxiv.org/abs/2001.03898v3
• Date: Fri, 14 Feb 2020 11:46:09 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-12 04:32:28.380418
• Title: Stepwise Model Selection for Sequence Prediction via Deep Kernel Learning
• Title（参考訳）: 深層カーネル学習によるシーケンス予測のためのステップワイズモデル選択
• Authors: Yao Zhang, Daniel Jarrett, Mihaela van der Schaar
• Abstract要約: 本稿では,モデル選択の課題を解決するために,新しいベイズ最適化(BO)アルゴリズムを提案する。 結果として得られる複数のブラックボックス関数の最適化問題を協調的かつ効率的に解くために,ブラックボックス関数間の潜在的な相関を利用する。 我々は、シーケンス予測のための段階的モデル選択(SMS)の問題を初めて定式化し、この目的のために効率的な共同学習アルゴリズムを設計し、実証する。
• 参考スコア（独自算出の注目度）: 100.83444258562263
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: An essential problem in automated machine learning (AutoML) is that of model selection. A unique challenge in the sequential setting is the fact that the optimal model itself may vary over time, depending on the distribution of features and labels available up to each point in time. In this paper, we propose a novel Bayesian optimization (BO) algorithm to tackle the challenge of model selection in this setting. This is accomplished by treating the performance at each time step as its own black-box function. In order to solve the resulting multiple black-box function optimization problem jointly and efficiently, we exploit potential correlations among black-box functions using deep kernel learning (DKL). To the best of our knowledge, we are the first to formulate the problem of stepwise model selection (SMS) for sequence prediction, and to design and demonstrate an efficient joint-learning algorithm for this purpose. Using multiple real-world datasets, we verify that our proposed method outperforms both standard BO and multi-objective BO algorithms on a variety of sequence prediction tasks.
• Abstract（参考訳）: 自動機械学習(AutoML)における重要な問題は、モデル選択である。 シーケンシャルな設定におけるユニークな課題は、最適モデル自体が時間とともに変化し、各時点に利用可能な特徴やラベルの分布に依存するという事実である。 本稿では,本手法におけるモデル選択の課題に取り組むために,新しいベイズ最適化(bo)アルゴリズムを提案する。 これは各ステップのパフォーマンスを独自のブラックボックス関数として扱うことで実現される。 そこで我々は,複数のブラックボックス関数の最適化問題を協調的かつ効率的に解くために,ディープカーネル学習(DKL)を用いてブラックボックス関数間の潜在的な相関関係を利用する。 最善の知識を得るためには、シーケンス予測のためのステップワイズモデル選択(sms)の問題を最初に定式化し、この目的のために効率的な共同学習アルゴリズムを設計し、実証する。 提案手法は,複数の実世界のデータセットを用いて,様々なシーケンス予測タスクにおいて,標準的なBOアルゴリズムと多目的BOアルゴリズムより優れていることを確認した。

関連論文リスト

• Unlearning as multi-task optimization: A normalized gradient difference approach with an adaptive learning rate [105.86576388991713]
  正規化勾配差(NGDiff)アルゴリズムを導入し、目的間のトレードオフをよりよく制御できるようにする。 本研究では,TOFUおよびMUSEデータセットにおける最先端の未学習手法において,NGDiffの優れた性能を実証的に実証し,理論的解析を行った。
  論文  参考訳（メタデータ） (2024-10-29T14:41:44Z)
• A Survey of Meta-features Used for Automated Selection of Algorithms for Black-box Single-objective Continuous Optimization [4.173197621837912]
  単目的連続ブラックボックス最適化の分野におけるアルゴリズム選択への重要な貢献について概説する。 自動アルゴリズム選択、構成、性能予測のための機械学習モデルについて検討する。
  論文  参考訳（メタデータ） (2024-06-08T11:11:14Z)
• Reinforced In-Context Black-Box Optimization [64.25546325063272]
  RIBBOは、オフラインデータからエンドツーエンドでBBOアルゴリズムを強化学習する手法である。 RIBBOは、複数の動作アルゴリズムとタスクによって生成される最適化履歴を学習するために、表現的なシーケンスモデルを使用している。 提案手法の中心となるのは,テキストレグレット・ツー・ゴートークンによる最適化履歴の増大である。
  論文  参考訳（メタデータ） (2024-02-27T11:32:14Z)
• Predictive Modeling through Hyper-Bayesian Optimization [60.586813904500595]
  本稿では,モデル選択とBOを統合する新しい手法を提案する。 このアルゴリズムは、モデル空間のBOと関数空間のBOの間を行き来する。 サンプル効率の改善に加えて、ブラックボックス機能に関する情報も出力する。
  論文  参考訳（メタデータ） (2023-08-01T04:46:58Z)
• DynamoRep: Trajectory-Based Population Dynamics for Classification of Black-box Optimization Problems [0.755972004983746]
  簡単な統計量を用いて最適化アルゴリズムの軌道を記述する特徴抽出法を提案する。 提案するDynamoRep機能は,最適化アルゴリズムが動作している問題クラスを特定するのに十分な情報を取得する。
  論文  参考訳（メタデータ） (2023-06-08T06:57:07Z)
• Bayesian Optimization for Macro Placement [48.55456716632735]
  本研究では,系列対上のベイズ最適化(BO)を用いた新しいマクロ配置法を提案する。 BOは確率的代理モデルと獲得関数を利用する機械学習技術である。 固定アウトラインマクロ配置問題に対して, 半周波線長目標を用いたアルゴリズムを実証する。
  論文  参考訳（メタデータ） (2022-07-18T06:17:06Z)
• RoMA: Robust Model Adaptation for Offline Model-based Optimization [115.02677045518692]
  入力出力クエリの静的データセットからブラックボックス目的関数を最大化する入力を探索する問題を考える。 この問題を解決するための一般的なアプローチは、真の客観的関数を近似するプロキシモデルを維持することである。 ここでの大きな課題は、検索中に逆最適化された入力を避ける方法である。
  論文  参考訳（メタデータ） (2021-10-27T05:37:12Z)
• Meta Learning Black-Box Population-Based Optimizers [0.0]
  人口ベースのブラックボックス一般化を推論するメタラーニングの利用を提案する。 メタロス関数は,学習アルゴリズムが検索動作を変更することを促進し,新たなコンテキストに容易に適合できることを示す。
  論文  参考訳（メタデータ） (2021-03-05T08:13:25Z)
• Automatic Tuning of Stochastic Gradient Descent with Bayesian Optimisation [8.340191147575307]
  我々は,潜在ガウス過程と自己回帰的定式化に基づく,オプティマイザのトレースに対する元の確率モデルを導入する。 新しい学習率値によって引き起こされる行動の急激な変化に柔軟に調整する。 まず、コールドスタート実行のための学習率のオンライン適応のために、次に、同様のタスクセットのスケジュールを調整し、新しいタスクのためにウォームスタートするために、一連の問題に取り組むのが適しています。
  論文  参考訳（メタデータ） (2020-06-25T13:18:18Z)
• Landscape-Aware Fixed-Budget Performance Regression and Algorithm Selection for Modular CMA-ES Variants [1.0965065178451106]
  市販の教師あり学習手法を用いて,高品質な性能予測が可能であることを示す。 このアプローチを,モジュール型CMA-ESアルゴリズム群から選択した,非常に類似したアルゴリズムのポートフォリオ上でテストする。
  論文  参考訳（メタデータ） (2020-06-17T13:34:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。