論文の概要: LiveTune: Dynamic Parameter Tuning for Feedback-Driven Optimization
- arxiv url: http://arxiv.org/abs/2311.17279v2
- Date: Fri, 10 May 2024 18:31:21 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-15 00:53:00.187449
- Title: LiveTune: Dynamic Parameter Tuning for Feedback-Driven Optimization
- Title（参考訳）: LiveTune: フィードバック駆動最適化のための動的パラメータチューニング
- Authors: Soheil Zibakhsh Shabgahi, Nojan Sheybani, Aiden Tabrizi, Farinaz Koushanfar,
- Abstract要約: 提案するLiveTuneは,LiveVariablesによる最適化ループのリアルタイムパラメータ調整を実現する新しいフレームワークである。
Live Variablesは、システム上の指定されたポートにパラメータを格納することで、継続的なフィードバック駆動の最適化を可能にし、動的に調整できる。
エージェントがベースラインよりも5倍改善したことを学習中に、ユーザが報酬構造のダイナミクスを変更する強化学習アプリケーションで、LiveTuneの有効性と価値を示す。
- 参考スコア（独自算出の注目度）: 12.897062358398665
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Feedback-driven optimization, such as traditional machine learning training, is a static process that lacks real-time adaptability of hyperparameters. Tuning solutions for optimization require trial and error paired with checkpointing and schedulers, in many cases feedback from the algorithm is overlooked. Adjusting hyperparameters during optimization usually requires the program to be restarted, wasting utilization and time, while placing unnecessary strain on memory and processors. We present LiveTune, a novel framework allowing real-time parameter adjustment of optimization loops through LiveVariables. Live Variables allow for continuous feedback-driven optimization by storing parameters on designated ports on the system, allowing them to be dynamically adjusted. Extensive evaluations of our framework on standard machine learning training pipelines show saving up to 60 seconds and 5.4 Kilojoules of energy per hyperparameter change. We also show the feasibility and value of LiveTune in a reinforcement learning application where the users change the dynamics of the reward structure while the agent is learning showing 5x improvement over the baseline. Finally, we outline a fully automated workflow to provide end-to-end, unsupervised feedback-driven optimization.
- Abstract（参考訳）: 従来の機械学習トレーニングのようなフィードバック駆動の最適化は、ハイパーパラメータのリアルタイム適応性に欠ける静的プロセスである。
最適化のためのチューニングソリューションは試行錯誤とチェックポイントとスケジューラとの組み合わせを必要とするが、多くの場合、アルゴリズムからのフィードバックは見落としている。
最適化中にハイパーパラメータを調整するには、通常、プログラムを再起動し、使用時間と時間を浪費し、メモリやプロセッサに不必要な歪みを課す必要がある。
提案するLiveTuneは,LiveVariablesによる最適化ループのリアルタイムパラメータ調整を実現する新しいフレームワークである。
Live Variablesは、システム上の指定されたポートにパラメータを格納することで、継続的なフィードバック駆動の最適化を可能にし、動的に調整できる。
標準機械学習トレーニングパイプラインに対する我々のフレームワークの大規模な評価は、最大60秒と5.4キロジュールのハイパーパラメータごとのエネルギー変化を示している。
また,リコメンデーション学習アプリケーションにおいて,エージェントがベースラインよりも5倍改善したことを学習中に,ユーザが報酬構造を動的に変化させることができるLiveTuneの実現可能性と価値を示す。
最後に、エンドツーエンドで教師なしのフィードバック駆動最適化を提供するために、完全に自動化されたワークフローを概説する。
関連論文リスト
- Dynamic Adapter Meets Prompt Tuning: Parameter-Efficient Transfer Learning for Point Cloud Analysis [51.14136878142034]
ポイントクラウド分析は、事前訓練されたモデルのポイントクラウドの転送によって、優れたパフォーマンスを実現している。
モデル適応のための既存の方法は通常、高い計算コストに依存するため、非効率な全てのモデルパラメータを更新する。
本稿では,タスク性能とパラメータ効率のトレードオフを考慮した,ポイントクラウド解析のためのパラメータ効率変換学習を提案する。
論文 参考訳（メタデータ） (2024-03-03T08:25:04Z) - Sensitivity-Aware Visual Parameter-Efficient Fine-Tuning [91.5113227694443]
私たちは新しいビジュアルを提案します。
Sensuous-Aware Fine-Tuning (SPT) スキーム。
SPTはタスク固有の重要な位置にトレーニング可能なパラメータを割り当てる。
ダウンストリーム認識タスクの幅広い実験により,SPTは既存のPEFT法と相補的であることが示された。
論文 参考訳（メタデータ） (2023-03-15T12:34:24Z) - A Framework for History-Aware Hyperparameter Optimisation in
Reinforcement Learning [8.659973888018781]
強化学習(RL)システムは、システムの性能に影響を与える一連の初期条件に依存する。
これらのトレードオフを軽減するため,複雑なイベント処理と時間モデルの統合に基づくフレームワークを提案する。
提案手法を,RLの変種であるDQNを用いた5Gモバイル通信ケーススタディで検証した。
論文 参考訳（メタデータ） (2023-03-09T11:30:40Z) - On Controller Tuning with Time-Varying Bayesian Optimization [74.57758188038375]
制御対象とその変更に関する適切な事前知識を用いて、時間変化最適化(TVBO)を用いて、変更環境におけるコントローラのオンラインチューニングを行う。
本研究では,不確実性注入(UI)を用いたTVBO戦略を提案する。
我々のモデルはTVBOの最先端手法よりも優れており、後悔の軽減と不安定なパラメータ構成の低減を実現している。
論文 参考訳（メタデータ） (2022-07-22T14:54:13Z) - Theory-inspired Parameter Control Benchmarks for Dynamic Algorithm
Configuration [32.055812915031666]
与えられたサイズの最適パラメータポートフォリオの計算方法を示す。
可能な値のポートフォリオのみからパラメータを選択できる最適制御ポリシーを解析することにより、このベンチマークを拡張します。
動的アルゴリズム構成のためのDDQN強化学習手法の挙動を解析することにより,ベンチマークの有用性を実証する。
論文 参考訳（メタデータ） (2022-02-07T15:00:30Z) - Amortized Auto-Tuning: Cost-Efficient Transfer Optimization for
Hyperparameter Recommendation [83.85021205445662]
本稿では,機械学習モデルのチューニングを高速化する自動チューニング(AT2)を提案する。
マルチタスクマルチ忠実ベイズ最適化フレームワークの徹底的な解析を行い、最適なインスタンス化-アモータイズ自動チューニング(AT2)を実現する。
論文 参考訳（メタデータ） (2021-06-17T00:01:18Z) - Online hyperparameter optimization by real-time recurrent learning [57.01871583756586]
ニューラルネットワーク(rnn)におけるハイパーパラメータ最適化とパラメータ学習の類似性を活用した。
RNNのための学習済みのオンライン学習アルゴリズムのファミリーを適応させ、ハイパーパラメータとネットワークパラメータを同時に調整します。
この手順は、通常の方法に比べて、ウォールクロック時間のほんの少しで、体系的に一般化性能が向上する。
論文 参考訳（メタデータ） (2021-02-15T19:36:18Z) - Rethinking the Hyperparameters for Fine-tuning [78.15505286781293]
事前訓練されたImageNetモデルからの微調整は、様々なコンピュータビジョンタスクのデファクトスタンダードとなっている。
ファインチューニングの現在のプラクティスは、通常、ハイパーパラメータのアドホックな選択を選択することである。
本稿では、微調整のためのハイパーパラメータの設定に関するいくつかの一般的なプラクティスを再検討する。
論文 参考訳（メタデータ） (2020-02-19T18:59:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。