論文の概要: Predicting Configuration Performance in Multiple Environments with Sequential Meta-learning

• arxiv url: http://arxiv.org/abs/2402.03183v1
• Date: Mon, 5 Feb 2024 16:47:13 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-06 14:58:27.119871
• Title: Predicting Configuration Performance in Multiple Environments with Sequential Meta-learning
• Title（参考訳）: 逐次メタ学習による複数環境における構成性能の予測
• Authors: Jingzhi Gong, Tao Chen
• Abstract要約: SeMPLはメタラーニングフレームワークで、異なる(メタ)環境で測定された構成から共通理解を学ぶ。 その結果,SeMPLは89%のシステムにおいて,最大99%の精度向上を実現していることがわかった。
• 参考スコア（独自算出の注目度）: 3.635696352780227
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Learning and predicting the performance of given software configurations are of high importance to many software engineering activities. While configurable software systems will almost certainly face diverse running environments (e.g., version, hardware, and workload), current work often either builds performance models under a single environment or fails to properly handle data from diverse settings, hence restricting their accuracy for new environments. In this paper, we target configuration performance learning under multiple environments. We do so by designing SeMPL - a meta-learning framework that learns the common understanding from configurations measured in distinct (meta) environments and generalizes them to the unforeseen, target environment. What makes it unique is that unlike common meta-learning frameworks (e.g., MAML and MetaSGD) that train the meta environments in parallel, we train them sequentially, one at a time. The order of training naturally allows discriminating the contributions among meta environments in the meta-model built, which fits better with the characteristic of configuration data that is known to dramatically differ between different environments. Through comparing with 15 state-of-the-art models under nine systems, our extensive experimental results demonstrate that SeMPL performs considerably better on 89% of the systems with up to 99% accuracy improvement, while being data-efficient, leading to a maximum of 3.86x speedup. All code and data can be found at our repository: https://github.com/ideas-labo/SeMPL.
• Abstract（参考訳）: 与えられたソフトウェア構成のパフォーマンスを学習し、予測することは、多くのソフトウェアエンジニアリング活動において非常に重要である。 構成可能なソフトウェアシステムは、ほぼ確実に様々な実行環境(例えば、バージョン、ハードウェア、ワークロード)に直面するが、現在の作業はしばしば、単一の環境下でパフォーマンスモデルを構築したり、様々な設定からデータを適切に処理できなかったり、新しい環境の正確性を制限する。 本稿では,複数環境下での構成性能学習を目標とする。 メタ学習フレームワークであるSeMPLを設計することで、異なる(メタ)環境で測定された構成から共通理解を学び、それらを予期せぬターゲット環境に一般化する。 ユニークなのは、メタ環境を並列にトレーニングする一般的なメタ学習フレームワーク(MAMLやMetaSGDなど)とは異なり、それらをひとつずつ、順次トレーニングすることです。 トレーニングの順序によって、構築されたメタモデルにおけるメタ環境間のコントリビューションを自然に識別することができる。 9つのシステムの下での15の最先端モデルと比較した結果、semplは最大で99%の精度で89%のシステムでかなりパフォーマンスが向上し、データ効率が向上し、最大3.86倍のスピードアップが得られました。 すべてのコードとデータは、私たちのリポジトリで見つけることができます。

関連論文リスト

• ConML: A Universal Meta-Learning Framework with Task-Level Contrastive Learning [49.447777286862994]
  ConMLは、さまざまなメタ学習アルゴリズムに適用可能な、普遍的なメタ学習フレームワークである。 我々は、ConMLが最適化ベース、メートル法ベース、およびアモータイズベースメタ学習アルゴリズムとシームレスに統合できることを実証した。
  論文  参考訳（メタデータ） (2024-10-08T12:22:10Z)
• Dissecting the Runtime Performance of the Training, Fine-tuning, and Inference of Large Language Models [26.2566707495948]
  大規模言語モデル(LLM)は、学術と産業の両方で大きく進歩している。 我々は,事前学習,微調整,LLMを異なるサイズで提供する場合のエンドツーエンド性能をベンチマークする。 次に,LLMにおける計算処理や通信演算子など,サブモジュールの詳細なランタイム解析を行う。
  論文  参考訳（メタデータ） (2023-11-07T03:25:56Z)
• Predicting Software Performance with Divide-and-Learn [3.635696352780227]
  本稿では,DALと呼ばれる「分枝学習」の概念に基づくアプローチを提案する。 実世界の8つのシステムと5つのトレーニングデータによる実験結果から、DaLは40件中33件で最高のシステムよりもパフォーマンスが劣っていることが判明した。
  論文  参考訳（メタデータ） (2023-06-11T11:16:27Z)
• Performance Optimization using Multimodal Modeling and Heterogeneous GNN [1.304892050913381]
  本稿では,複数のタスクに適応可能な並列コード領域のチューニング手法を提案する。 本稿では、IRに基づくプログラミングモデルを分析し、タスク固有の性能最適化を行う。 実験の結果,このマルチモーダル学習に基づくアプローチは,すべての実験において最先端の手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2023-04-25T04:27:43Z)
• Continual Predictive Learning from Videos [100.27176974654559]
  本稿では,ビデオ予測の文脈において,新たな連続学習問題について検討する。 本稿では,連続予測学習(Continuousal predictive Learning, CPL)アプローチを提案する。 我々はRoboNetとKTHに基づく2つの新しいベンチマークを構築し、異なるタスクが異なる物理ロボット環境や人間の行動に対応するようにした。
  論文  参考訳（メタデータ） (2022-04-12T08:32:26Z)
• MetaICL: Learning to Learn In Context [87.23056864536613]
  そこで我々は,メタICLというメタトレーニングフレームワークを紹介した。このフレームワークでは,事前学習された言語モデルが,大量のトレーニングタスクに対してコンテキスト内学習を行うように調整されている。 その結果,MetaICLは,目標タスクトレーニングデータに対して完全に微調整されたモデルの性能にアプローチ(時には打ち負かす)し,ほぼ8倍のパラメータを持つモデルよりも優れた性能を示すことがわかった。
  論文  参考訳（メタデータ） (2021-10-29T17:42:08Z)
• Learning to Continuously Optimize Wireless Resource in a Dynamic Environment: A Bilevel Optimization Perspective [52.497514255040514]
  この研究は、データ駆動メソッドが動的環境でリソース割り当て戦略を継続的に学び、最適化することを可能にする新しいアプローチを開発しています。 学習モデルが新たなエピソードに段階的に適応できるように、連続学習の概念を無線システム設計に組み込むことを提案する。 我々の設計は、異なるデータサンプルにまたがる公平性を保証する、新しい二段階最適化定式化に基づいている。
  論文  参考訳（メタデータ） (2021-05-03T07:23:39Z)
• MetaTune: Meta-Learning Based Cost Model for Fast and Efficient Auto-tuning Frameworks [0.0]
  本稿では,メタ学習に基づくコストモデルであるMetaTuneを提案する。 このフレームワークは、4つのCNNモデルに対して平均8～13%の予測時間を提供し、同等または低い最適化時間を持ち、クロスプラットフォームのケースでは転送学習を10%上回っている。
  論文  参考訳（メタデータ） (2021-02-08T13:59:08Z)
• Learning to Continuously Optimize Wireless Resource In Episodically Dynamic Environment [55.91291559442884]
  この研究は、データ駆動型手法が動的環境で継続的に学習し、最適化できる方法論を開発する。 本稿では,無線システム学習のモデリングプロセスに連続学習の概念を構築することを提案する。 我々の設計は、異なるデータサンプル間で「一定の公正性を保証する」新しいmin-maxの定式化に基づいている。
  論文  参考訳（メタデータ） (2020-11-16T08:24:34Z)
• MetaPerturb: Transferable Regularizer for Heterogeneous Tasks and Architectures [61.73533544385352]
  本稿ではメタパーターブ(MetaPerturb)というトランスファー可能な摂動モデルを提案する。 MetaPerturbは、レイヤやタスクにまたがる多様な分散を訓練したセット関数であるため、異種タスクやアーキテクチャを一般化することができる。
  論文  参考訳（メタデータ） (2020-06-13T02:54:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。