論文の概要: Hyperparameter optimization in deep multi-target prediction

• arxiv url: http://arxiv.org/abs/2211.04362v1
• Date: Tue, 8 Nov 2022 16:33:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-09 16:57:20.223785
• Title: Hyperparameter optimization in deep multi-target prediction
• Title（参考訳）: 深部マルチターゲット予測におけるハイパーパラメータ最適化
• Authors: Dimitrios Iliadis, Marcel Wever, Bernard De Baets, Willem Waegeman
• Abstract要約: 私たちは、マルチターゲット予測の傘の下に置かれるほとんどの問題設定に対して、単一のAutoMLフレームワークを提供しています。 私たちの作業は、マルチターゲット予測の傘の下に収まるほとんどの問題設定に対して、単一のAutoMLフレームワークを提供する最初の試みであると見なすことができます。
• 参考スコア（独自算出の注目度）: 16.778802088570412
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As a result of the ever increasing complexity of configuring and fine-tuning machine learning models, the field of automated machine learning (AutoML) has emerged over the past decade. However, software implementations like Auto-WEKA and Auto-sklearn typically focus on classical machine learning (ML) tasks such as classification and regression. Our work can be seen as the first attempt at offering a single AutoML framework for most problem settings that fall under the umbrella of multi-target prediction, which includes popular ML settings such as multi-label classification, multivariate regression, multi-task learning, dyadic prediction, matrix completion, and zero-shot learning. Automated problem selection and model configuration are achieved by extending DeepMTP, a general deep learning framework for MTP problem settings, with popular hyperparameter optimization (HPO) methods. Our extensive benchmarking across different datasets and MTP problem settings identifies cases where specific HPO methods outperform others.
• Abstract（参考訳）: 機械学習モデルの構成と微調整がますます複雑になっているため、自動化機械学習(automl)の分野は過去10年間に登場してきた。 しかし、Auto-WEKAやAuto-Sklearnのようなソフトウェア実装は通常、分類や回帰といった古典的な機械学習(ML)タスクに重点を置いている。 私たちの研究は、マルチラベル分類、多変量回帰、マルチタスク学習、ダイアディック予測、行列補完、ゼロショット学習といった一般的なML設定を含む、マルチターゲット予測の領域に該当するほとんどの問題設定のための単一のAutoMLフレームワークを提供する最初の試みと見なすことができる。 MTP問題設定のための一般的なディープラーニングフレームワークであるDeepMTPを、人気のあるハイパーパラメータ最適化(HPO)メソッドで拡張することにより、自動問題選択とモデル構成を実現する。 異なるデータセットにわたる広範なベンチマークとMPP問題設定は、特定のHPOメソッドが他よりも優れているケースを特定する。

関連論文リスト

• Unlearning as multi-task optimization: A normalized gradient difference approach with an adaptive learning rate [105.86576388991713]
  正規化勾配差(NGDiff)アルゴリズムを導入し、目的間のトレードオフをよりよく制御できるようにする。 本研究では,TOFUおよびMUSEデータセットにおける最先端の未学習手法において,NGDiffの優れた性能を実証的に実証し,理論的解析を行った。
  論文  参考訳（メタデータ） (2024-10-29T14:41:44Z)
• AutoML-GPT: Large Language Model for AutoML [5.9145212342776805]
  包括的なツールとライブラリを統合するAutoML-GPTというフレームワークを確立しました。 会話インターフェースを通じて、ユーザーは要求、制約、評価メトリクスを指定できる。 我々は、AutoML-GPTが機械学習タスクに必要な時間と労力を大幅に削減することを示した。
  論文  参考訳（メタデータ） (2023-09-03T09:39:49Z)
• The Devil is in the Errors: Leveraging Large Language Models for Fine-grained Machine Translation Evaluation [93.01964988474755]
  AutoMQMは,大規模な言語モデルに対して,翻訳におけるエラーの識別と分類を求めるプロンプト技術である。 テキスト内学習と微調整によるラベル付きデータの影響について検討する。 次に, PaLM-2モデルを用いてAutoMQMを評価し, スコアのプロンプトよりも性能が向上することがわかった。
  論文  参考訳（メタデータ） (2023-08-14T17:17:21Z)
• AutoML-GPT: Automatic Machine Learning with GPT [74.30699827690596]
  本稿では,タスク指向のプロンプトを開発し,大規模言語モデル(LLM)を自動的に活用して学習パイプラインを自動化することを提案する。 本稿では,多様なAIモデルのブリッジとしてGPTを用いたAutoML-GPTを提案する。 このアプローチはコンピュータビジョン、自然言語処理、その他の課題領域において顕著な結果をもたらす。
  論文  参考訳（メタデータ） (2023-05-04T02:09:43Z)
• Model-Agnostic Multitask Fine-tuning for Few-shot Vision-Language Transfer Learning [59.38343286807997]
  未知タスクの視覚言語モデルのためのモデル非依存型マルチタスクファインチューニング(MAMF)を提案する。 モデルに依存しないメタラーニング(MAML)と比較して、MAMFは二段階最適化を捨て、一階勾配のみを使用する。 MAMFは5つのベンチマークデータセット上で、数ショットの転送学習において古典的な微調整法よりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2022-03-09T17:26:53Z)
• Mining Robust Default Configurations for Resource-constrained AutoML [18.326426020906215]
  本稿では,オフラインのAutoMLを実行し,多様なタスクに対してマイニングを行うことにより,与えられたタスクに対するパフォーマンス設定を選択する新しい方法を提案する。 当社のアプローチは,既存のAutoMLプラットフォームを温める上で有効であることを示す。
  論文  参考訳（メタデータ） (2022-02-20T23:08:04Z)
• Automated problem setting selection in multi-target prediction with AutoMTP [14.451046691298298]
  AutoMTPはマルチターゲット予測のためのアルゴリズム選択を実行する自動フレームワークです。 アルゴリズム選択ステップと柔軟なニューラルネットワークアーキテクチャにルールベースのシステムを採用することで実現されます。
  論文  参考訳（メタデータ） (2021-04-19T12:44:20Z)
• Robusta: Robust AutoML for Feature Selection via Reinforcement Learning [24.24652530951966]
  強化学習(RL)に基づく初の堅牢なAutoMLフレームワークRobostaを提案します。 このフレームワークは,良性サンプルの競争精度を維持しつつ,モデルロバスト性を最大22%向上させることができることを示す。
  論文  参考訳（メタデータ） (2021-01-15T03:12:29Z)
• Resource-Aware Pareto-Optimal Automated Machine Learning Platform [1.6746303554275583]
  新プラットフォーム Resource-Aware AutoML (RA-AutoML) RA-AutoMLは、フレキシブルで一般化されたアルゴリズムで、複数の目的に合わせた機械学習モデルを構築することができる。
  論文  参考訳（メタデータ） (2020-10-30T19:37:48Z)
• Auto-PyTorch Tabular: Multi-Fidelity MetaLearning for Efficient and Robust AutoDL [53.40030379661183]
  Auto-PyTorchは、完全に自動化されたディープラーニング(AutoDL)を実現するフレームワーク ディープニューラルネットワーク(DNN)のウォームスタートとアンサンブルのためのマルチフィデリティ最適化とポートフォリオ構築を組み合わせる。 Auto-PyTorchは、いくつかの最先端の競合製品よりもパフォーマンスが良いことを示す。
  論文  参考訳（メタデータ） (2020-06-24T15:15:17Z)
• AutoFIS: Automatic Feature Interaction Selection in Factorization Models for Click-Through Rate Prediction [75.16836697734995]
  自動特徴相互作用選択(AutoFIS)と呼ばれる2段階のアルゴリズムを提案する。 AutoFISは、目標モデルを収束させるためにトレーニングするのと同等の計算コストで、因子化モデルに対する重要な特徴的相互作用を自動的に識別することができる。 AutoFISはHuawei App Storeレコメンデーションサービスのトレーニングプラットフォームにデプロイされている。
  論文  参考訳（メタデータ） (2020-03-25T06:53:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。