論文の概要: AutoML-Agent: A Multi-Agent LLM Framework for Full-Pipeline AutoML

• arxiv url: http://arxiv.org/abs/2410.02958v1
• Date: Thu, 3 Oct 2024 20:01:09 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-03 04:45:27.616053
• Title: AutoML-Agent: A Multi-Agent LLM Framework for Full-Pipeline AutoML
• Title（参考訳）: AutoML-Agent: フルパイプラインオートMLのためのマルチエージェントLLMフレームワーク
• Authors: Patara Trirat, Wonyong Jeong, Sung Ju Hwang,
• Abstract要約: 自動機械学習(Automated Machine Learning, ML)は、開発パイプライン内のタスクを自動化することによって、AI開発を加速する。 近年の作業では,そのような負担を軽減するために,大規模言語モデル(LLM)の利用が始まっている。 本稿では,フルパイプのAutoMLに適した新しいマルチエージェントフレームワークであるAutoML-Agentを提案する。
• 参考スコア（独自算出の注目度）: 56.565200973244146
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Automated machine learning (AutoML) accelerates AI development by automating tasks in the development pipeline, such as optimal model search and hyperparameter tuning. Existing AutoML systems often require technical expertise to set up complex tools, which is in general time-consuming and requires a large amount of human effort. Therefore, recent works have started exploiting large language models (LLM) to lessen such burden and increase the usability of AutoML frameworks via a natural language interface, allowing non-expert users to build their data-driven solutions. These methods, however, are usually designed only for a particular process in the AI development pipeline and do not efficiently use the inherent capacity of the LLMs. This paper proposes AutoML-Agent, a novel multi-agent framework tailored for full-pipeline AutoML, i.e., from data retrieval to model deployment. AutoML-Agent takes user's task descriptions, facilitates collaboration between specialized LLM agents, and delivers deployment-ready models. Unlike existing work, instead of devising a single plan, we introduce a retrieval-augmented planning strategy to enhance exploration to search for more optimal plans. We also decompose each plan into sub-tasks (e.g., data preprocessing and neural network design) each of which is solved by a specialized agent we build via prompting executing in parallel, making the search process more efficient. Moreover, we propose a multi-stage verification to verify executed results and guide the code generation LLM in implementing successful solutions. Extensive experiments on seven downstream tasks using fourteen datasets show that AutoML-Agent achieves a higher success rate in automating the full AutoML process, yielding systems with good performance throughout the diverse domains.
• Abstract（参考訳）: 自動機械学習(Automated Machine Learning, ML)は、最適なモデル探索やハイパーパラメータチューニングなど、開発パイプライン内のタスクを自動化することで、AI開発を加速する。 既存のAutoMLシステムでは、複雑なツールのセットアップに技術的な専門知識を必要とすることが多い。 そのため、最近の研究は、そのような負担を軽減し、自然言語インターフェースを通じてAutoMLフレームワークのユーザビリティを高めるために、大規模な言語モデル(LLM)の利用を開始した。 しかし、これらの手法は通常、AI開発パイプラインの特定のプロセスのためにのみ設計されており、LLMの本質的な能力は効率的に使用しない。 本稿では,データ検索からモデル展開まで,フルパイプのAutoMLに適した新しいマルチエージェントフレームワークであるAutoML-Agentを提案する。 AutoML-Agentはユーザのタスク記述を取り、特殊なLLMエージェント間のコラボレーションを促進し、デプロイ対応のモデルを提供する。 既存の作業とは異なり、単一の計画を作成する代わりに、より最適な計画を探すための探索を強化するための検索強化計画戦略を導入する。 また、各プランをサブタスク(例えば、データ前処理とニューラルネットワーク設計)に分割し、並列実行をプロンプトすることで構築する特殊なエージェントによって解決し、検索プロセスをより効率的にする。 さらに,実行結果を検証し,コード生成LLMを誘導する多段階検証を提案する。 14のデータセットを使用した7つの下流タスクに関する大規模な実験は、AutoML-Agentが完全なAutoMLプロセスを自動化する上で高い成功率を達成することを示し、多様なドメイン全体で優れたパフォーマンスを持つシステムが得られることを示している。

関連論文リスト

• SELA: Tree-Search Enhanced LLM Agents for Automated Machine Learning [14.702694298483445]
  Tree-Search Enhanced LLM Agents (SELA)は、Monte Carlo Tree Search (MCTS)を利用してAutoMLプロセスを最適化するエージェントベースのシステムである。 SELAはパイプライン構成をツリーとして表現し、エージェントが知的かつ反復的に戦略を洗練させることを可能にする。 20の機械学習データセットにわたる広範囲な評価において、従来のAutoML手法とエージェントベースのAutoML手法のパフォーマンスを比較した。
  論文  参考訳（メタデータ） (2024-10-22T17:56:08Z)
• Position: A Call to Action for a Human-Centered AutoML Paradigm [83.78883610871867]
  自動機械学習(AutoML)は、機械学習(ML)を自動かつ効率的に構成する基本的目的を中心に形成された。 AutoMLの完全な可能性を解き放つ鍵は、現在探索されていないAutoMLシステムとのユーザインタラクションの側面に対処することにある、と私たちは主張する。
  論文  参考訳（メタデータ） (2024-06-05T15:05:24Z)
• AutoMMLab: Automatically Generating Deployable Models from Language Instructions for Computer Vision Tasks [39.71649832548044]
  AutoMMLabは、ユーザの言語命令に従う汎用LLMベースのAutoMLシステムである。 提案する AutoMMLab システムは,AutoML と OpenMMLab コミュニティを結ぶブリッジとして LLM を効果的に利用している。 実験の結果、AutoMMLabシステムは汎用的で、さまざまなメインストリームタスクをカバーしています。
  論文  参考訳（メタデータ） (2024-02-23T14:38:19Z)
• AutoAct: Automatic Agent Learning from Scratch for QA via Self-Planning [54.47116888545878]
  AutoActはQAのための自動エージェント学習フレームワークである。 大規模アノテートデータやクローズドソースモデルからの合成計画軌道は依存していない。
  論文  参考訳（メタデータ） (2024-01-10T16:57:24Z)
• TaskBench: Benchmarking Large Language Models for Task Automation [82.2932794189585]
  タスク自動化における大規模言語モデル(LLM)の機能を評価するためのフレームワークであるTaskBenchを紹介する。 具体的には、タスクの分解、ツールの選択、パラメータ予測を評価する。 提案手法は, 自動構築と厳密な人的検証を組み合わせることで, 人的評価との整合性を確保する。
  論文  参考訳（メタデータ） (2023-11-30T18:02:44Z)
• Recommender AI Agent: Integrating Large Language Models for Interactive Recommendations [53.76682562935373]
  我々は,LLMを脳として,レコメンダモデルをツールとして使用する,textbfInteRecAgentという効率的なフレームワークを紹介した。 InteRecAgentは会話レコメンデーションシステムとして満足度を達成し、汎用LLMよりも優れる。
  論文  参考訳（メタデータ） (2023-08-31T07:36:44Z)
• Assessing the Use of AutoML for Data-Driven Software Engineering [10.40771687966477]
  AutoMLは、エンドツーエンドのAI/MLパイプラインの構築を自動化することを約束する。 関心の高まりと高い期待にもかかわらず、AutoMLが現在採用されている範囲に関する情報が不足している。
  論文  参考訳（メタデータ） (2023-07-20T11:14:24Z)
• AutoML-GPT: Automatic Machine Learning with GPT [74.30699827690596]
  本稿では,タスク指向のプロンプトを開発し,大規模言語モデル(LLM)を自動的に活用して学習パイプラインを自動化することを提案する。 本稿では,多様なAIモデルのブリッジとしてGPTを用いたAutoML-GPTを提案する。 このアプローチはコンピュータビジョン、自然言語処理、その他の課題領域において顕著な結果をもたらす。
  論文  参考訳（メタデータ） (2023-05-04T02:09:43Z)
• AutoEn: An AutoML method based on ensembles of predefined Machine Learning pipelines for supervised Traffic Forecasting [1.6242924916178283]
  交通予測(TF)は、将来の交通状況を予測することで交通渋滞を緩和する能力により、関連性が高まっている。 TFは、モデル選択問題(MSP)として知られる機械学習パラダイムに大きな課題を提起する。 事前に定義されたMLパイプラインの集合からマルチクラス化アンサンブルを自動生成する,シンプルで効率的な手法であるAutoEnを紹介する。
  論文  参考訳（メタデータ） (2023-03-19T18:37:18Z)
• SubStrat: A Subset-Based Strategy for Faster AutoML [5.833272638548153]
  SubStratは、設定スペースではなく、データサイズに取り組むAutoML最適化戦略である。 既存のAutoMLツールをラップし、データセット全体を直接実行する代わりに、SubStratは遺伝的アルゴリズムを使用して小さなサブセットを見つける。 その後、小さなサブセットにAutoMLツールを使用し、最後に、大きなデータセット上で制限された、はるかに短いAutoMLプロセスを実行することで、結果のパイプラインを洗練する。
  論文  参考訳（メタデータ） (2022-06-07T07:44:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。