論文の概要: Agentic Search Spaces for Tabular Machine Learning

• arxiv url: http://arxiv.org/abs/2609.16309v1
• Date: Mon, 14 Sep 2026 20:18:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.231953
• Title: Agentic Search Spaces for Tabular Machine Learning
• Title（参考訳）: 語彙学習のためのエージェント検索空間
• Abstract要約: 本稿では,現在最先端のエージェントAIシステムが,確立されたモデルに対して拡張HPO探索空間を設計できるかどうかを検討する。 拡張された検索空間により,45のデータセットからなるほぼすべてのモデルファミリの性能が向上することを示す。 エージェント空間は5つのモデルファミリーのうち4つの公式エロスコアを改善し、2つの強力なエージェントアンサンブルは従来のモデルで最高のオートグルーオンアンサンブルを上回っている。
• 参考スコア（独自算出の注目度）: 17.80584061738501
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite the rapid progress of LLM-based agents for planning, code generation, and debugging, their practical value for tabular machine learning remains underexplored. In this paper, we investigate a concrete use case: whether state-of-the-art agentic AI systems can design extended HPO search spaces for established tabular models that outperform the standard search spaces provided by the model authors. Specifically, we represent each tabular model as a modular pipeline covering preprocessing, embeddings, architecture, training, and inference. We then task the agent to propose candidate code implementations for each module and use a classical HPO algorithm to jointly optimize over these candidates and the model's default hyperparameters. Compared with the base HPO spaces, the expanded search spaces improve the performance of nearly every model family across a suite of 45 datasets, with average relative gains of 0.6%, rising to 2.0% on small-to-medium regression datasets. Notably, these gains come at no extra tuning cost: the enlarged spaces outperform the base under the same tuning and ensembling budgets. The gains transfer to the recent TabArena benchmark, where the agentic spaces improve the official Elo scores of four of the five model families and the two strongest agentic ensembles surpass the best AutoGluon ensemble of conventional models. Overall, our study suggests that LLM agents can provide practical value for tabular ML by expanding the design space.
• Abstract（参考訳）: 計画、コード生成、デバッグのためのLLMベースのエージェントの急速な進歩にもかかわらず、表層機械学習の実践的価値はいまだに探索されていない。 本稿では,現在最先端のエージェントAIシステムが,モデル作成者が提供する標準探索空間よりも優れた確立された表形式モデルに対して,拡張HPO検索空間を設計できるかどうか,という具体的なユースケースについて検討する。 具体的には、各タブモデルを、前処理、埋め込み、アーキテクチャ、トレーニング、推論をカバーするモジュールパイプラインとして表現します。 次に、エージェントに各モジュールの候補コード実装を提案し、従来のHPOアルゴリズムを用いてこれらの候補とモデルのデフォルトハイパーパラメータを協調的に最適化する。 ベースとなるHPOスペースと比較すると、拡張された検索スペースは45データセットのスイートでほぼすべてのモデルファミリのパフォーマンスを改善し、平均相対的なゲインは0.6%増加し、小から中への回帰データセットでは2.0%上昇した。 拡張されたスペースは、同じチューニングとアンサンブルの予算の下でベースよりも優れています。 エージェント空間は5つのモデルファミリーのうち4つの公式エロスコアを改善し、2つの強力なエージェントアンサンブルは従来のモデルで最高のオートグルーオンアンサンブルを上回っている。 本研究は,LLMエージェントが設計空間を拡大することにより,表型MLに実用的な価値を提供できることを示唆する。

関連論文リスト

• HMACE: Heterogeneous Multi-Agent Collaborative Evolution for Combinatorial Optimization [19.90781293176099]
  HMACEは異種多言語協調進化フレームワークである。 それぞれの進化生成を4つの調整されたエージェントで自律的で役割特異的なループに分解する。 冗長な評価を避けながら、多様で有望な行動への探索を導く。
  論文  参考訳（メタデータ） (2026-05-08T04:02:28Z)
• SimuAgent: An LLM-Based Simulink Modeling Assistant Enhanced with Reinforcement Learning [3.1436750864792375]
  我々は,Simulinkに適したモデリングおよびシミュレーションエージェントであるSimuAgentを紹介する。 SimuAgentはXMLを簡潔な辞書スタイルのPython表現に置き換え、トークン数を劇的に削減する。 2段階で訓練された軽量な計画実行アーキテクチャは、エージェントに低レベルのツールスキルと高レベルの設計推論の両方を装備する。
  論文  参考訳（メタデータ） (2026-01-08T18:10:35Z)
• Scalable branch-and-bound model selection with non-monotonic criteria including AIC, BIC and Mallows's $\mathit{C_p}$ [1.3592625530347717]
  非単調関数に適した分岐とバウンドのアルゴリズムの開発を可能にする,単純だが斬新なバウンドを導入する。 提案手法は,多様なモデルクラス,サイズ,アプリケーションにまたがる最適モデルの同定を保証する。
  論文  参考訳（メタデータ） (2025-12-13T07:16:10Z)
• iLTM: Integrated Large Tabular Model [41.81329403540607]
  iLTMは、木由来の埋め込み、次元に依存しない表現、メタトレーニングされたハイパーネットワーク、多層パーセプトロン、単一のアーキテクチャ内での検索を統一する統合された大型タブラルモデルである。
  論文  参考訳（メタデータ） (2025-11-20T00:20:16Z)
• RECALL: REpresentation-aligned Catastrophic-forgetting ALLeviation via Hierarchical Model Merging [33.22889542330089]
  大規模言語モデル(LLM)の内部表現は、学習知識の信頼できるプロキシとして機能する。 本稿では,過去データにアクセスせずに連続的な学習を行うための表現認識モデル統合フレームワークRECALLを提案する。
  論文  参考訳（メタデータ） (2025-10-23T12:17:37Z)
• MM-HELIX: Boosting Multimodal Long-Chain Reflective Reasoning with Holistic Platform and Adaptive Hybrid Policy Optimization [103.74675519953898]
  ロングチェーンのリフレクティブ推論は、複雑な現実世界の問題を解決するための前提条件である。 我々は42の難解な合成タスクの1,260のサンプルからなるベンチマークを構築した。 トレーニング後のデータを生成し、そのようなデータを活用するための学習パラダイムを探索する。
  論文  参考訳（メタデータ） (2025-10-09T17:53:58Z)
• Model-GLUE: Democratized LLM Scaling for A Large Model Zoo in the Wild [84.57103623507082]
  本稿では,全体論的な大規模言語モデルスケーリングガイドラインであるModel-GLUEを紹介する。 既存のスケーリングテクニック,特に選択的マージ,および混合の変種をベンチマークする。 次に、異種モデル動物園の選択と集約のための最適な戦略を定式化する。 我々の手法は、マージ可能なモデルのクラスタリング、最適なマージ戦略選択、クラスタの統合を含む。
  論文  参考訳（メタデータ） (2024-10-07T15:55:55Z)
• When Parameter-efficient Tuning Meets General-purpose Vision-language Models [65.19127815275307]
  PETALは、一意のモード近似技術によって達成される全パラメータの0.5%しか必要とせず、トレーニングプロセスに革命をもたらす。 実験の結果,PETALは現状の手法をほとんどのシナリオで上回るだけでなく,完全な微調整モデルよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2023-12-16T17:13:08Z)
• UniPredict: Large Language Models are Universal Tabular Classifiers [33.811778526930745]
  本稿では、生成モデル、すなわちUniPredictに基づいて、普遍的な表型データ予測器を構築するというアイデアを活用する。 多様なターゲットを持つ169データセットのアグリゲーション上で1つのLLMをトレーニングし、そのパフォーマンスを各データセットで個別にトレーニングされたベースラインと比較する。 我々は、この汎用UniPredictモデルは、最高のツリーブースティングベースラインと最高のニューラルネットワークベースラインと比較して、5.4%から13.4%の範囲で、他のモデルよりも有利であることを示す。
  論文  参考訳（メタデータ） (2023-10-05T02:37:09Z)
• The Languini Kitchen: Enabling Language Modelling Research at Different Scales of Compute [66.84421705029624]
  本稿では,アクセル時間で測定された等価計算に基づくモデル比較を可能にする実験的プロトコルを提案する。 私たちは、既存の学術的ベンチマークを上回り、品質、多様性、文書の長さで上回る、大規模で多様で高品質な書籍データセットを前処理します。 この研究は、GPT-2アーキテクチャから派生したフィードフォワードモデルと、10倍のスループットを持つ新しいLSTMの形式でのリカレントモデルという2つのベースラインモデルも提供する。
  論文  参考訳（メタデータ） (2023-09-20T10:31:17Z)
• Maximize to Explore: One Objective Function Fusing Estimation, Planning, and Exploration [87.53543137162488]
  我々はtextttMEX というオンライン強化学習(オンラインRL)フレームワークを提案する。 textttMEXは、自動的に探索エクスプロイトのバランスをとりながら、見積もりと計画コンポーネントを統合する。 様々な MuJoCo 環境では,ベースラインを安定的なマージンで上回り,十分な報酬を得られる。
  論文  参考訳（メタデータ） (2023-05-29T17:25:26Z)
• AutoBERT-Zero: Evolving BERT Backbone from Scratch [94.89102524181986]
  そこで本稿では,提案するハイブリッドバックボーンアーキテクチャを自動検索するOP-NASアルゴリズムを提案する。 提案するOP-NASの効率を向上させるために,探索アルゴリズムと候補モデルの評価を最適化する。 実験の結果、検索されたアーキテクチャ(AutoBERT-Zero)は、様々な下流タスクにおいてBERTとそのバリエーションの異なるモデル容量を著しく上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-07-15T16:46:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。