論文の概要: FAMOSE: A ReAct Approach to Automated Feature Discovery
- arxiv url: http://arxiv.org/abs/2602.17641v1
- Date: Thu, 19 Feb 2026 18:53:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-20 15:21:29.404693
- Title: FAMOSE: A ReAct Approach to Automated Feature Discovery
- Title(参考訳): FAMOSE: 機能発見を自動化するための実践的アプローチ
- Authors: Keith Burghardt, Jienan Liu, Sadman Sakib, Yuning Hao, Bo Li,
- Abstract要約: FAMOSEは、自律的に機能を探索し、生成し、洗練するエージェント型ReActフレームワークである。
RMSEを平均で2.0%削減し、他のアルゴリズムよりもエラーに対して堅牢なままにすることで、回帰タスクの最先端を実現する。
我々の研究は、AIエージェントが高度に発明されたソリューションを必要とする問題を解決するのに極めて効果的であることを示す。
- 参考スコア(独自算出の注目度): 4.979045992768399
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Feature engineering remains a critical yet challenging bottleneck in machine learning, particularly for tabular data, as identifying optimal features from an exponentially large feature space traditionally demands substantial domain expertise. To address this challenge, we introduce FAMOSE (Feature AugMentation and Optimal Selection agEnt), a novel framework that leverages the ReAct paradigm to autonomously explore, generate, and refine features while integrating feature selection and evaluation tools within an agent architecture. To our knowledge, FAMOSE represents the first application of an agentic ReAct framework to automated feature engineering, especially for both regression and classification tasks. Extensive experiments demonstrate that FAMOSE is at or near the state-of-the-art on classification tasks (especially tasks with more than 10K instances, where ROC-AUC increases 0.23% on average), and achieves the state-of-the-art for regression tasks by reducing RMSE by 2.0% on average, while remaining more robust to errors than other algorithms. We hypothesize that FAMOSE's strong performance is because ReAct allows the LLM context window to record (via iterative feature discovery and evaluation steps) what features did or did not work. This is similar to a few-shot prompt and guides the LLM to invent better, more innovative features. Our work offers evidence that AI agents are remarkably effective in solving problems that require highly inventive solutions, such as feature engineering.
- Abstract(参考訳): 指数関数的に大きな機能空間から最適な機能を特定することは、伝統的にドメインの専門知識を必要とするためである。
FAMOSE(Feature AugMentation and Optimal Selection agEnt)は、ReActパラダイムを利用して、エージェントアーキテクチャに特徴選択と評価ツールを統合しながら、自律的に特徴を探索、生成、洗練する新しいフレームワークである。
我々の知る限り、FAMOSEは、特に回帰タスクと分類タスクの両方において、自動機能エンジニアリングに対するエージェント型ReActフレームワークの最初の応用である。
大規模な実験により、FAMOSEは分類タスク(特に、ROC-AUCが平均0.23%増加している10Kインスタンスのタスク)の最先端か近辺にあることが示され、RMSEを平均2.0%減少させ、他のアルゴリズムよりも堅牢でありながら、回帰タスクの最先端を実現する。
FAMOSEの強いパフォーマンスは、ReActがLLMコンテキストウインドウを(反復的な特徴発見と評価のステップを介して)機能が何を行ったか、あるいはうまくいかなかったかを(記録できるようにするためである、という仮説を立てる。
これは数発のプロンプトに似ており、LLMがより良い、より革新的な機能を発明するよう誘導している。
我々の研究は、AIエージェントが機能工学のような高度に発明されたソリューションを必要とする問題を解決するのに極めて効果的であることを示す。
関連論文リスト
- Knowledge-Informed Automatic Feature Extraction via Collaborative Large Language Model Agents [3.913122709822389]
Rogue Oneは知識インフォームド自動特徴抽出のための新しいマルチエージェントフレームワークである。
Rogue Oneは、19の分類と9の回帰データセットからなる総合的なスイートにおいて、最先端の手法を大幅に上回っていることを実証した。
論文 参考訳(メタデータ) (2025-11-19T03:27:14Z) - AutoMind: Adaptive Knowledgeable Agent for Automated Data Science [70.33796196103499]
LLM(Large Language Model)エージェントは、現実世界のデータサイエンス問題に対処する大きな可能性を示している。
既存のフレームワークは、厳格で、事前定義された、柔軟性のないコーディング戦略に依存している。
適応的で知識のあるLLMエージェントフレームワークであるAutoMindを紹介する。
論文 参考訳(メタデータ) (2025-06-12T17:59:32Z) - ORMind: A Cognitive-Inspired End-to-End Reasoning Framework for Operations Research [56.961539386979354]
ORMindは認知にインスパイアされたフレームワークで、反ファクト推論を通じて最適化を強化する。
提案手法は,要求を数学的モデルや実行可能なコードに変換するエンド・ツー・エンドのワークフローを実装し,人間の認識をエミュレートする。
現在はLenovoのAIアシスタントで内部でテストされており、ビジネスとコンシューマの両方の最適化機能を強化する予定である。
論文 参考訳(メタデータ) (2025-06-02T05:11:21Z) - Crossing the Reward Bridge: Expanding RL with Verifiable Rewards Across Diverse Domains [92.36624674516553]
検証可能な報酬付き強化学習(RLVR)は、大規模言語モデル(LLM)の数学的推論と符号化性能の向上に成功している。
本稿では,医学,化学,心理学,経済学,教育など,さまざまな現実世界領域におけるRLVRの有効性と拡張性について検討する。
我々は,2値検証による制限を克服するために,ソフトなモデルに基づく報酬信号を生成する生成的スコアリング手法を利用する。
論文 参考訳(メタデータ) (2025-03-31T08:22:49Z) - Feature Interaction Aware Automated Data Representation Transformation [27.26916497306978]
我々は,マルコフ決定過程をカスケードした階層的強化学習構造を開発し,特徴選択と操作選択を自動化する。
我々は、選択された特徴間の相互作用強度に基づいてエージェントに報酬を与える。その結果、人間の意思決定をエミュレートする特徴空間をインテリジェントかつ効率的に探索する。
論文 参考訳(メタデータ) (2023-09-29T06:48:16Z) - FAStEN: An Efficient Adaptive Method for Feature Selection and Estimation in High-Dimensional Functional Regressions [7.674715791336311]
本稿では,スパース関数オン・ファンクション回帰問題において特徴選択を行うための,新しい,柔軟な,超効率的なアプローチを提案する。
我々はそれをスカラー・オン・ファンクション・フレームワークに拡張する方法を示す。
AOMIC PIOP1による脳MRIデータへの応用について述べる。
論文 参考訳(メタデータ) (2023-03-26T19:41:17Z) - Automatic Intrinsic Reward Shaping for Exploration in Deep Reinforcement
Learning [55.2080971216584]
本稿では、強化学習(RL)における探索を強化するため、知的かつ適応的に高品質な固有報酬を提供する自動固有リワード整形法を提案する。
我々は,多様な固有報酬手法の効率的かつ信頼性の高い実装を実現するために,固有報酬ツールキットを開発した。
論文 参考訳(メタデータ) (2023-01-26T01:06:46Z) - Learning Task Automata for Reinforcement Learning using Hidden Markov
Models [37.69303106863453]
本稿では,非マルコフ型タスク仕様を簡潔な有限状態タスクオートマトンとして学習するための新しいパイプラインを提案する。
我々は,その製品 MDP を部分的に観測可能な MDP として扱い,よく知られた Baum-Welch アルゴリズムを用いて隠れマルコフモデルを学習することで,仕様のオートマトンと環境の MDP からなるモデルである製品 MDP を学習する。
我々の学習タスクオートマトンはタスクをその構成サブタスクに分解し、RLエージェントが後に最適なポリシーを合成できる速度を改善する。
論文 参考訳(メタデータ) (2022-08-25T02:58:23Z) - Towards Explainable Exploratory Landscape Analysis: Extreme Feature
Selection for Classifying BBOB Functions [4.932130498861987]
驚くほど少数の機能(多くの場合4つ未満)が、98%の精度を達成するのに十分であることを示している。
分類精度は、いくつかのインスタンスがトレーニングやテストに関わっている設定に変換されることを示す。
論文 参考訳(メタデータ) (2021-02-01T10:04:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。