論文の概要: TopoFE: topology-aware LLM-guided Automated Feature Engineering
- arxiv url: http://arxiv.org/abs/2607.23286v1
- Date: Sat, 25 Jul 2026 16:45:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.049547
- Title: TopoFE: topology-aware LLM-guided Automated Feature Engineering
- Title(参考訳): TopoFE: トポロジーを意識したLLM誘導自動特徴工学
- Authors: Sha Li, Naren Ramakrishnan,
- Abstract要約: TOPOFEは、LLM誘導機能エンジニアリングのためのトポロジーを意識した進化的フレームワークである。
分類タスクと回帰タスクにまたがって、最先端のAutoFEメソッドに対して一貫した改善を示す。
- 参考スコア(独自算出の注目度): 22.323342919724492
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Automatic feature engineering (AutoFE) for tabular learning can be naturally formulated as a program synthesis problem, where the objective is to discover predictive feature transformations from an exponentially large search space. Recent advances in large language models (LLMs) have expanded the expressiveness of AutoFE by enabling feature program generation beyond predefined operator libraries. However, existing LLM-based approaches remain fundamentally limited by stateless generation and homogeneous search: feature proposals are produced from static prompts without accumulating search experience, while single-population exploration quickly converges to dominant transformation patterns and rarely discovers complementary feature compositions across transformation families. We propose TOPOFE, a topology-aware multi-island evolutionary framework for LLM-guided feature engineering. TOPOFE combines family-specialized exploration, adaptive prompt memory, and topology-guided knowledge transfer to efficiently discover diverse and compositional feature programs. Experiments on 29 public tabular datasets demonstrate consistent improvements over state-of-the-art AutoFE methods across classification and regression tasks. Beyond predictive performance, TOPOFE discovers more diverse and transferable feature programs that generalize across multiple downstream predictors and LLM backbones.
- Abstract(参考訳): 表型学習のための自動特徴工学(AutoFE)は、指数的に大きな探索空間から予測的特徴変換を発見することを目的として、プログラム合成問題として自然に定式化することができる。
大規模言語モデル(LLM)の最近の進歩は、事前に定義された演算子ライブラリを超えた機能プログラム生成を可能にすることで、AutoFEの表現力を拡大している。
しかし、既存のLLMベースのアプローチは、ステートレス生成と均質探索によって基本的に制限されている: 特徴提案は、探索経験を蓄積せずに静的プロンプトから生成されるが、単一個体群探索は、すぐに支配的な変換パターンに収束し、変換ファミリ間の相補的特徴合成を発見することは滅多にない。
LLM誘導機能工学のためのトポロジ対応多島進化フレームワークTOPOFEを提案する。
TOPOFEは、多種多様な構成的特徴プログラムを効率的に発見するために、家族特化探索、適応的プロンプトメモリ、トポロジー誘導知識伝達を組み合わせた。
29の公開表データセットに対する実験では、分類と回帰タスクにわたる最先端のAutoFEメソッドに対する一貫した改善が示されている。
予測性能以外にも、TOPOFEは複数の下流予測器とLLMバックボーンにまたがるより多様な、転送可能な機能プログラムを発見する。
関連論文リスト
- Evolutionary Feature Engineering for Structured Data [26.2268110175559]
EFEは、標準化されたFit/transformインターフェイスでPythonプログラムとして変換を表現する。
時系列予測では、EFE-Timeはデータセット固有の正規化を学び、既成の時系列基礎モデルを改善する。
EFE-Tabは、便利な解釈可能な機能を追加し、冗長な機能を除去する、コンパクトな機能プログラムを進化させる。
論文 参考訳(メタデータ) (2026-07-02T00:11:29Z) - Memory-Augmented LLM-based Multi-Agent System for Automated Feature Generation on Tabular Data [52.80567461420316]
メモリ拡張LPMに基づくマルチエージェントシステム(textbfMALMAS)を提案する。
MALMASは生成プロセスを独立した責任を持つエージェントに分解し、ルータエージェントはイテレーション毎にエージェントの適切なサブセットを起動する。
さらに、手続きメモリ、フィードバックメモリ、概念記憶を含むメモリモジュールを統合し、その後の特徴生成を適応的に導く反復的改善を可能にする。
論文 参考訳(メタデータ) (2026-04-22T07:09:30Z) - Poly-EPO: Training Exploratory Reasoning Models [62.82992914206963]
本稿では,学習後言語モデル(LM)の枠組みについて,楽観的な探索を明示的に奨励し,探索と搾取の相乗効果を促進する。
本稿では,この枠組みを探索と利用を明確に相乗化するための目的として,ポリクロミック探索政策最適化(Poly-EPO)を提案する。
論文 参考訳(メタデータ) (2026-04-19T22:54:19Z) - Evolving Demonstration Optimization for Chain-of-Thought Feature Transformation [25.08795071237411]
フィーチャートランスフォーメーション(Feature Transformation)は、機能空間の品質を改善して予測パフォーマンスを向上する、データ中心のAIタスクである。
既存のソリューションは、個別の検索や潜伏生成に依存しているが、サンプルの非効率性、無効な候補、カバー範囲の制限のある冗長な世代によって、しばしば制限される。
閉ループにおける軌道レベルの経験を進化させることにより,LLM駆動型FTの文脈データを最適化するフレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-13T01:12:41Z) - Tabular Feature Discovery With Reasoning Type Exploration [5.030210915367596]
大きな言語モデル(LLM)は、その膨大な知識を活用して、新しい機能を自動生成するために使われてきた。
本稿では,複数種類の推論を活かして多種多様な情報的特徴の発見を支援する新しい手法REFeatを提案する。
論文 参考訳(メタデータ) (2025-06-25T12:18:34Z) - FamilyTool: A Multi-hop Personalized Tool Use Benchmark [93.80355496575281]
FamilyToolは、パーソナライズされたマルチホップツールの使用シナリオをシミュレートする、家族ベースのナレッジグラフ(KG)に基盤を置くベンチマークである。
実験により、最先端の大規模言語モデル(LLM)における顕著な性能ギャップが明らかになった
FamilyToolは、複雑な動的環境において、LLMエージェントの推論、適応性、スケーラビリティを評価し、前進するための重要なリソースとなる。
論文 参考訳(メタデータ) (2025-04-09T10:42:36Z) - LLM-FE: Automated Feature Engineering for Tabular Data with LLMs as Evolutionary Optimizers [10.282327560070202]
大規模言語モデル(LLM)は、機能エンジニアリングプロセスにドメイン知識を統合することを可能にする。
進化的探索とドメイン知識とLLMの推論能力を組み合わせた新しいフレームワーク LLM-FE を提案する。
以上の結果から,LLM-FEは最先端のベースラインを一貫して上回っていることが明らかとなった。
論文 参考訳(メタデータ) (2025-03-18T17:11:24Z) - Complex LLM Planning via Automated Heuristics Discovery [48.07520536415374]
複雑な計画タスクのための大規模言語モデル(LLM)の強化を検討する。
我々は,LLMがガイドタイム検索の関数を明示的に生成できる新しい手法である自動推論発見(AutoHD)を提案する。
提案手法はモデルトレーニングや微調整を必要とせず,LLMが生成する関数の明示的な定義は推論過程の解釈可能性と洞察を与える。
論文 参考訳(メタデータ) (2025-02-26T16:52:31Z) - RA-BLIP: Multimodal Adaptive Retrieval-Augmented Bootstrapping Language-Image Pre-training [55.54020926284334]
近年,MLLM (Multimodal Large Language Models) が注目されている。
検索拡張技術はLLMとMLLMの両方に有効なプラグインであることが証明されている。
本研究では,MLLMの新しい検索支援フレームワークであるRA-BLIP(Retrieval-Augmented Bootstrapping Language-Image Pre-training)を提案する。
論文 参考訳(メタデータ) (2024-10-18T03:45:19Z) - Efficient Feature Transformations for Discriminative and Generative
Continual Learning [98.10425163678082]
継続的学習のための簡易タスク特化機能マップ変換戦略を提案する。
これらは新しいタスクを学習するための強力な柔軟性を提供し、ベースアーキテクチャに最小パラメータを追加することで実現される。
本手法の有効性と効率を,判別(cifar-100およびimagenet-1k)および生成的タスクの一連の実験を用いて実証する。
論文 参考訳(メタデータ) (2021-03-25T01:48:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。