論文の概要: SymboLLM-FE: LLM-Accelerated Symbolic Regression for Automated Feature Engineering on Tabular Data

• arxiv url: http://arxiv.org/abs/2608.28408v1
• Date: Fri, 28 Aug 2026 14:57:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-31 17:16:04.374359
• Title: SymboLLM-FE: LLM-Accelerated Symbolic Regression for Automated Feature Engineering on Tabular Data
• Title（参考訳）: SymboLLM-FE: タブラルデータを用いた自動特徴工学のためのLLM加速記号回帰
• Abstract要約: AutoFE(Automated Feature Engineering)は、機能生成と選択を自動化することでこれを克服する。 大規模言語モデル(LLM)ベースのAutoFEは、高ユーティリティ機能を生成するために、コストのかかる複数ラウンドのイテレーションを必要とする問題に直面している。 特徴工学(SymboLLM-FE)のためのLLMとシンボリックレグレッションを組み合わせてこれらの課題を解決する。 6つの実世界のデータセットと4つのKaggleコンペティションに関する実証的な結果は、SymboLLM-FEが既存のAutoFEを上回っていることを示している。
• 参考スコア（独自算出の注目度）: 20.729612895326635
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Tabular data, as a core data format in machine learning, often lacks the discriminative power needed for high-performance modeling due to insufficient feature informativeness. Automated Feature Engineering (AutoFE) overcomes this by automating feature generation and selection, ensuring both model performance and operational efficiency. However, traditional AutoFE often yield features with poor interpretability because they rely on blind mathematical transformations, while large language models (LLM)-based AutoFE faces challenges in requiring costly multi-round iterations to generate high-utility features to effectively enhance model performance, compounded by inherent risks of bias and hallucination. In this paper, we combine symbolic regression with LLMs for feature engineering (SymboLLM-FE) to solve these challenges. We extract mathematically expressive formulas strongly correlated with the target via symbolic regression, which can enhance model performance, then refine them by LLMs with rich prior knowledge to ensure interpretability. Empirical results on six real-world datasets and four Kaggle competitions demonstrate that SymboLLM-FE outperforms existing AutoFE. SymboLLM-FE also addresses the dual challenges of poor interpretability and numerous iterations by employing a statistical prior-grounded LLM refinement mechanism and single-digit LLM calls.
• Abstract（参考訳）: 機械学習のコアデータ形式であるタブラルデータは、機能情報不足のため、高性能なモデリングに必要な識別能力に欠けることが多い。 AutoFE(Automated Feature Engineering)は、機能生成と選択を自動化し、モデルパフォーマンスと運用効率の両方を保証することで、これを克服する。 大規模な言語モデル(LLM)ベースのAutoFEは、バイアスや幻覚の固有のリスクを伴ってモデルパフォーマンスを効果的に向上するために、高ユーティリティ機能を生成するために、コストのかかる複数ラウンドのイテレーションを必要とする問題に直面している。 本稿では,これらの課題を解決するために,シンボルレグレッションとLLMを組み合わせて特徴工学(SymboLLM-FE)を提案する。 モデル性能を向上し, 解釈可能性を確保するために, 事前知識の豊富な LLM を用いて, 数学的に表現可能な式を抽出する。 6つの実世界のデータセットと4つのKaggleコンペティションに関する実証的な結果は、SymboLLM-FEが既存のAutoFEを上回っていることを示している。 また、SyboLLM-FEは、統計的プリグラウンドのLLMリファインメント機構とシングル桁のLLMコールを用いることで、解釈可能性の低下と多数のイテレーションの2つの課題にも対処している。

関連論文リスト

• SAGE-Loop: Reliable Closed-Loop LLM-Driven AutoML with Trial-and-Correction and Adaptive Ensembling [16.060479017627724]
  SAGE-Loopは、信頼できるクローズドループ、自己適応型、LLM駆動のAutoMLフレームワークである。 マルチラウンド生成と試行錯誤の検証を行い、教師なしタスクと教師なしタスクの両方でアンサンブル戦略を適応的に選択する。 20のパブリックデータセットに対して、SAGE-Loopは一貫して、分類、回帰、クラスタリングタスクのパフォーマンスと安定性を改善している。
  論文  参考訳（メタデータ） (2026-09-11T05:23:04Z)
• SIGMA: SHAP-Guided Implicit-Trajectory Generation for Metadata-Free LLM-Based AutoFE [2.153824429735596]
  メタデータフリーなAutoFEのためのSHAP拡張インプリシトトラジェクトリ生成を提案する。 SIGMAは, ほぼ一定長のSOTA(State-of-the-art)LLMベースラインに匹敵する性能を示す。
  論文  参考訳（メタデータ） (2026-08-18T16:04:18Z)
• LLM-MLFFN: Multi-Level Autonomous Driving Behavior Feature Fusion via Large Language Model [8.63792214154021]
  本稿では,LLM-MLFFNについて述べる。 提案する LLM-MLFFN フレームワークは,大規模事前学習モデルの事前処理を統合し,分類精度を高めるためにマルチレベルアプローチを採用する。 オープントラジェクトリデータセットの評価は、提案したLLM-MLFFNの優れた性能を示し、分類精度は94%以上である。
  論文  参考訳（メタデータ） (2026-03-03T02:26:04Z)
• Training-free Uncertainty Guidance for Complex Visual Tasks with MLLMs [61.64185573373394]
  本稿では,MLLMの本質的不確かさをプロアクティブ誘導信号として用いた学習自由フレームワークを提案する。 応答不確実性によって候補の視覚入力をスコアする統一的なメカニズムを導入し、モデルが最も健全なデータに自律的にフォーカスできるようにする。 本研究は,本質的な不確実性を活用することが,細粒度マルチモーダル性能を高めるための強力で汎用的な戦略であることを実証する。
  論文  参考訳（メタデータ） (2025-10-01T09:20:51Z)
• LLM-FE: Automated Feature Engineering for Tabular Data with LLMs as Evolutionary Optimizers [10.282327560070202]
  大規模言語モデル(LLM)は、機能エンジニアリングプロセスにドメイン知識を統合することを可能にする。 進化的探索とドメイン知識とLLMの推論能力を組み合わせた新しいフレームワーク LLM-FE を提案する。 以上の結果から,LLM-FEは最先端のベースラインを一貫して上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2025-03-18T17:11:24Z)
• SAE-V: Interpreting Multimodal Models for Enhanced Alignment [7.374787098456952]
  本稿では,SAEパラダイムをマルチモーダルな言語モデルに拡張する機械的解釈可能性フレームワークであるSAE-Vを紹介する。 SAE-Vは、追加のモデルを必要としないモデルアライメントを強化するために、本質的なデータフィルタリングメカニズムを提供する。 本研究は,SAE-VがMLLMの解釈性とアライメントを向上し,その内部機構に関する知見を提供するものである。
  論文  参考訳（メタデータ） (2025-02-22T14:20:07Z)
• R-MTLLMF: Resilient Multi-Task Large Language Model Fusion at the Wireless Edge [78.26352952957909]
  マルチタスク大言語モデル(MTLLM)は、ユーザが複数のタスクを効率的に処理するための特殊なモデルを要求する無線エッジにおける多くのアプリケーションにとって重要である。 タスクベクトルによるモデル融合の概念は、MDLLMを生成するための微調整パラメータを組み合わせるための効率的なアプローチとして登場した。 本稿では,最悪の逆攻撃を前提として,エッジユーザがタスクベクトルを介して協調的にMTLMを作成できる問題について検討する。
  論文  参考訳（メタデータ） (2024-11-27T10:57:06Z)
• Forewarned is Forearmed: Leveraging LLMs for Data Synthesis through Failure-Inducing Exploration [90.41908331897639]
  大規模言語モデル(LLM)は、多種多様な高品質なタスク特化データのトレーニングの恩恵を受けている。 本稿では,効果的なトレーニングサンプルを自動生成する新しい手法であるReverseGenを提案する。
  論文  参考訳（メタデータ） (2024-10-22T06:43:28Z)
• Unveiling the Flaws: Exploring Imperfections in Synthetic Data and Mitigation Strategies for Large Language Models [89.88010750772413]
  大規模言語モデル(LLM)の学習における高品質なデータ不足問題に対する解決法として,合成データを提案する。 我々の研究は、Q-A(Q-A)ペア、一般的な合成データに関連するこれらの特定の欠陥を掘り下げ、これらの欠陥を軽減するための未学習技術に基づく方法を提案する。 我々の研究は、より堅牢で効率的なLLMトレーニングを促進することを目的として、合成データの効果的な利用に関する重要な洞察を得た。
  論文  参考訳（メタデータ） (2024-06-18T08:38:59Z)
• Simultaneous Machine Translation with Large Language Models [51.470478122113356]
  我々は,SimulMTタスクに大規模言語モデルを適用する可能性を検討する。 MUST-Cデータセットと異なる9言語でtextttLlama2-7b-chatモデルを用いて実験を行った。 その結果,LLM は BLEU と LAAL の指標で専用MT モデルよりも優れていた。
  論文  参考訳（メタデータ） (2023-09-13T04:06:47Z)
• Optimization-driven Machine Learning for Intelligent Reflecting Surfaces Assisted Wireless Networks [82.33619654835348]
  インテリジェントサーフェス(IRS)は、個々の散乱素子の位相シフトを制御して無線チャネルを再形成するために用いられる。 散乱素子の規模が大きいため、受動ビームフォーミングは一般に高い計算複雑性によって挑戦される。 本稿では、IRS支援無線ネットワークの性能向上のための機械学習(ML)アプローチに焦点を当てる。
  論文  参考訳（メタデータ） (2020-08-29T08:39:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。