論文の概要: Feature Generation Using LLMs: An Evolutionary Algorithm Approach

• arxiv url: http://arxiv.org/abs/2607.16255v1
• Date: Sat, 27 Jun 2026 12:12:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:13.06003
• Title: Feature Generation Using LLMs: An Evolutionary Algorithm Approach
• Title（参考訳）: LLMを用いた特徴生成:進化的アルゴリズムによるアプローチ
• Abstract要約: 大規模言語モデルは、コーディング、数学的推論、世界知識の処理の能力を示している。 私たちは、属性のセットと新機能を生成するプロンプトを取るパイプラインを作成しました。 その結果、ほとんどの場合、言語モデルは数学的および論理的演算子に基づく新しい特徴を生成できることがわかった。
• 参考スコア（独自算出の注目度）: 0.7919810878571298
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A crucial step in machine learning pipelines is to present each entity with features or attributes that are representative of the characteristics of the processed entities. Feature engineering is an important step in finding a relation among attributes that otherwise may not be processed by the ML algorithms. Meanwhile, Large Language Models have shown promising abilities in coding, mathematical reasoning, and processing world knowledge. In this work, we utilize an LLM for the problem of feature generation from tabular data based on the previously given features. We have created a pipeline that takes a set of attributes and a prompt to generate new features. Then, our selection algorithm selects the best-performing sets of attributes. We apply our method to eight datasets from different domains and data types. Our results show that, in most cases, the language model can produce new features based on mathematical and logical operators that are useful for the given tasks and can improve classification results.
• Abstract（参考訳）: 機械学習パイプラインにおける重要なステップは、各エンティティに、処理されたエンティティの特性を表す特徴や属性を提示することである。 機能エンジニアリングは、MLアルゴリズムで処理されない属性間の関係を見つけるための重要なステップである。 一方、大規模言語モデルは、コーディング、数学的推論、世界知識の処理において有望な能力を示している。 本研究では,従来の特徴量に基づく表型データからの特徴量生成問題にLLMを利用する。 私たちは、属性のセットと新機能を生成するプロンプトを取るパイプラインを作成しました。 選択アルゴリズムは, 最適な属性群を選択する。 我々は、異なるドメインとデータタイプから8つのデータセットに適用する。 その結果,ほとんどの場合,言語モデルは与えられたタスクに有用な数学的および論理的演算子に基づく新しい特徴を生成でき,分類結果を改善することができることがわかった。

関連論文リスト

• Memory-Augmented LLM-based Multi-Agent System for Automated Feature Generation on Tabular Data [52.80567461420316]
  メモリ拡張LPMに基づくマルチエージェントシステム(textbfMALMAS)を提案する。 MALMASは生成プロセスを独立した責任を持つエージェントに分解し、ルータエージェントはイテレーション毎にエージェントの適切なサブセットを起動する。 さらに、手続きメモリ、フィードバックメモリ、概念記憶を含むメモリモジュールを統合し、その後の特徴生成を適応的に導く反復的改善を可能にする。
  論文  参考訳（メタデータ） (2026-04-22T07:09:30Z)
• Neuron-Aware Data Selection In Instruction Tuning For Large Language Models [69.08560711834848]
  インストラクションチューニング(IT)は、大規模言語モデル(LLM)の強力な能力を解放するための効果的なアプローチであることが証明されている。 近年の研究では、過剰なITデータがLCMのパフォーマンスを低下させる可能性がある一方で、高品質なITデータの小さなサブセットを慎重に選択することで、その能力を著しく向上させることができることが示されている。 我々はNAITと呼ばれる新しい効率的なフレームワークを提案し、ITデータセットから最も効率的なサブセットデータを特定する。
  論文  参考訳（メタデータ） (2026-03-13T17:39:03Z)
• Tabular Feature Discovery With Reasoning Type Exploration [5.030210915367596]
  大きな言語モデル(LLM)は、その膨大な知識を活用して、新しい機能を自動生成するために使われてきた。 本稿では,複数種類の推論を活かして多種多様な情報的特徴の発見を支援する新しい手法REFeatを提案する。
  論文  参考訳（メタデータ） (2025-06-25T12:18:34Z)
• Re-Initialization Token Learning for Tool-Augmented Large Language Models [49.91503552002649]
  大規模言語モデルは例外的な性能を示してきたが、数値推論や計画生成といった複雑なタスクに苦戦している。 本稿では,ツールトークンを既存の単語埋め込み空間と整合させる新しいトークン学習手法を提案する。 本稿では,GSM8K-XL,FuncQA,KAMEL,VirtualHomeのデータセットを用いて,数値推論,知識に基づく質問応答,具体化計画生成などのタスクについて評価する。
  論文  参考訳（メタデータ） (2025-06-17T07:11:00Z)
• Embedding Domain-Specific Knowledge from LLMs into the Feature Engineering Pipeline [0.0]
  本稿では,Large Language Models (LLMs) を,データセットに知識を加えるための初期機能構築ステップとして用いることを提案する。 その結果、進化はより速く収束し、計算資源を節約できることがわかった。
  論文  参考訳（メタデータ） (2025-03-27T04:48:58Z)
• CASA: Class-Agnostic Shared Attributes in Vision-Language Models for Efficient Incremental Object Detection [30.286598189230396]
  Class-Agnostic Shared Attribute Baseは、インクリメンタルクラス間で共有されるカテゴリに依存しない属性を学ぶことをモデルに推奨する。 その後のタスクでは、保持された属性は凍結され、残りの候補から新しい属性が選択される。 COCOデータセットの実験により,本手法の最先端性能が実証された。
  論文  参考訳（メタデータ） (2024-10-08T08:36:12Z)
• LLM-Select: Feature Selection with Large Language Models [64.5099482021597]
  大規模言語モデル(LLM)は、データサイエンスの標準ツールに匹敵するパフォーマンスで、最も予測可能な機能を選択することができる。 以上の結果から,LSMはトレーニングに最適な機能を選択するだけでなく,そもそもどの機能を収集すべきかを判断する上でも有用である可能性が示唆された。
  論文  参考訳（メタデータ） (2024-07-02T22:23:40Z)
• Learning to Extract Structured Entities Using Language Models [52.281701191329]
  機械学習の最近の進歩は、情報抽出の分野に大きな影響を与えている。 タスクをエンティティ中心にすることで、さまざまなメトリクスの使用を可能にします。 我々は、Structured Entity extractを導入し、Adroximate Entity Set OverlaPメトリックを提案し、この分野にコントリビュートします。
  論文  参考訳（メタデータ） (2024-02-06T22:15:09Z)
• Learning Concise and Descriptive Attributes for Visual Recognition [25.142065847381758]
  数千の属性をクエリすることで、画像機能と競合するパフォーマンスが得られることを示す。 そこで本研究では,これらの属性の簡潔な集合を見つけるための新しい学習・探索手法を提案する。
  論文  参考訳（メタデータ） (2023-08-07T16:00:22Z)
• Large Language Model as Attributed Training Data Generator: A Tale of Diversity and Bias [92.41919689753051]
  大規模言語モデル(LLM)は、最近、様々な自然言語処理(NLP)タスクのためのトレーニングデータジェネレータとして活用されている。 本稿では,多様な属性を持つプロンプトを用いたトレーニングデータ生成について検討する。 属性付きプロンプトは、結果のモデルの性能の観点から、単純なクラス条件プロンプトより優れていることを示す。
  論文  参考訳（メタデータ） (2023-06-28T03:31:31Z)
• Explainable Model-specific Algorithm Selection for Multi-Label Classification [6.442438468509492]
  MLC(Multi-label classification)は、データインスタンスが同時に複数のクラスに属すことができる予測モデリングのMLタスクである。 いくつかのMLCアルゴリズムが文献で提案されており、メタ最適化の問題を引き起こしている。 本研究では,データセットの特性を利用した自動アプローチの品質について検討する。
  論文  参考訳（メタデータ） (2022-11-21T07:42:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。