論文の概要: LLMs as Feature Engineers for Text-and-Tabular Prediction

• arxiv url: http://arxiv.org/abs/2609.21894v1
• Date: Fri, 18 Sep 2026 15:22:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:17.16361
• Title: LLMs as Feature Engineers for Text-and-Tabular Prediction
• Title（参考訳）: テキスト・タブラル予測のための機能エンジニアとしてのLCM
• Abstract要約: 本稿では,非構造化テキストから解釈可能なスキーマ境界の分類的特徴を抽出する反復的フレームワークを提案する。 我々は、AUCランキングインバージョンのような明示的なモデルエラーを自然言語フィードバックに変換することで、この探索を最適化する。 このフレームワークは、インスタンスレベルの解釈可能性を保証する。発見された機能はSHAPの重要ランキングを支配し、すべての予測に対して完全に透明でセマンティックな監査証跡を提供する。
• 参考スコア（独自算出の注目度）: 3.7214602588772396
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce an iterative framework that automates the extraction of interpretable, schema-bound categorical features from unstructured text for tabular prediction models. To navigate the feature space, a generator LLM proposes semantic definitions, a separate extractor LLM materializes the features, and a downstream tabular model evaluates their predictive performance. We optimize this search by translating explicit model errors, such as AUC ranking inversions, into natural-language feedback, steering the LLM to resolve specific predictive failures. Evaluated across three public datasets, this error-driven loop accelerates feature discovery by up to $3\times$ compared to unguided search. Empirically, the generated features demonstrate strong multi-view complementarity, strictly outperforming any subset when combined with TF-IDF and dense embeddings. Finally, the framework guarantees instance-level interpretability: the discovered features dominate SHAP importance rankings and provide a fully transparent, semantic audit trail for every prediction.
• Abstract（参考訳）: 本稿では,非構造化テキストから解釈可能な,スキーマ境界の分類的特徴の抽出を自動化し,表形式の予測モデルを構築するための反復的フレームワークを提案する。 特徴空間をナビゲートするために、ジェネレータLLMは意味定義を提案し、分離された抽出器LLMは特徴を具現化し、下流タブモデルはその予測性能を評価する。 我々は、AUCランキングインバージョンのような明示的なモデルエラーを自然言語フィードバックに変換することで、この探索を最適化し、特定の予測失敗を解決するためにLLMを操る。 3つの公開データセットで評価され、このエラー駆動ループは、未案内の検索と比較して、機能発見を最大3\times$で加速する。 経験的に、生成された特徴は強い多視点相補性を示し、TF-IDFや密埋め込みと組み合わせた場合、どの部分集合よりも厳密に優れている。 最後に、このフレームワークはインスタンスレベルの解釈可能性を保証する。発見された機能はSHAPの重要ランクを支配し、すべての予測に対して完全に透明でセマンティックな監査証跡を提供する。

関連論文リスト

• Beyond Isolated Dots: Benchmarking Structured Table Construction as Deep Knowledge Extraction [80.88654868264645]
  Arranged and Organized extract Benchmarkは、断片化された文書を理解するための大規模言語モデルの能力を評価するために設計された。 AOEには3つの異なるドメインにまたがる11のタスクが含まれており、さまざまな入力クエリに適したコンテキスト固有のスキーマを生成するモデルが必要である。 結果は、最も先進的なモデルでさえ、かなり苦労したことを示している。
  論文  参考訳（メタデータ） (2025-07-22T06:37:51Z)
• SCAN: Structured Capability Assessment and Navigation for LLMs [54.54085382131134]
  textbfSCAN (Structured Capability Assessment and Navigation) は、大規模言語モデルの詳細な特徴付けを可能にする実用的なフレームワークである。 SCANには4つの重要なコンポーネントが含まれている。 TaxBuilder – クエリから機能表示タグを抽出して階層的な分類構造を構築する。 RealMixは、各機能タグに対する十分な評価データを保証するクエリ合成とフィルタリングのメカニズムである。 PC$2$ベースのLCM-as-a-Judge法は従来のLCM-as-a-Judge法と比較して大幅に精度が向上する
  論文  参考訳（メタデータ） (2025-05-10T16:52:40Z)
• Latent Factor Models Meets Instructions: Goal-conditioned Latent Factor Discovery without Task Supervision [50.45597801390757]
  Instruct-LFはゴール指向の潜在因子発見システムである。 命令フォロー機能と統計モデルを統合して、ノイズの多いデータセットを処理する。
  論文  参考訳（メタデータ） (2025-02-21T02:03:08Z)
• Idiosyncrasies in Large Language Models [54.26923012617675]
  大規模言語モデル(LLM)における慣用句の公開と研究 LLM生成テキストへの微調整テキスト埋め込みモデルにより,優れた分類精度が得られることがわかった。 我々はLLMを審査員として利用し、各モデルの慣用句の詳細かつオープンな記述を生成する。
  論文  参考訳（メタデータ） (2025-02-17T18:59:02Z)
• The Complexity of Learning Sparse Superposed Features with Feedback [2.4140387101794283]
  モデルの基本となる学習特徴がエージェントからのフィードバックによって効率的に検索できるかどうかを検討する。 スパース設定で特徴行列を学習する際のフィードバックの複雑さを解析する。 この結果は,エージェントがアクティベーションを構築し,スパースシナリオにおいて強い上限を示すことを許された場合に,厳密な境界を確立する。
  論文  参考訳（メタデータ） (2025-02-08T01:54:23Z)
• Exploring Iterative Controllable Summarization with Large Language Models [22.80433394369022]
  大言語モデル(LLM)は抽象的な要約タスクにおいて顕著な性能を示した。 以上の結果から,LLMは言語属性よりも数値属性に苦しむことが明らかとなった。 制御可能な要約のためのガイド・ツー・説明フレームワーク(GTE)を提案する。
  論文  参考訳（メタデータ） (2024-11-19T12:36:02Z)
• Towards LLM-guided Causal Explainability for Black-box Text Classifiers [16.36602400590088]
  我々は,近年の大規模言語モデルにおける命令追従とテキスト理解機能を活用して,因果的説明可能性を高めることを目指している。 提案する3ステップパイプラインは,既製のLCMを用いて,入力テキスト中の潜時的・未観測な特徴を識別する。 我々は,複数のNLPテキスト分類データセットを用いたパイプライン実験を行い,興味深い,有望な結果を示した。
  論文  参考訳（メタデータ） (2023-09-23T11:22:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。