論文の概要: SIGMA: SHAP-Guided Implicit-Trajectory Generation for Metadata-Free LLM-Based AutoFE
- arxiv url: http://arxiv.org/abs/2608.17948v1
- Date: Tue, 18 Aug 2026 16:04:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.39681
- Title: SIGMA: SHAP-Guided Implicit-Trajectory Generation for Metadata-Free LLM-Based AutoFE
- Title（参考訳）: SIGMA: メタデータフリーLLMベースオートフェータのためのSHAP誘導インプリシトトラジェクトリ生成
- Abstract要約: メタデータフリーなAutoFEのためのSHAP拡張インプリシトトラジェクトリ生成を提案する。
SIGMAは, ほぼ一定長のSOTA(State-of-the-art)LLMベースラインに匹敵する性能を示す。
- 参考スコア（独自算出の注目度）: 2.153824429735596
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent research has leveraged Large Language Models (LLMs) to enhance Automated Feature Engineering (AutoFE) through semantic descriptions and trajectory-based prompting. However, there exist two challenges that limit their applicability and scalability in long-horizon optimization: (1) semantic metadata is unavailable in many practical settings, and (2) trajectory accumulation increases the risk of exceeding the context window, while without it, the generation process can become unstable, leading to becoming stuck in the local optima and a high duplicate rate of generated features. To this end, we propose a SHAP-enhanced Implicit-trajectory Generation for Metadata-free AutoFE (SIGMA), a scalable constant-context optimization framework. SIGMA leverages SHAP values to provide task-aware signals for guiding group feature generation instead of semantic information. In addition, we adopt an EXposed-feature Implicit Trajectory (EXIT) approach, where the exposed features in the prompt implicitly represent the trajectory. Empirical results demonstrate that SIGMA achieves performance comparable to the state-of-the-art (SOTA) LLM baselines with a nearly constant prompt length. Notably, EXIT significantly reduces the duplicate ratio of generated features from 37.2% to 6.8%. At the same time, SIGMA matches traditional SOTA performance with only 5.4 features on average, demonstrating substantial efficiency gains in feature utilization.
- Abstract（参考訳）: 近年,Large Language Models (LLMs) を利用して,意味記述や軌道に基づくプロンプトを通じて自動特徴工学(AutoFE)を強化している。
しかし,1) セマンティックなメタデータは多くの実践的な設定では利用できないこと,(2) トラジェクトリの蓄積はコンテキストウィンドウを超えるリスクを増大させるが,それなしでは生成プロセスが不安定になり,局所的な最適性に留まり,生成される特徴の重複率が高くなる。
そこで本稿では,スケーラブルな定数コンテキスト最適化フレームワークであるSIGMA(Inmplicit-trajectory Generation for Metadata-free AutoFE)を提案する。
SIGMAはSHAP値を利用して、意味情報の代わりにグループ特徴生成を誘導するタスク認識信号を提供する。
また,EXIT(Exposed-Feature Implicit Trajectory)アプローチを採用する。
実験の結果、SIGMAは、ほぼ一定のプロンプト長を持つ最先端(SOTA)LLMベースラインに匹敵する性能を達成した。
特に、EXITは生成された特徴の重複比率を37.2%から6.8%に大幅に下げる。
同時に、SIGMAは従来のSOTAのパフォーマンスと平均5.4の特徴とを一致させ、機能利用の大幅な効率向上を図っている。
関連論文リスト
- SymboLLM-FE: LLM-Accelerated Symbolic Regression for Automated Feature Engineering on Tabular Data [20.729612895326635]
AutoFE(Automated Feature Engineering)は、機能生成と選択を自動化することでこれを克服する。
大規模言語モデル(LLM)ベースのAutoFEは、高ユーティリティ機能を生成するために、コストのかかる複数ラウンドのイテレーションを必要とする問題に直面している。
特徴工学(SymboLLM-FE)のためのLLMとシンボリックレグレッションを組み合わせてこれらの課題を解決する。
6つの実世界のデータセットと4つのKaggleコンペティションに関する実証的な結果は、SymboLLM-FEが既存のAutoFEを上回っていることを示している。
論文 参考訳（メタデータ） (2026-08-28T14:57:16Z) - From Insight to Action: A Novel Framework for Interpretability-Guided Data Selection in Large Language Models [73.72877445629383]
Interpretability-Guided Data Selection (IGDS) は、まず周波数リコールと干渉フィルタリングによって因果タスクの特徴を識別するフレームワークである。
我々は,数学的推論,要約,翻訳タスクに関するIGDSをGemma-2,LLaMA-3.1,Qwen3モデルで検証する。
論文 参考訳（メタデータ） (2026-04-28T03:16:24Z) - Memory-Augmented LLM-based Multi-Agent System for Automated Feature Generation on Tabular Data [52.80567461420316]
メモリ拡張LPMに基づくマルチエージェントシステム(textbfMALMAS)を提案する。
MALMASは生成プロセスを独立した責任を持つエージェントに分解し、ルータエージェントはイテレーション毎にエージェントの適切なサブセットを起動する。
さらに、手続きメモリ、フィードバックメモリ、概念記憶を含むメモリモジュールを統合し、その後の特徴生成を適応的に導く反復的改善を可能にする。
論文 参考訳（メタデータ） (2026-04-22T07:09:30Z) - NIM4-ASR: Towards Efficient, Robust, and Customizable Real-Time LLM-Based ASR [22.527587147157462]
我々は、効率性とロバスト性の両方に最適化された生産指向LLMベースのASRフレームワークであるNIM4-ASRを提案する。
トレーニング前アーキテクチャと目的を再構築し、モダリティギャップを緩和し、パラメータ効率を向上させる。
さらに、ノイズやサイレントな条件下での堅牢性を含む、生産指向の最適化スイートも組み込んでいます。
論文 参考訳（メタデータ） (2026-04-20T11:21:06Z) - Semantic Trimming and Auxiliary Multi-step Prediction for Generative Recommendation [22.025559532445012]
両端最適化戦略を利用したSTAMP(Semantic Trimming and Auxiliary Multi-step Prediction)を提案する。
パブリックなAmazonおよび大規模産業データセットの実験では、STAMPは1.23--1.38$times$ speedupと17.2%--54.7%のVRAM削減を達成した。
論文 参考訳（メタデータ） (2026-04-07T02:00:23Z) - LLM-MLFFN: Multi-Level Autonomous Driving Behavior Feature Fusion via Large Language Model [8.63792214154021]
本稿では,LLM-MLFFNについて述べる。
提案する LLM-MLFFN フレームワークは,大規模事前学習モデルの事前処理を統合し,分類精度を高めるためにマルチレベルアプローチを採用する。
オープントラジェクトリデータセットの評価は、提案したLLM-MLFFNの優れた性能を示し、分類精度は94%以上である。
論文 参考訳（メタデータ） (2026-03-03T02:26:04Z) - AceGRPO: Adaptive Curriculum Enhanced Group Relative Policy Optimization for Autonomous Machine Learning Engineering [52.67783579040657]
AceGRPOは、エージェントの学習フロンティアにおけるタスクを優先順位付けして学習効率を最大化する機械学習システムである。
我々のトレーニングされたAce-30Bモデルは、MLE-Bench-Lite上で100%有効な応募率を実現し、プロプライエタリなフロンティアモデルの性能にアプローチし、より大きなオープンソースベースラインを上回ります。
論文 参考訳（メタデータ） (2026-02-08T10:55:03Z) - RAPO++: Cross-Stage Prompt Optimization for Text-to-Video Generation via Data Alignment and Test-Time Scaling [59.088798018184235]
textbfRAPO++は、クロスプラットフォームのプロンプト最適化フレームワークである。
トレーニングデータの整合性向上、テスト時の反復スケーリング、大規模言語モデルの微調整を統一する。
RAPO++は意味的アライメント、構成的推論、時間的安定性、物理的妥当性において大きな進歩を遂げている。
論文 参考訳（メタデータ） (2025-10-23T04:45:09Z) - Fun-ASR Technical Report [89.84148151617022]
本稿では,大規模データ,大規模モデル容量,LLM統合,強化学習を組み合わせた大規模ALSシステムFun-ASRを提案する。
Fun-ASRは特に実用的なデプロイメントに最適化されており、ストリーミング機能、ノイズの堅牢性、コードスイッチング、ホットワードのカスタマイズ、その他の現実世界のアプリケーション要件を満たすことができる。
運用指向の最適化により、Fun-ASRは実際のアプリケーションデータセット上での最先端のパフォーマンスを実現し、実用的設定におけるその有効性と堅牢性を示す。
論文 参考訳（メタデータ） (2025-09-15T23:19:36Z) - Joint Learning using Mixture-of-Expert-Based Representation for Enhanced Speech Generation and Robust Emotion Recognition [54.44798086835314]
音声感情認識(SER)は感情認識音声システム構築において重要な役割を担っているが,その性能は雑音下で著しく低下する。
本稿では, フレームワイド・エキスパート・ルーティングを自己教師付き音声表現に応用した, フレキシブルMTLフレームワークSparse Mixture-of-Experts Representation Integration Technique (Sparse MERIT)を提案する。
MSP-Podcastコーパスの実験では、Sparse MERITはSERとSEの両方のタスクのベースラインモデルより一貫して優れていた。
論文 参考訳（メタデータ） (2025-09-10T10:18:56Z) - Iterative Augmentation with Summarization Refinement (IASR) Evaluation for Unstructured Survey data Modeling and Analysis [0.43988112145759295]
本研究は,大規模言語モデル(LLM)に基づくテキスト拡張のための原則的評価フレームワークを導入する。
実証評価の結果, GPT-3.5 Turbo はセマンティック忠実度, 多様性, 生成効率の最良のバランスを達成できた。
論文 参考訳（メタデータ） (2025-07-16T10:49:30Z) - Sculpting Features from Noise: Reward-Guided Hierarchical Diffusion for Task-Optimal Feature Transformation [18.670626228472877]
DIFFTは報酬誘導型生成タスクとしてフィーチャートランスフォーメーションを再定義する。
構造的かつ離散的な特徴を生成し、機能内依存関係を保持しながら、並列な機能間生成を可能にする。
予測精度とロバスト性において、最先端のベースラインを一貫して上回り、トレーニングや推論時間を大幅に低下させる。
論文 参考訳（メタデータ） (2025-05-21T06:18:42Z) - Score-based Generative Modeling in Latent Space [93.8985523558869]
スコアベース生成モデル(SGM)は,最近,サンプル品質と分布範囲の両面で顕著な結果を示した。
本稿では,Latent Score-based Generative Model (LSGM)を提案する。
データから潜在空間への移動により、より表現力のある生成モデルをトレーニングし、非連続データにSGMを適用し、よりスムーズなSGMをより小さな空間で学習することができる。
論文 参考訳（メタデータ） (2021-06-10T17:26:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。