論文の概要: Large Language Models for Missing Data Imputation: Understanding Behavior, Hallucination Effects, and Control Mechanisms
- arxiv url: http://arxiv.org/abs/2603.22332v1
- Date: Fri, 20 Mar 2026 22:32:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-25 19:53:37.070572
- Title: Large Language Models for Missing Data Imputation: Understanding Behavior, Hallucination Effects, and Control Mechanisms
- Title(参考訳): データインプットを欠くための大規模言語モデル:行動・幻覚効果・制御機構の理解
- Authors: Arthur Dantas Mangussi, Ricardo Cardoso Pereira, Ana Carolina Lorena, Pedro Henriques Abreu,
- Abstract要約: 本研究は、ゼロショットプロンプトエンジニアリングアプローチを用いて、データセットにおけるデータ計算の欠如に対するLarge Language Modelsの堅牢性について検討する。
5つのLLMを6つの最先端の計算ベースラインと比較し、最大20%の欠落率で比較した。
その結果、主要なLLM、特にGemini 3.0 FlashとClaude 4.5 Sonnetは、現実世界のオープンソースデータセット上で一貫して優れたパフォーマンスを実現している。
- 参考スコア(独自算出の注目度): 2.852894352141041
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Data imputation is a cornerstone technique for handling missing values in real-world datasets, which are often plagued by missingness. Despite recent progress, prior studies on Large Language Models-based imputation remain limited by scalability challenges, restricted cross-model comparisons, and evaluations conducted on small or domain-specific datasets. Furthermore, heterogeneous experimental protocols and inconsistent treatment of missingness mechanisms (MCAR, MAR, and MNAR) hinder systematic benchmarking across methods. This work investigates the robustness of Large Language Models for missing data imputation in tabular datasets using a zero-shot prompt engineering approach. To this end, we present a comprehensive benchmarking study comparing five widely used LLMs against six state-of-the-art imputation baselines. The experimental design evaluates these methods across 29 datasets (including nine synthetic datasets) under MCAR, MAR, and MNAR mechanisms, with missing rates of up to 20\%. The results demonstrate that leading LLMs, particularly Gemini 3.0 Flash and Claude 4.5 Sonnet, consistently achieve superior performance on real-world open-source datasets compared to traditional methods. However, this advantage appears to be closely tied to the models' prior exposure to domain-specific patterns learned during pre-training on internet-scale corpora. In contrast, on synthetic datasets, traditional methods such as MICE outperform LLMs, suggesting that LLM effectiveness is driven by semantic context rather than purely statistical reconstruction. Furthermore, we identify a clear trade-off: while LLMs excel in imputation quality, they incur significantly higher computational time and monetary costs. Overall, this study provides a large-scale comparative analysis, positioning LLMs as promising semantics-driven imputers for complex tabular data.
- Abstract(参考訳): データ計算は、現実のデータセットで欠落した値を扱うための基礎的なテクニックであり、しばしば欠落によって悩まされる。
近年の進歩にもかかわらず、大規模言語モデルに基づく計算の事前研究は、スケーラビリティの課題、モデル間比較の制限、小規模またはドメイン固有のデータセットで実施された評価によって制限されている。
さらに、不均一な実験プロトコルや、MCAR、MAR、MNARの欠如メカニズムの不整合処理は、メソッド間の系統的なベンチマークを妨げている。
本研究は,ゼロショット・プロンプト・エンジニアリング・アプローチを用いて,表層データセットにおけるデータ計算の欠如に対するLarge Language Modelsのロバスト性について検討する。
そこで本研究では,5つの LLM と6つの最先端計算ベースラインを比較した総合的なベンチマーク研究を提案する。
実験的な設計では、MCAR、MAR、MNARのメカニズムの下で29のデータセット(9つの合成データセットを含む)にまたがってこれらの手法を評価する。
その結果、主要なLLM、特にGemini 3.0 FlashとClaude 4.5 Sonnetは、従来の方法と比較して、現実世界のオープンソースデータセットにおいて一貫して優れたパフォーマンスを実現している。
しかし、この利点は、インターネットスケールコーパスで事前トレーニング中に学んだドメイン固有のパターンに、モデルが事前に露出したことと密接に関連しているように見える。
対照的に、合成データセットでは、MICEなどの従来の手法はLLMよりも優れており、LLMの有効性は純粋に統計的に再構築されるのではなく、意味的な文脈によって駆動されていることを示唆している。
さらに, LLMは計算能力に優れるが, 計算時間と金銭コストは著しく高い。
本研究は,LLMを複雑な表データに対する有望なセマンティクス駆動型インプタとして位置づけ,大規模比較分析を行う。
関連論文リスト
- Data Value in the Age of Scaling: Understanding LLM Scaling Dynamics Under Real-Synthetic Data Mixtures [32.89034139737846]
大規模言語モデル(LLM)は、実データと合成データをブレンドするデータセット上に構築されている。
合成データはスケーラビリティとコスト効率を提供するが、しばしば系統的な分散の相違をもたらす。
本稿では,大規模データセットにスケールする効果的なデータ評価手法を提案する。
論文 参考訳(メタデータ) (2025-11-17T17:53:12Z) - Large Language Models as Universal Predictors? An Empirical Study on Small Tabular Datasets [0.0]
大規模言語モデル(LLM)は、下流タスクを明示的に微調整することなく、構造化された入力に対して予測タスクを実行することができる。
分類,回帰,クラスタリングタスクのための小規模構造化データセット上でのLCMの実証関数近似能力について検討した。
以上の結果から,LLMは構造化データの汎用的予測エンジンとして機能する可能性が示唆された。
論文 参考訳(メタデータ) (2025-08-24T15:00:51Z) - Leveraging Large Language Models to Address Data Scarcity in Machine Learning: Applications in Graphene Synthesis [0.0]
材料科学における機械学習は、限られた実験データのために困難に直面している。
大規模言語モデル(LLM)を用いて機械学習の性能を向上させる戦略を提案する。
論文 参考訳(メタデータ) (2025-03-06T16:04:01Z) - Mitigating Forgetting in LLM Fine-Tuning via Low-Perplexity Token Learning [65.23593936798662]
LLM生成データによる微調整により,目標タスクの性能が向上し,非目標タスクの劣化が低減されることを示す。
微調整後のLSMにおける破滅的忘れを緩和するために、トークンの難易度低減に基づく経験的説明を提供する最初の研究である。
論文 参考訳(メタデータ) (2025-01-24T08:18:56Z) - Dissecting Representation Misalignment in Contrastive Learning via Influence Function [15.28417468377201]
コントラスト損失に対する拡張影響関数 (ECIF) を導入し, コントラスト損失に対する影響関数について検討した。
ECIFは正と負の両方のサンプルを考慮し、対照的な学習モデルの閉形式近似を提供する。
我々はECIFに基づいて,データ評価,誤修正検出,誤予測トレースバックタスクのための一連のアルゴリズムを開発した。
論文 参考訳(メタデータ) (2024-11-18T15:45:41Z) - A Context-Aware Approach for Enhancing Data Imputation with Pre-trained Language Models [0.18416014644193068]
CRILMは、事前訓練された言語モデルを使用して、不足する値に対してコンテキストに関連のある記述子を作成する。
本評価は,MCAR,MAR,MNARシナリオにおけるCRILMの優れた性能とロバスト性を示す。
論文 参考訳(メタデータ) (2024-05-28T00:08:29Z) - Curated LLM: Synergy of LLMs and Data Curation for tabular augmentation in low-data regimes [57.62036621319563]
本稿では,Large Language Models (LLMs) の知識を低データ構造におけるデータ拡張に活用したCLLMを紹介する。
従来のジェネレータと比較して,低データ方式におけるCLLMの優れた性能を示す。
論文 参考訳(メタデータ) (2023-12-19T12:34:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。