論文の概要: DataFoundry: Evolving Data Preparators via Recursive Self-Improvement
- arxiv url: http://arxiv.org/abs/2608.29966v1
- Date: Sun, 30 Aug 2026 18:53:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.133884
- Title: DataFoundry: Evolving Data Preparators via Recursive Self-Improvement
- Title(参考訳): DataFoundry: 再帰的な自己改善によるデータプレパレータの進化
- Abstract要約: textscDataFoundryは、データプリパレータを進化可能なランタイム仕様として表現し、その進化をtextsc-as-Modulesアーキテクチャでインスタンス化する。
数学,金融学,法学,医学におけるDataPrep-Benchに関するtextscDataFoundryの評価を行った。
- 参考スコア(独自算出の注目度): 34.053745857869636
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Domain adaptation of large language models increasingly depends on constructing high-quality training data, yet existing data-preparation pipelines typically address quality only after generation through post-hoc filtering. This creates a fundamental mismatch: data-quality issues often originate from the construction process itself, while quality control is applied only to its outputs. We introduce \textsc{DataFoundry}, a framework for \textbf{evolving data preparators through recursive self-improvement} before large-scale data production. \textsc{DataFoundry} represents a data preparator as an evolvable runtime specification and instantiates its evolution with a \textsc{Skills-as-Modules} architecture, in which a central \textsc{Controller} orchestrates modular skills to compile executable runtimes, diagnose deficiencies on small pilot sets using domain-appropriate criteria, and translate diagnostic feedback into adapters that revise individual preparation components while preserving stable interfaces. We evaluate \textsc{DataFoundry} on DataPrep-Bench across mathematics, finance, law, and medicine, and find that recursively evolved preparators produce training data with higher downstream utility than baselines. Experiments across different backbones further demonstrate that these improvements are not tied to a particular model, while analyses and case studies further reveal the framework's optimization dynamics and illustrate how its evolution unfolds in practice.
- Abstract(参考訳): 大規模言語モデルのドメイン適応は、高品質なトレーニングデータの構築にますます依存するが、既存のデータ準備パイプラインは通常、ポストホックフィルタリングを通じて生成後にのみ品質に対処する。
データ品質の問題はしばしば構築プロセス自体から発生し、品質管理はその出力にのみ適用される。
大規模なデータ生産の前に、再帰的な自己改善を通じて、データプリパレータを進化させるフレームワークである \textsc{DataFoundry} を紹介する。
このアーキテクチャでは、中央の \textsc{Controller} が実行可能ランタイムをコンパイルするためのモジュラースキルを編成し、ドメイン固有基準を使用して小さなパイロットセットに障害を診断し、診断フィードバックを個々の準備コンポーネントを更新するアダプタに変換する。
数学,金融,法学,医学にまたがってDataPrep-Bench上でのtextsc{DataFoundry}を評価し,再帰的に進化したプレパレータが,ベースラインよりも下流ユーティリティの高いトレーニングデータを生成することを発見した。
異なるバックボーンにわたる実験は、これらの改善が特定のモデルと結びついていないことをさらに示し、分析とケーススタディによりフレームワークの最適化のダイナミクスが明らかになり、その進化が実際にどのように展開されるかが示される。
関連論文リスト
- DataEvolver: Automatic Data Preparation for Large Language Models through Multi-Level Self-Evolving [55.85201665674226]
大規模言語モデル(LLM)には高品質なトレーニングデータが不可欠である
既存の自動データ準備手法は、事前に定義されたパイプラインやカスタマイズされた人間の指示に依存している。
我々は、パイプラインを自動的に構築して、生データを高品質なデータに変換する、最初の自己進化型データ準備システムであるDataEvolverを紹介する。
論文 参考訳(メタデータ) (2026-06-05T07:44:34Z) - Programming with Data: Test-Driven Data Engineering for Self-Improving LLMs from Raw Corpora [33.535457603064906]
本研究では,ソースコーパスから抽出した構造化知識表現が,学習データと評価データの共有基盤となることを示す。
この研究は、人間の専門知識の言語モデルへの信頼性の高い工学の基礎を確立する。
論文 参考訳(メタデータ) (2026-04-27T14:05:18Z) - Tracing the Roots: A Multi-Agent Framework for Uncovering Data Lineage in Post-Training LLMs [81.43302841109349]
学習後のデータは、大規模言語モデル(LLM)の機能を形成する上で重要な役割を果たす
本稿では,データセット開発における進化グラフを再構築する自動マルチエージェントフレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-12T06:24:07Z) - LLM-Enhanced Semantic Data Integration of Electronic Component Qualifications in the Aerospace Domain [4.161364556213409]
本稿では,衛星ボード設計における電子部品の資格データの統合と検索の経験について述べる。
我々は、Virtual Knowledge Graphsを使用して、検索を強化し、データのクリーニングにおける手作業を削減するパイプラインを提案する。
論文 参考訳(メタデータ) (2026-03-20T16:22:06Z) - Agentic Planning with Reasoning for Image Styling via Offline RL [66.10749901925941]
直接的なプロンプトベースの編集は複雑な変換では失敗するが、なぜなら曖昧で主観的なプロンプトは、画像に何を変更するべきかを微妙に理解する必要がしばしばあるからである。
ツールベースのエージェントRLポストトレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-07T11:14:37Z) - Generative Data Transformation: From Mixed to Unified Data [57.84692191369066]
textscTaesarはtextbftarget-textbfal textbfregenerationのためのEmphdata中心のフレームワークである。
ドメイン間のコンテキストを対象のシーケンスにエンコードすることで、複雑な融合アーキテクチャを使わずに、標準的なモデルで複雑な依存関係を学習することができる。
論文 参考訳(メタデータ) (2026-02-26T08:30:09Z) - Data Complexity-aware Deep Model Performance Forecasting [0.5735035463793009]
トレーニング前にモデル性能を推定できる軽量な2段階フレームワークを提案する。
このセットアップにより、フレームワークはデータセットとモデルタイプをまたいで一般化できる。
予測に使用される基礎的な特徴のいくつかは、モデル選択のための実用的なガイダンスを提供することができる。
論文 参考訳(メタデータ) (2026-01-04T05:31:04Z) - OpenDataArena: A Fair and Open Arena for Benchmarking Post-Training Dataset Value [74.80873109856563]
OpenDataArena(ODA)は、トレーニング後のデータの本質的な価値をベンチマークするために設計された、総合的でオープンなプラットフォームである。
ODAは4つの主要な柱からなる包括的なエコシステムを確立している。 (i) 多様なモデル間で公平でオープンな比較を保証する統一的なトレーニング評価パイプライン、 (ii) 異なる軸数に沿ってデータ品質をプロファイリングする多次元スコアリングフレームワーク、 (iii) データセットの系図を視覚化してコンポーネントソースを識別するインタラクティブなデータ系統探索である。
論文 参考訳(メタデータ) (2025-12-16T03:33:24Z) - An Integrated Data Processing Framework for Pretraining Foundation Models [57.47845148721817]
研究者や実践者は、しばしば異なるソースからデータセットを手動でキュレートする必要がある。
本稿では,処理モジュールと解析モジュールを統合したデータ処理フレームワークを提案する。
提案されたフレームワークは使いやすく、柔軟です。
論文 参考訳(メタデータ) (2024-02-26T07:22:51Z) - Faithful Low-Resource Data-to-Text Generation through Cycle Training [14.375070014155817]
近年,構造化データからテキストを生成する手法が大幅に進歩している。
サイクルトレーニングでは、互いに逆転する2つのモデルを使用する。
サイクルトレーニングが完全に教師付きアプローチとほぼ同等のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2023-05-24T06:44:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。