論文の概要: DataClaw0: Agentic Tailoring Multimodal Data from Raw Streams
- arxiv url: http://arxiv.org/abs/2606.21337v1
- Date: Fri, 19 Jun 2026 11:31:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 14:19:01.686175
- Title: DataClaw0: Agentic Tailoring Multimodal Data from Raw Streams
- Title(参考訳): DataClaw0: 生ストリームからマルチモーダルデータを取得するエージェント
- Authors: Cong Wan, Zeyu Guo, Zijian Cai, Jiangyang Li, SongLin Dong, Lin Peng, Xiangyang Luo, Zhiheng Ma, Yihong Gong,
- Abstract要約: 本稿ではエージェントデータ処理へのパラダイムシフトを提案する。
このような高次の能力をトレーニングする際のデータ不足のボトルネックを克服するために、2段階のパイプラインを設計する。
$textDataClaw_0$-9B モデルは、グループ相対ポリシー最適化によるスーパービジョンファインチューニングをシナジする。
- 参考スコア(独自算出の注目度): 48.434767119224375
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Massive unstructured multimodal streams suffer from high "data entropy," impeding both efficient human knowledge acquisition and high-quality AI post-training. Existing passive annotation paradigms, heavily reliant on heuristic rules or general VLMs, are costly, monotonous, and fail to unlock the deep procedural logic embedded in raw data. We elevate data processing to a learnable capability, proposing a paradigm shift towards Agentic Data Tailoring, which actively refining and structuring data to align with diverse user and downstream intents. To overcome the data scarcity bottleneck in training such high-order capabilities, we design a two-stage pipeline grounding generative semantic synthesis in deterministic Factual Anchors, yielding a large-scale dataset spanning five core physical and digital domains. Building upon this, $\text{DataClaw}_0$-9B model synergizes Supervised Fine-Tuning (SFT) with Group Relative Policy Optimization (GRPO), achieving robust alignment with complex refinement and tailoring intents. To systematically quantify this capability, we construct $\text{DataClaw}_0$-val, the first benchmark dedicated to data refinement. Crucially, we adopt downstream post-training as the ultimate validation touchstone. Evaluations on video generation, real-world VQA, and GUI navigation confirm that $\text{DataClaw}_0$ delivers high-information-density tailored data, facilitating efficient model adaptation to new tasks under limited training data regimes. Project page: https://czjdsg.github.io/MakeAnyData
- Abstract(参考訳): 大規模な非構造化マルチモーダルストリームは、効率的な人間の知識獲得と高品質なAIポストトレーニングの両方を妨げる、高い“データエントロピー”に悩まされている。
既存のパッシブなアノテーションパラダイムは、ヒューリスティックなルールや一般的なVLMに大きく依存しており、コストが高く、単調であり、生データに埋め込まれた深い手続き論理を解き放たない。
我々は、データ処理を学習可能な能力に引き上げ、Agentic Data Tailoringへのパラダイムシフトを提案し、多様なユーザや下流の意図に合わせてデータを精錬し、構造化する。
このような高次能力の訓練におけるデータ不足のボトルネックを克服するため、決定論的Factual Anchorsにおける生成的セマンティックシンセシスを基盤とした2段階パイプラインを設計し、5つの物理およびデジタルドメインにまたがる大規模なデータセットを生成する。
これに基づいて、$\text{DataClaw}_0$-9Bモデルは、グループ相対ポリシー最適化(GRPO)とスーパービジョンファインチューニング(SFT)を相乗し、複雑な洗練と調整意図との堅牢な整合を達成する。
この能力を体系的に定量化するために、データリファインメントに特化した最初のベンチマークである$\text{DataClaw}_0$-valを構築します。
重要なこととして、私たちは下流のポストトレーニングを究極の検証の要点として採用しています。
ビデオ生成、実世界のVQA、GUIナビゲーションの評価は、$\text{DataClaw}_0$が高情報密度のカスタマイズされたデータを提供し、限られたトレーニングデータ体制の下で新しいタスクへの効率的なモデル適応を容易にすることを確認している。
プロジェクトページ: https://czjdsg.github.io/MakeAnyData
関連論文リスト
- DataEvolver: Automatic Data Preparation for Large Language Models through Multi-Level Self-Evolving [55.85201665674226]
大規模言語モデル(LLM)には高品質なトレーニングデータが不可欠である
既存の自動データ準備手法は、事前に定義されたパイプラインやカスタマイズされた人間の指示に依存している。
我々は、パイプラインを自動的に構築して、生データを高品質なデータに変換する、最初の自己進化型データ準備システムであるDataEvolverを紹介する。
論文 参考訳(メタデータ) (2026-06-05T07:44:34Z) - Studying the Role of Synthetic Data for Machine Learning-based Wireless Networks Traffic Forecasting [1.1699027359021665]
本稿では,大規模Wi-Fi展開のための一階自動回帰雑音統計量に基づく合成データ生成手法を提案する。
実験結果から, 実データを用いて得られた10~15項目のうち, 平均絶対誤差(MAE)値が得られた。
一般化が必要な場合、合成データ学習モデルは、実データ学習ベースラインと比較して、予測精度を最大50%向上させる。
論文 参考訳(メタデータ) (2026-01-12T15:27:55Z) - Meta-Learning and Synthetic Data for Automated Pretraining and Finetuning [2.657867981416885]
機械学習(ML)における事前訓練モデルの増加は、実践者にとって大きな課題となる。
モデルがスケールするにつれて、実世界のデータへの依存度の増加は、トレーニングのボトルネックとなり、より効率的にデータを活用する必要がある。
この論文はメタラーニングを採用し、機械学習をディープラーニング領域に拡張する。
論文 参考訳(メタデータ) (2025-06-11T12:48:45Z) - Scaling Laws of Synthetic Data for Language Models [125.41600201811417]
プレトレーニングコーパスを多種多様な高品質な合成データセットに変換するスケーラブルなフレームワークであるSynthLLMを紹介した。
提案手法は,グラフアルゴリズムを用いて複数の文書にまたがるハイレベルな概念を自動的に抽出し,再結合することで実現している。
論文 参考訳(メタデータ) (2025-03-25T11:07:12Z) - Generative Expansion of Small Datasets: An Expansive Graph Approach [13.053285552524052]
最小限のサンプルから大規模で情報豊富なデータセットを生成する拡張合成モデルを提案する。
自己アテンション層と最適なトランスポートを持つオートエンコーダは、分散一貫性を洗練させる。
結果は同等のパフォーマンスを示し、モデルがトレーニングデータを効果的に増強する可能性を示している。
論文 参考訳(メタデータ) (2024-06-25T02:59:02Z) - Scalable Modular Synthetic Data Generation for Advancing Aerial Autonomy [2.9005223064604078]
本稿では,自律飛行に適したスケーラブルなAerial Synthetic Data Augmentation (ASDA) フレームワークを提案する。
ASDAは、シーンとデータ拡張を自動的に実行する2つのスクリプト可能なパイプラインを備えた中央データ収集エンジンを拡張している。
多様なデータセットを自動生成する手法の有効性を実証する。
論文 参考訳(メタデータ) (2022-11-10T04:37:41Z) - TRoVE: Transforming Road Scene Datasets into Photorealistic Virtual
Environments [84.6017003787244]
本研究では、シミュレーションデータセットに存在する困難とドメインギャップに対処する合成データ生成パイプラインを提案する。
既存のデータセットからアノテーションや視覚的手がかりを利用すれば、自動マルチモーダルデータ生成が容易になることを示す。
論文 参考訳(メタデータ) (2022-08-16T20:46:08Z) - Infinite Recommendation Networks: A Data-Centric Approach [8.044430277912936]
Neural Tangent Kernelを活用して、無限大のニューラルネットワークをトレーニングし、無限大のボトルネック層を持つオートエンコーダであるinfty$-AEを考案します。
また、小型で高忠実なデータ要約を合成するためのDistill-CFを開発した。
我々は、最初のデータセットサイズの0.1%に満たない完全なデータセット上で、infty$-AEのパフォーマンスの96-105%を観察した。
論文 参考訳(メタデータ) (2022-06-03T00:34:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。