論文の概要: Invent a Dataset: Measuring dataset generation abilities with zero seed
- arxiv url: http://arxiv.org/abs/2610.01674v1
- Date: Thu, 01 Oct 2026 13:32:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:24.150832
- Title: Invent a Dataset: Measuring dataset generation abilities with zero seed
- Title（参考訳）: データセットの発明:ゼロシードでデータセット生成能力を測定する
- Abstract要約: Invent-A-Datasetは、データセット記述から、現実的で大規模なトレーニング後のデータセットに移行するための、プロンプトベースのシステムである。
Anthropic、Google、Open AI、DeepSeek、Zaiを含む5つのフロンティアモデルAPIに対して、Invent-A-Datasetを評価します。
- 参考スコア（独自算出の注目度）: 17.43731047053719
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Building datasets remains one of the most manual and brittle parts of AI development. In this technical report, we focus on the most extreme but also most prevalent setting real world practitioners face: a zero data regime. Here, practitioners don't have any data for the capability they want to learn. We introduce Invent-A-Dataset which is a prompt based system to go from dataset description to realistic and large scale post-training datasets. We evaluate Invent-A-Dataset against five frontier model APIs including Anthropic, Google, Open AI, DeepSeek, Zai. Across eight task types and dataset sizes up to 20K samples, Invent-A-Dataset significantly outperforms with both the highest quality (17% relative gains) while simultaneously producing the most diverse samples (19% relative gains). Its diversity advantage widens with scale of training dataset size (from parity at 200 samples to 37% relative gains at 20K samples). This translates into considerable downstream training gains, resulting in far more performant post-trained models. Invent-A-Dataset fine-tune consistently ranks higher compared to other generator fine-tunes across different post-trained model architectures.
- Abstract（参考訳）: データセットの構築は依然として、AI開発において最も手動で脆弱な部分の1つだ。
この技術的レポートでは、最も極端なが、もっとも一般的な現実の実践者が直面する、ゼロデータ体制に焦点を当てます。
ここでは、実践者は学習したい能力に関するデータを持っていません。
本稿では,データセット記述から,現実的かつ大規模なトレーニング後のデータセットへ移行するプロンプトベースのシステムであるInvent-A-Datasetを紹介する。
Anthropic、Google、Open AI、DeepSeek、Zaiを含む5つのフロンティアモデルAPIに対して、Invent-A-Datasetを評価します。
8つのタスクタイプと最大20Kサンプルのデータセットサイズに対して、Invent-A-Datasetは、最高の品質(17%の相対的なゲイン)と、最も多様なサンプル(19%の相対的なゲイン)を同時に生成しながら、著しくパフォーマンスが向上する。
その多様性のアドバンテージは、トレーニングデータセットサイズ(200サンプルのパリティから20Kサンプルの相対的なゲインまで)の規模で拡大する。
これは、かなり下流のトレーニングゲインに変換され、結果として、トレーニング後のモデルのパフォーマンスが大幅に向上する。
Invent-A-Datasetファインチューンは、訓練後の異なるモデルアーキテクチャにおける他のジェネレータファインチューンよりも一貫して上位にある。
関連論文リスト
- DataClaw0: Agentic Tailoring Multimodal Data from Raw Streams [48.434767119224375]
本稿ではエージェントデータ処理へのパラダイムシフトを提案する。
このような高次の能力をトレーニングする際のデータ不足のボトルネックを克服するために、2段階のパイプラインを設計する。
$textDataClaw_0$-9B モデルは、グループ相対ポリシー最適化によるスーパービジョンファインチューニングをシナジする。
論文 参考訳（メタデータ） (2026-06-19T11:31:43Z) - Learnability-Guided Diffusion for Dataset Distillation [51.56484100374058]
本稿では, 連続的な段階を通して段階的に合成データセットを構成する学習可能性駆動型データセット蒸留法を提案する。
本稿では,学習可能性誘導拡散(LGD)について紹介する。これは,現在のモデルのトレーニングユーティリティと基準モデルの下での妥当性のバランスをとり,カリキュラムに整合したサンプルを生成する。
提案手法は,トレーニング段階間の専門化を促進し,ImageNet-1K (60.1%), ImageNette (87.2%), ImageWoof (72.9%) の最先端結果を実現する。
論文 参考訳（メタデータ） (2026-04-01T06:04:59Z) - Distilling Dataset into Neural Field [12.551430414723086]
本稿では,データセット蒸留のための新しいパラメータ化フレームワークであるDistilling datasetをニューラルネットワーク(DDiF)に生成する手法を提案する。
神経野のユニークな性質のため、DDiFは情報を効果的に保存し、様々な形のデータを容易に生成する。
DDiFは、画像領域を超えて、ビデオ、オーディオ、および3Dボクセルを含む、いくつかのベンチマークデータセットで優れたパフォーマンスを実現することを実証する。
論文 参考訳（メタデータ） (2025-03-05T14:33:29Z) - Retrieval-Augmented Data Augmentation for Low-Resource Domain Tasks [66.87070857705994]
低リソース環境では、データ拡張に使用するシードデータサンプルの量は極めて少ない。
本稿では、他のデータセットから豊富なサンプルを組み込むことで、トレーニングデータを増強する新しい手法を提案する。
このアプローチは、生成されたデータが関連性だけでなく、限られたシードデータだけで達成できるものよりも多様であることを保証する。
論文 参考訳（メタデータ） (2024-02-21T02:45:46Z) - Large-scale Dataset Pruning with Dynamic Uncertainty [28.60845105174658]
画像分類などの多くの学習タスクの最先端技術は、より大きなデータセットを収集して、より大きなモデルをトレーニングすることによって進歩している。
本稿では,大規模データセットの創出方法について検討し,非無視的な性能低下を伴う高度な深層モデルのトレーニングを行うための情報サブセットを作成する。
論文 参考訳（メタデータ） (2023-06-08T13:14:35Z) - Data-Efficient Finetuning Using Cross-Task Nearest Neighbors [75.07773863013001]
我々は、ラベル付きターゲットタスクの例を用いて、プロンプトを付加したマルチタスクデータのプールから、最も類似したラベル付きサンプルを検索する。
マルチタスク近傍におけるファインタニングモデルのアプローチは,データ効率が著しく向上する。
論文 参考訳（メタデータ） (2022-12-01T00:53:04Z) - MSeg: A Composite Dataset for Multi-domain Semantic Segmentation [100.17755160696939]
セマンティックセグメンテーションデータセットを異なるドメインから統合する合成データセットであるMSegを提案する。
一般化と画素レベルのアノテーションのアライメントを調整し,2万枚以上のオブジェクトマスクを8万枚以上の画像で再現する。
MSegでトレーニングされたモデルは、WildDash-v1のリーダーボードで、トレーニング中にWildDashのデータに触れることなく、堅牢なセマンティックセグメンテーションのためにランク付けされている。
論文 参考訳（メタデータ） (2021-12-27T16:16:35Z) - Omni-supervised Facial Expression Recognition via Distilled Data [120.11782405714234]
ネットワークトレーニングにおいて,信頼度の高いサンプルを多量のラベルのないデータで活用するためのオムニ教師付き学習を提案する。
我々は,新しいデータセットが学習したFERモデルの能力を大幅に向上させることができることを実験的に検証した。
そこで本研究では,生成したデータセットを複数のクラスワイド画像に圧縮するために,データセット蒸留戦略を適用することを提案する。
論文 参考訳（メタデータ） (2020-05-18T09:36:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。