論文の概要: When Does Training on Synthetic Data Provably Work?

• arxiv url: http://arxiv.org/abs/2610.28036v1
• Date: Tue, 20 Oct 2026 11:23:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.780213
• Title: When Does Training on Synthetic Data Provably Work?
• Title（参考訳）: 合成データのトレーニングはいつうまくいくのか?
• Abstract要約: 高品質なトレーニングデータは機械学習の大きなボトルネックであり、人工的に生成されたデータの利用の増加を動機付けている。 合成データ転送を訓練したバイナリ分類器が実分布に到達した場合について検討する。 実験では、制御された低次元設定や、実際のImageNet画像と対比して生成された32,200の画像で確認されている。
• 参考スコア（独自算出の注目度）: 2.8621258182125966
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: High-quality training data are a major bottleneck in machine learning, motivating increasing use of artificially generated data. We study when a binary classifier trained on synthetic data transfers successfully to a real distribution, under a shared conditional label distribution. First, we derive finite-sample excess-error bounds when the real covariate distribution is absolutely continuous with respect to the synthetic distribution under a controlled density ratio. Second, we study the partially and fully singular case, where the real distribution has mass outside the synthetic one. If the hypothesis class is sufficiently expressive, synthetic risk alone cannot uniformly control real-world error: a classifier can be nearly optimal on synthetic data while approaching worst-case error on the uncovered real region, even when the distributions are arbitrarily close in Wasserstein distance. For function classes where hypotheses and the log-odds of the conditional label probability are Lipschitz, we recover a bound in terms of the probability that a real sample lies outside the reach of the synthetic data, restoring a transfer guarantee even in the fully singular case. Experiments confirm this in controlled low-dimensional settings and on 32,200 images generated as counterparts to real ImageNet images by four state-of-the-art generators: an adversarial classifier reaches 0.5% error on the synthetic domain but 99.25% error on the real domain, while ordinarily trained architectures show positively correlated synthetic and real test errors. Synthetic data should be budgeted at high sample counts and models validated on real data.
• Abstract（参考訳）: 高品質なトレーニングデータは機械学習の大きなボトルネックであり、人工的に生成されたデータの利用の増加を動機付けている。 本研究では,共用条件付きラベル分布の下で,合成データ転送を訓練したバイナリ分類器を実分布に成功させる方法について検討する。 まず、実共変量分布が制御密度比の合成分布に対して絶対連続であるとき、有限サンプル超過誤差境界を導出する。 第二に、実分布が合成の外部の質量を持つ部分的かつ完全特異な場合について研究する。 仮説クラスが十分に表現的であれば、合成リスクだけでは実世界の誤差を均一に制御することはできない: 分類器は、ワッサーシュタイン距離において分布が任意に近接している場合でも、未発見領域の最悪のケースエラーに近づきながら、合成データに対してほぼ最適である。 条件付きラベル確率の仮説と対数がリプシッツである関数クラスに対しては、実サンプルが合成データの到達範囲外にある確率の観点から境界を回復し、完全特異な場合においても転移保証を復元する。 実験では、制御された低次元の設定や、4つの最先端のジェネレータによって生成された32,200の画像に対して、逆分類器は合成ドメインでは0.5%の誤差を持つが、実際のドメインでは99.25%の誤差を示す一方、通常訓練されたアーキテクチャでは、正に相関した合成と実のテストエラーを示す。 合成データは、実際のデータで検証された高いサンプル数とモデルで予算化されるべきである。

関連論文リスト

• Synthics: Synthetic Physics-like Datasets for Machine Learning [0.18275108630751835]
  与えられた方程式コーパスから物理方程式に構造的に類似した合成回帰データセットを生成する。 生成された方程式は、研究された8つの構造的特徴の全てでコーパスと一致する。 合成データピックを調整した勾配式回帰器は、実データでは20個中6個目だ。
  論文  参考訳（メタデータ） (2026-06-04T21:20:08Z)
• Towards Generalizable Deepfake Detection via Real Distribution Bias Correction [62.89674593681203]
  本稿では,2つの主要コンポーネントからなるReal Distribution Bias Correction(RDBC)フレームワークを紹介する。 RDBCは、ドメイン内およびクロスドメインのディープフェイク検出の両方で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-03-14T16:11:00Z)
• Beyond Real Data: Synthetic Data through the Lens of Regularization [9.459299281438074]
  合成データは、実際のデータが不足しているときに一般化を改善することができるが、過度な依存は、性能を低下させる分布ミスマッチをもたらす可能性がある。 本稿では,合成データと実データとのトレードオフを定量化する学習理論フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-10-09T11:33:09Z)
• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Maximizing the Potential of Synthetic Data: Insights from Random Matrix Theory [8.713796223707398]
  実データと合成データを混合して学習したバイナリ分類器の性能を,ランダム行列理論を用いて導出する。 本研究は, 生成モデルの品質と検証戦略に焦点をあてて, 合成データにより性能が向上する条件を明らかにした。
  論文  参考訳（メタデータ） (2024-10-11T16:09:27Z)
• From Fake to Real: Pretraining on Balanced Synthetic Images to Prevent Spurious Correlations in Image Recognition [64.59093444558549]
  我々はFrom Fake to Realと呼ぶシンプルで簡単に実装できる2段階のトレーニングパイプラインを提案する。 実データと合成データを別々にトレーニングすることで、FFRは実データと合成データの統計的差異にモデルを公開しない。 実験の結果,FFRは3つのデータセットに対して,最先端のグループ精度を最大20%向上させることがわかった。
  論文  参考訳（メタデータ） (2023-08-08T19:52:28Z)
• DIRL: Domain-Invariant Representation Learning for Sim-to-Real Transfer [2.119586259941664]
  本稿では,ドメイン不変表現学習(DIRL)アルゴリズムを提案する。 桁領域の実験は、挑戦的なベンチマークで最先端のパフォーマンスを得る。
  論文  参考訳（メタデータ） (2020-11-15T17:39:01Z)
• Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
  補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。 テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。 以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-22T21:12:31Z)
• One Step to Efficient Synthetic Data [9.3000873953175]
  合成データに対する一般的なアプローチは、適合したモデルからサンプルをサンプリングすることである。 提案手法は非効率な推定器のサンプルとなり, 関節分布が真の分布と矛盾することを示す。 そこで本研究では,合成データの一般的な生成法を提案する。
  論文  参考訳（メタデータ） (2020-06-03T17:12:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。