論文の概要: Screening Collapse under Recursive Synthetic Data
- arxiv url: http://arxiv.org/abs/2610.15617v1
- Date: Sun, 11 Oct 2026 13:43:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-19 17:34:11.378443
- Title: Screening Collapse under Recursive Synthetic Data
- Title(参考訳): 再帰的合成データによる腐食のスクリーニング
- Abstract要約: 再帰的合成データトレーニングは、適合したモデルを分解することができるが、モデルフィッティングに先行する可変スクリーニングステージへの影響は理解されていない。
世代を重ねると、このターゲットドリフトはアクティブな非アクティブスコアマージンを消去または反転させ、クリーンラベルスクリーニングが保持する変数を破棄する。
固定フレクションのリアルラベル保持はクリーンラベル成分を保持するが、解像度は固定されるが、プールされたターゲットが正のマージンを保持してサンプルが増加すると、データの蓄積はスクリーニング崩壊を回避することができる。
- 参考スコア(独自算出の注目度): 9.508028117278945
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recursive synthetic-data training can degrade a fitted model, but its effects on the variable-screening stage that precedes model fitting are less understood. When each generation labels data for the next, a marginal screener ranks variables against the current pseudo-label target rather than the original response. Across generations, this target drift can erode or reverse the active--inactive score margin and cause screening to discard variables that clean-label screening would retain. We call this process \emph{screening collapse}. In a Gaussian linear model with minimum-norm recursive generators, we establish finite-sample screening bounds, characterize a late-generation information-loss limit, and derive a minimax impossibility result. Screening collapse can precede and compound ordinary model collapse: omitted variables incur a covariance-weighted loss that no refit restricted to the selected variables can eliminate, while recursive labels further degrade estimation on the retained variables. We also examine two approaches to mitigating screening collapse. Fixed-fraction real-label retention preserves a clean-label component but leaves resolution fixed, whereas data accumulation can avoid screening collapse if the pooled target preserves a positive margin and the growing sample resolves it. Numerical experiments on gene-expression data support the theoretical findings.
- Abstract(参考訳): 再帰的合成データトレーニングは、適合したモデルを分解することができるが、モデルフィッティングに先行する可変スクリーニングステージへの影響は理解されていない。
各世代が次の世代にデータをラベル付けすると、境界スクリーニング者は、元の応答ではなく現在の擬似ラベルターゲットに対して変数をランク付けする。
世代を重ねると、このターゲットドリフトはアクティブな非アクティブスコアマージンを消去または反転させ、クリーンラベルスクリーニングが保持する変数を破棄する。
このプロセスは "emph{screening collapse}" と呼ばれます。
最小ノルム再帰生成器を持つガウス線形モデルにおいて、有限サンプルスクリーニング境界を確立し、次世代情報損失限界を特徴付けるとともに、ミニマックス不合理結果を導出する。
排除された変数は、選択された変数に制限されない共分散重み付き損失を引き起こすが、再帰ラベルは保持された変数のさらなる推定を劣化させる。
また,スクリーニング崩壊を緩和するための2つのアプローチについても検討した。
固定屈折実ラベル保持はクリーンラベル成分を保持するが、分解能は固定されるが、プールされたターゲットが正のマージンを保持してサンプルが増加すると、データの蓄積はスクリーニング崩壊を回避することができる。
遺伝子発現データに関する数値実験は理論的な結果を支持する。
関連論文リスト
- Hard, Yet Reducible: Controlled Forward Transfer for Synthetic Degradation Curation [57.17927491453242]
クリーンで劣化した双子は、コンテンツとラベルを共有し、短いトレーニングが劣化に起因する過度なエラーをどれだけ減らすかに基づくスコアを示唆する。
劣化タイプと重大度によって定義される領域に対して,textbf 制御による還元性劣化ギャップ (cRDG) を提案する。
cRDGは、劣化のトレーニングが利用可能な予算の下で高い制御利得をもたらす、修正可能な重大帯域を明らかにする。
論文 参考訳(メタデータ) (2026-10-07T11:07:36Z) - AdaPS-LiNGAM: Adaptive Predecessor Selection for Linear Non-Gaussian Acyclic Models under Small-Sample Settings [2.087552908820655]
利用可能なサンプルサイズが変数の数に対して小さい場合、因果発見は特に困難になる。
DirectLiNGAMは因果順序を推定する。
AdaPS-LiNGAMは、サンプル限定設定で正確な因果構造回復を提供する。
論文 参考訳(メタデータ) (2026-10-07T10:01:25Z) - SynthSentry: Detecting Synthetic Data Contamination in Language Model Training Data [2.998247765202193]
コーパスレベルのモデルに依存しない汚染信号は生成モデルへのアクセスを必要とせず、生成履歴も合成ラベルも不要である。
我々は,小型オープンウェイト発生器が汚染したコーパスと,アウト・ワン・ジェネレータ・アウトプロトコルに基づく命令調整オープンウェイト・モデルについて検討した。
スコアは、ジェネレータファミリー全体が持ち出されるときにほとんど損失のない重大さでコーパスをランク付けする。
論文 参考訳(メタデータ) (2026-09-11T02:25:18Z) - Task Shift: From Classification to Regression in Overparameterized Linear Models [5.030445392527011]
類似したデータ分布の下で、潜伏知識がより困難なタスクに転送される現象について検討する。
分類のための最小ノルム補間器は、事前回帰に転送できないが、驚くほど構造化された減衰を経験し、限られた追加データでタスクシフトを成功させることができることを示した。
以上の結果から,最小ノルム補間器は事前回帰に移行できないが,意外な構造的減衰を経験し,限られたデータでタスクシフトを成功させることができた。
論文 参考訳(メタデータ) (2025-02-18T21:16:01Z) - Pseudo-Labeling for Kernel Ridge Regression under Covariate Shift [1.3597551064547502]
対象分布に対する平均2乗誤差が小さい回帰関数を,ラベルなしデータと異なる特徴分布を持つラベル付きデータに基づいて学習する。
ラベル付きデータを2つのサブセットに分割し、カーネルリッジの回帰処理を行い、候補モデルの集合と計算モデルを得る。
モデル選択に擬似ラベルを用いることで性能を著しく損なうことはないことが判明した。
論文 参考訳(メタデータ) (2023-02-20T18:46:12Z) - Posterior Collapse and Latent Variable Non-identifiability [54.842098835445]
柔軟性を犠牲にすることなく識別性を強制する深層生成モデルである,潜時同定可能な変分オートエンコーダのクラスを提案する。
合成および実データ全体にわたって、潜在識別可能な変分オートエンコーダは、後方崩壊を緩和し、データの有意義な表現を提供する既存の方法より優れている。
論文 参考訳(メタデータ) (2023-01-02T06:16:56Z) - How Does Pseudo-Labeling Affect the Generalization Error of the
Semi-Supervised Gibbs Algorithm? [73.80001705134147]
擬似ラベル付き半教師付き学習(SSL)におけるGibsアルゴリズムによる予測一般化誤差(ゲンエラー)を正確に評価する。
ゲンエラーは、出力仮説、擬ラベルデータセット、ラベル付きデータセットの間の対称性付きKL情報によって表現される。
論文 参考訳(メタデータ) (2022-10-15T04:11:56Z) - Neuro-Symbolic Entropy Regularization [78.16196949641079]
構造化予測では、目的は構造化されたオブジェクトをエンコードする多くの出力変数を共同で予測することである。
エントロピー正則化(Entropy regularization)という1つのアプローチは、決定境界が低確率領域にあるべきであることを示唆している。
我々は、モデルが有効対象を確実に予測することを奨励する損失、ニューロシンボリックエントロピー正規化を提案する。
論文 参考訳(メタデータ) (2022-01-25T06:23:10Z) - Exploiting Sample Uncertainty for Domain Adaptive Person
Re-Identification [137.9939571408506]
各サンプルに割り当てられた擬似ラベルの信頼性を推定・活用し,ノイズラベルの影響を緩和する。
不確実性に基づく最適化は大幅な改善をもたらし、ベンチマークデータセットにおける最先端のパフォーマンスを達成します。
論文 参考訳(メタデータ) (2020-12-16T04:09:04Z) - Weakly-Supervised Cross-Domain Adaptation for Endoscopic Lesions
Segmentation [79.58311369297635]
異なるデータセットにまたがるトランスファー可能なドメイン不変知識を探索できる,新しい弱い教師付き病巣移動フレームワークを提案する。
wasserstein quantified transferability frameworkは、広い範囲の転送可能なコンテキスト依存性を強調するために開発されている。
新規な自己監督型擬似ラベル生成器は、送信困難かつ転送容易なターゲットサンプルの両方に対して、確実な擬似ピクセルラベルを等しく提供するように設計されている。
論文 参考訳(メタデータ) (2020-12-08T02:26:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。