論文の概要: Robust-by-Design Distributional Learning from Contaminated Samples
- arxiv url: http://arxiv.org/abs/2610.40884v1
- Date: Thu, 29 Oct 2026 19:05:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.474925
- Title: Robust-by-Design Distributional Learning from Contaminated Samples
- Title(参考訳): 汚染サンプルからのロバスト・バイ・デザイン分散学習
- Abstract要約: クリーン・リファレンス・サンプルとプール・サンプルを比較した際,教師なし・教師なしの学習について検討した。
汚染補正された最大平均誤差(CC-MMD)を提案する。
プロキシスコアと監査された残留補正を組み合わせて、潜伏したクリーンサンプルから計算されたであろうオラクルMDDを復元する。
- 参考スコア(独自算出の注目度): 2.1843439591862333
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern data analysis pipelines increasingly rely on large datasets assembled through retrieval, scraping, automated filtering, and post-hoc curation, where the observed sample is often a contaminated mixture rather than the target population. Standard distributional objectives either ignore contamination and converge to the wrong target, or retain only a small trusted subset and discard most of the data. We study supervised and unsupervised learning when a clean reference sample is compared with a pooled sample from $r=(1-ε)q+εz$, where $q$ is the latent target distribution and $z$ is an unknown contaminant. Motivated by settings with noisy membership scores for all observations and exact labels for a small audited subset, we propose contamination-corrected maximum mean discrepancy (CC-MMD), a design-based estimator that combines proxy scores with audited residual corrections to recover the oracle MMD that would have been computed from the latent clean sample. CC-MMD requires no calibration assumption on the proxy scores and no structural assumptions on the contaminant beyond standard kernel regularity. We prove finite-population design-unbiasedness of the corrected kernel sums, establish asymptotic normality of the audit correction, and show consistency for the target discrepancy $\mathrm{MMD}^2(p,q;k)$. Empirically, CC-MMD tracks the oracle under increasing contamination, improves parameter recovery and prediction in contaminated regression, and enables generative models trained on heavily corrupted mixtures to recover the clean target distribution. These results show that contaminated data need not be discarded or treated as the estimand. With sparse trusted labels and abundant noisy supervision, distributional objectives can be made robust by design.
- Abstract(参考訳): 現代のデータ分析パイプラインは、検索、スクラップ、自動フィルタリング、およびポストホックキュレーションを通じて集められた大規模なデータセットにますます依存している。
標準的な分散目的は汚染を無視し、間違ったターゲットに収束するか、小さな信頼されたサブセットだけを保持して、データの大半を破棄する。
クリーン参照サンプルを$r=(1-ε)q+εz$のプールサンプルと比較した場合,$q$が潜在対象分布,$z$が未知の汚染物質である場合,教師付き学習および教師なし学習について検討する。
本研究は,全ての観測値にノイズのあるメンバーシップスコアと,小さな検査済みサブセットに正確なラベルを付与した設定により,評価値と評価残差を組み合わせ,潜伏したクリーンサンプルから計算されたであろうオラクルMDを復元する設計ベースの推定器である,汚染補正された最大平均誤差 (CC-MMD) を提案する。
CC-MMDはプロキシスコアのキャリブレーションの仮定を必要とせず、標準カーネルの正則性を超えて汚染物質の構造的な仮定も必要としない。
補正されたカーネル和の有限集団設計不偏性を証明し、監査補正の漸近正規性を確立し、目標離散性$\mathrm{MMD}^2(p,q;k)$に対して整合性を示す。
実証的に、CC-MMDは汚染の増加の下でオラクルを追跡し、汚染された回帰のパラメータ回復と予測を改善し、重く劣化した混合物で訓練された生成モデルにより、クリーンなターゲット分布を復元することができる。
これらの結果から, 汚染データを捨てたり, 処理を見積もる必要はないことが示唆された。
信頼性の低いラベルと豊富なノイズ管理により、分散目的を設計によって堅牢にすることができる。
関連論文リスト
- Asymptotically Exact Negative Guidance of Diffusion Models via Positive-Unlabeled Learning [51.56484100374058]
拡散モデルの負のガイダンスは、参照サンプルまたは条件スコアによって規定された望ましくない条件を避けるサンプルを生成する。
本稿では, 基準サンプルとスコアベース仕様の両方を均一に扱い, 対象密度自体をパラメトリズする回避強度で, 望ましくない条件付近の確率質量を抑える。
論文 参考訳(メタデータ) (2026-10-14T08:45:27Z) - Wasserstein Filtering: A Sample Selection Method for Robust Distribution Learning [4.341190001906841]
Wasserstein Filtering(WF)は、不審なサンプルの一部を破棄し、ターゲット分布を推定する新しいサンプル選択フレームワークである。
WFは、非常に実用的で、モデルに依存しない事前処理ツールとして機能する。
競争力のある外れ値検出性能を提供し、重汚染下での生成モデルにかなりのダウンストリームの利点を提供する。
論文 参考訳(メタデータ) (2026-08-13T16:12:28Z) - Bias-corrected Cox regression with AI-extracted covariates via calibration summary statistics [0.7783842564949857]
我々は、Cox比例ハザードモデルのためのバイアス補正フレームワークを開発する。
単純コックス推定器の偏差は, 先行検定項と2次残差に分解されることを示す。
校正の不確かさと感度診断を取り入れたバイアス調整された信頼区間を導出する。
論文 参考訳(メタデータ) (2026-07-28T15:35:52Z) - Uncertainty-based Debiasing and Unlearning for Decontamination [12.593872705071114]
不確実性に基づく除染(UBD)は、汚染されたモデルやサンプルが汚染された知識を必要とせず、サンプルごとの記憶を推定する。
UBDは、パラフレーズや選択置換ベースラインよりも、汚染されていないモデルの出力分布にかなり近いサンプル単位の出力分布を生成する。
論文 参考訳(メタデータ) (2026-06-22T13:26:29Z) - Neural Conjugate Aggregation: Identifiable Unsupervised Multi-Sensor Regression under Heterogeneous Sensor Bias [0.0]
本研究では,不確実性下での回帰に基づくデータ融合について検討する。
この設定は、センサーネットワーク、シミュレーションアンサンブル、そして監視が費用がかかるか不可能である科学的な監視システムで発生する。
本稿では,ニューラルネットワークと共役ガウス推論を組み合わせた階層型ベイズフレームワークであるニューラル共役凝集モデル(NCAM)を提案する。
論文 参考訳(メタデータ) (2026-06-20T19:30:21Z) - Distributionally Robust Transfer Learning with Structurally Missing Covariates, with Application to Cross-National Cardiac Arrest Prediction [6.540707401117924]
本稿では,予測モデルを対象人口に転送するフレームワークとしてDRUM(underlineDtributionally underlineRobust underlineUn)を提案する。
DRUMは, より良い教師付き予測を行い, 臨床分類性能の向上を図っている。
論文 参考訳(メタデータ) (2026-05-22T20:53:04Z) - Robust Regression with Adaptive Contamination in Response: Optimal Rates and Computational Barriers [65.58071581164043]
本研究では, 共変剤を清潔にし, 応答を適応的に劣化させる汚染モデルの下で, 頑健な回帰について検討する。
本研究では,ハマー汚染下で達成可能なものよりも優れた推定率を持つ推定器を構築するために,追加情報を慎重に活用できることを示す。
情報理論の観点からは、ハマーモデルよりも改善されているにもかかわらず、この問題が強い情報計算ギャップを示すという公式な証拠を提供する。
論文 参考訳(メタデータ) (2026-04-05T19:07:24Z) - Sharp Convergence Rates for Masked Diffusion Models [53.117058231393834]
制約を克服するオイラー法に対する全変分に基づく解析法を開発した。
その結果、スコア推定の仮定を緩和し、パラメータ依存性を改善し、収束保証を確立する。
全体としては,CTMC軌道に沿った直接テレビによる誤り分解と,FHSのためのデカップリングに基づく経路解析を導入している。
論文 参考訳(メタデータ) (2026-02-26T00:47:51Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。