論文の概要: TRACE: Theoretical Risk Attribution under Covariate-shift Effects
- arxiv url: http://arxiv.org/abs/2602.10588v1
- Date: Wed, 11 Feb 2026 07:22:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-12 21:44:01.532547
- Title: TRACE: Theoretical Risk Attribution under Covariate-shift Effects
- Title(参考訳): TRACE:共変量シフト効果による理論的リスク属性
- Authors: Hosein Anjidani, S. Yahya S. R. Tehrani, Mohammad Mahdi Mojahedian, Mohammad Hossein Yassaee,
- Abstract要約: ソースをトレーニングしたモデル$Q$を、シフトしたデータに基づいてトレーニングされたモデル$tildeQ$に置き換えると、ソースドメインのパフォーマンスは予測不能に変化する可能性がある。
TRACEは$|R|$を解釈可能な上界に分解するフレームワークである。
- 参考スコア(独自算出の注目度): 4.211510706776732
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When a source-trained model $Q$ is replaced by a model $\tilde{Q}$ trained on shifted data, its performance on the source domain can change unpredictably. To address this, we study the two-model risk change, $ΔR := R_P(\tilde{Q}) - R_P(Q)$, under covariate shift. We introduce TRACE (Theoretical Risk Attribution under Covariate-shift Effects), a framework that decomposes $|ΔR|$ into an interpretable upper bound. This decomposition disentangles the risk change into four actionable factors: two generalization gaps, a model change penalty, and a covariate shift penalty, transforming the bound into a powerful diagnostic tool for understanding why performance has changed. To make TRACE a fully computable diagnostic, we instantiate each term. The covariate shift penalty is estimated via a model sensitivity factor (from high-quantile input gradients) and a data-shift measure; we use feature-space Optimal Transport (OT) by default and provide a robust alternative using Maximum Mean Discrepancy (MMD). The model change penalty is controlled by the average output distance between the two models on the target sample. Generalization gaps are estimated on held-out data. We validate our framework in an idealized linear regression setting, showing the TRACE bound correctly captures the scaling of the true risk difference with the magnitude of the shift. Across synthetic and vision benchmarks, TRACE diagnostics are valid and maintain a strong monotonic relationship with the true performance degradation. Crucially, we derive a deployment gate score that correlates strongly with $|ΔR|$ and achieves high AUROC/AUPRC for gating decisions, enabling safe, label-efficient model replacement.
- Abstract(参考訳): ソーストレーニングされたモデル$Q$を、シフトしたデータに基づいてトレーニングされたモデル$\tilde{Q}$に置き換えると、ソースドメインのパフォーマンスは予測不能に変化する可能性がある。
これを解決するために、共変量シフト下での2モデルリスク変化である$ΔR := R_P(\tilde{Q}) - R_P(Q)$について検討する。
TRACE(Theoretical Risk Attribution under Covariate-shift Effects)は、$|ΔR|$を解釈可能な上限に分解するフレームワークである。
この分解は、リスク変化を2つの一般化ギャップ、モデル変更ペナルティ、共変シフトペナルティの4つの実行可能な要因に分解し、なぜパフォーマンスが変わったのかを理解するための強力な診断ツールに変換する。
TRACEを完全に計算可能な診断にするために、各項をインスタンス化する。
共変量シフトペナルティは、モデル感度係数(高量子入力勾配から)とデータシフト測度によって推定され、特徴空間最適輸送(OT)をデフォルトで使用し、最大平均離散性(MMD)を用いた堅牢な代替手段を提供する。
モデル変更ペナルティは、ターゲットサンプル上の2つのモデル間の平均出力距離によって制御される。
保留データに基づいて一般化ギャップを推定する。
我々は,このフレームワークを理想的な線形回帰設定で検証し,TRACE境界が真のリスク差のスケーリングをシフトの規模で正確に捉えていることを示す。
総合的および視覚的ベンチマーク全体で、TRACE診断は有効であり、真の性能劣化と強い単調な関係を維持している。
重要なことは、配置ゲートスコアが$|ΔR|$と強く相関し、ゲーティング決定のための高いAUROC/AUPRCを実現し、安全でラベル効率の良いモデル置換を可能にすることである。
関連論文リスト
- Information Hidden in Gradients of Regression with Target Noise [2.8911861322232686]
勾配だけでヘッセンが明らかになることを示す。
我々はガウス以下の入力の下で非漸近作用素ノルム保証を提供する。
論文 参考訳(メタデータ) (2026-01-26T14:50:16Z) - Le Cam Distortion: A Decision-Theoretic Framework for Robust Transfer Learning [0.0]
模擬性に基づく移動リスク条件の厳密な上限としてLe Cam Distortionを導入する。
我々のフレームワークは、ソースからターゲットをシミュレートするカーネルを学習することで、ソースの劣化なしに転送を可能にする。
Le Cam Distortionは、負の転送が受け入れられないドメインにおいて、リスク制御された転送学習のための最初の原則化されたフレームワークを提供する。
論文 参考訳(メタデータ) (2025-12-29T17:21:44Z) - Distributionally Robust Optimization with Adversarial Data Contamination [49.89480853499918]
凸リプシッツ損失関数を持つ一般化線形モデルに対するワッサーシュタイン-1 DRO 目標の最適化に焦点をあてる。
私たちの主な貢献は、データ汚染のトレーニングに対するロバストネスと分散シフトに対するロバストネスを統合した、新しいモデリングフレームワークです。
この研究は、データ汚染と分散シフトという2つの課題の下で学習するために、効率的な計算によって支援される最初の厳密な保証を確立する。
論文 参考訳(メタデータ) (2025-07-14T18:34:10Z) - Diversity by Design: Addressing Mode Collapse Improves scRNA-seq Perturbation Modeling on Well-Calibrated Metrics [1.756284691863048]
最近のベンチマークでは、単一セルの摂動応答のモデルは、データセットの平均を単に予測することで、しばしば性能が向上することが示された。
制御参照デルタと非重み付きエラーメトリクスの報酬モードは、制御がバイアスを受けたり、生物学的信号がスパースであったりすると、崩壊する。
高感度のニッチ信号における誤差を計測する全ての摂動に対して、差分式遺伝子(DEG)対応メトリクス、重み付き平均二乗誤差(WMSE)および重み付きデルタ$R2$(R2_w(Delta)$)を導入する。
論文 参考訳(メタデータ) (2025-06-27T21:12:46Z) - Flow-GRPO: Training Flow Matching Models via Online RL [80.62659379624867]
本稿では,オンライン政策強化学習をフローマッチングモデルに統合する最初の方法であるFlow-GRPOを提案する。
提案手法では,(1)決定論的正規微分方程式を同値な微分方程式に変換するODE-to-SDE変換と,(2)推論ステップの数を維持しながらトレーニングの段階を短縮するDenoising Reduction戦略の2つの主要な戦略を用いる。
論文 参考訳(メタデータ) (2025-05-08T17:58:45Z) - TIC-TAC: A Framework for Improved Covariance Estimation in Deep Heteroscedastic Regression [109.69084997173196]
奥行き回帰は、予測分布の平均と共分散を負の対数類似度を用いて共同最適化する。
近年の研究では, 共分散推定に伴う課題により, 準最適収束が生じる可能性が示唆されている。
1)予測共分散は予測平均のランダム性を真に捉えているか?
その結果, TICは共分散を正確に学習するだけでなく, 負の対数類似性の収束性の向上も促進することがわかった。
論文 参考訳(メタデータ) (2023-10-29T09:54:03Z) - The Power and Limitation of Pretraining-Finetuning for Linear Regression
under Covariate Shift [127.21287240963859]
本研究では,対象データに基づく事前学習と微調整を併用した伝達学習手法について検討する。
大規模な線形回帰インスタンスの場合、$O(N2)$ソースデータによる転送学習は、$N$ターゲットデータによる教師あり学習と同じくらい効果的である。
論文 参考訳(メタデータ) (2022-08-03T05:59:49Z) - Model Transferability With Responsive Decision Subjects [11.07759054787023]
我々は、利用可能なソース分布でトレーニングされたモデルの性能が、その誘導されたドメインのパフォーマンスにどのように変換されるかを研究することによって、モデルの転送可能性に関する議論を形式化する。
我々は、誘導されたドメインシフトによるパフォーマンスギャップの上限と、分類器がソーストレーニング分布または誘導されたターゲット分布に悩まさなければならないトレードオフの上限の両方を提供する。
論文 参考訳(メタデータ) (2021-07-13T08:21:37Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳(メタデータ) (2020-06-19T05:08:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。