論文の概要: Target-Aware Linear Regression Under Distribution Shift

• arxiv url: http://arxiv.org/abs/2606.22775v2
• Date: Tue, 23 Jun 2026 16:56:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.497256
• Title: Target-Aware Linear Regression Under Distribution Shift
• Title（参考訳）: 配電シフト下における目標認識線形回帰
• Authors: Zhewen Hou, Tian Zheng,
• Abstract要約: トレーニングとデプロイメントの間の分散シフトは、現代のAIシステムにとって大きな課題である。 我々は、この問題を、ソースとターゲットをまたいで安定な条件平均$E[Ymid X]$で研究する。 両辺縁を併用したハイブリッド損失推定器を,ベンチマーク目標認識推定器として同定する。
• 参考スコア（独自算出の注目度）: 2.705806052277982
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Distribution shift between training and deployment is a pervasive challenge for modern AI systems. In many cases, the target marginals of covariates and response are known or specified through population-level observations, boundary conditions, properties of simulator configurations, or alignment-time distributional constraints. Such knowledge may provide valuable side information for regression estimation. We study this problem in the multivariate linear regression setting with a stable conditional mean $E[Y\mid X]$ across source and target, and identify the hybrid-loss estimator, which jointly incorporates both target marginals, as a benchmark target-aware estimator. Its direct computation, however, requires solving a coupled nonlinear optimization that is expensive at scale. Our main contribution is to develop and evaluate two computationally tractable alternatives: a constrained moment-matching estimator and a two-stage estimator that augments ordinary least squares with a calibration step. For all three estimators, we derive and compare closed-form asymptotic mean squared errors, yielding conditions under which the tractable alternatives match or closely approximate the hybrid benchmark, and regimes in which they do not. Monte Carlo experiments across three controlled shift regimes validate the theoretical results, investigate the accuracy-runtime tradeoffs among the three estimators, and translate into guidance on estimator choice. In particular, the two-stage estimator nearly matches the hybrid benchmark in the high signal-to-noise regime at essentially no additional cost, providing theoretical grounding for empirical observations in nonlinear settings.
• Abstract（参考訳）: トレーニングとデプロイメントの間の分散シフトは、現代のAIシステムにとって大きな課題である。 多くの場合、共変量と応答の目標限界は、人口レベルの観測、境界条件、シミュレータの構成の特性、アライメント時間分布の制約によって知られているか特定される。 このような知識は回帰推定に貴重な副次情報を提供するかもしれない。 本研究では, 安定条件平均$E[Y\mid X]$をソースとターゲットに分散した多変量線形回帰設定においてこの問題を考察し, 両辺縁を併用したハイブリッドロス推定器をベンチマーク目標認識推定器として同定する。 しかし、その直接計算は、大規模で高価な結合非線形最適化を解く必要がある。 我々の主な貢献は、制約のあるモーメントマッチング推定器と、キャリブレーションステップで通常の最小2乗を拡大する2段階推定器の2つの計算計算可能な代替品の開発と評価である。 3つの推定器の全てに対して、閉形式の漸近平均二乗誤差を導出し、比較し、抽出可能な代替品が一致または近似した条件を導出し、それらが一致しない条件と、それらが一致しない条件を導出する。 モンテカルロ実験は、3つの制御されたシフト体制で理論結果を検証するとともに、3つの推定器間の精度-実行時のトレードオフを調査し、推定器の選択に関するガイダンスに変換する。 特に、この2段階推定器は、高信号-雑音系におけるハイブリッドベンチマークとほぼ一致し、本質的には追加費用がかからず、非線形環境における経験的観測の理論的根拠を提供する。

関連論文リスト

• On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization [57.179679246370114]
  既存の手法の潜在的な制限は、ステップサイズが提案されない限り、ほとんどの摂動推定器に固有のバイアスである。 本稿では, 良好な構成を維持しつつ, バイアスを排除した非バイアス勾配スケーリング推定器のファミリーを提案する。
  論文  参考訳（メタデータ） (2025-10-22T18:25:43Z)
• Doubly Calibrated Estimator for Recommendation on Data Missing Not At Random [20.889464448762176]
  既存の推定器は誤判定された暗黙の誤りと正当性スコアに依存していると我々は主張する。 本稿では,計算モデルと確率モデルの両方のキャリブレーションを含む二重校正推定器を提案する。
  論文  参考訳（メタデータ） (2024-02-26T05:08:52Z)
• Nearest Neighbor Sampling for Covariate Shift Adaptation [7.940293148084844]
  重みを推定しない新しい共変量シフト適応法を提案する。 基本的な考え方は、ソースデータセットの$k$-nearestの隣人によってラベル付けされたラベル付けされていないターゲットデータを直接扱うことだ。 実験の結果, 走行時間を大幅に短縮できることがわかった。
  論文  参考訳（メタデータ） (2023-12-15T17:28:09Z)
• Leveraging Variational Autoencoders for Parameterized MMSE Estimation [10.141454378473972]
  条件付き線形最小二乗誤差推定器のパラメータ化のための変分オートエンコーダに基づくフレームワークを提案する。 導出した推定器は、推定問題の生成前として変分オートエンコーダを用いて最小平均2乗誤差推定器を近似する。 提案手法と最小平均二乗誤差推定器の差分を限定して厳密な解析を行う。
  論文  参考訳（メタデータ） (2023-07-11T15:41:34Z)
• Multi-Fidelity Covariance Estimation in the Log-Euclidean Geometry [0.0]
  対称正定値多様体の対数ユークリッド幾何学を利用する共分散行列の多値推定器を導入する。 固定予算が与えられた推定器の平均二乗誤差を最小化する最適サンプル割り当て方式を開発した。 物理アプリケーションからのデータによるアプローチの評価は、ベンチマークと比較すると、より正確なメトリック学習と1桁以上のスピードアップを示している。
  論文  参考訳（メタデータ） (2023-01-31T16:33:46Z)
• Pessimistic Minimax Value Iteration: Provably Efficient Equilibrium Learning from Offline Datasets [101.5329678997916]
  両プレイヤーゼロサムマルコフゲーム(MG)をオフライン環境で研究する。 目標は、事前収集されたデータセットに基づいて、近似的なナッシュ均衡(NE)ポリシーペアを見つけることである。
  論文  参考訳（メタデータ） (2022-02-15T15:39:30Z)
• Learning to Estimate Without Bias [57.82628598276623]
  ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。 本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
  論文  参考訳（メタデータ） (2021-10-24T10:23:51Z)
• Near-optimal inference in adaptive linear regression [60.08422051718195]
  最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。 我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。 我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
  論文  参考訳（メタデータ） (2021-07-05T21:05:11Z)
• GenDICE: Generalized Offline Estimation of Stationary Values [108.17309783125398]
  重要なアプリケーションでは,効果的な推定が依然として可能であることを示す。 我々のアプローチは、定常分布と経験分布の差を補正する比率を推定することに基づいている。 結果として得られるアルゴリズム、GenDICEは単純で効果的である。
  論文  参考訳（メタデータ） (2020-02-21T00:27:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。