論文の概要: Detecting a Shift Is Not Enough: Exact Minimax Limits of Linear Representation Repair
- arxiv url: http://arxiv.org/abs/2610.08069v1
- Date: Tue, 06 Oct 2026 10:03:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.926292
- Title: Detecting a Shift Is Not Enough: Exact Minimax Limits of Linear Representation Repair
- Title（参考訳）: シフト検出は十分ではない: 線形表現修復の最小限の厳密な制限
- Abstract要約: 2つのデータソース間の平均シフトは簡単に検出できるが、表現を著しく変更することなく削除するのは難しい。
そのようなすべての写像に対して、正確な有限サンプルのミニマックスリスクを$(d-k) mathbbE[1/(d+2J)]$と$JsimmathrmPois(/2)$で導き出す。
平均校正差を投影すると、$やノイズスケールを知らずにそれを達成できる。
- 参考スコア（独自算出の注目度）: 7.112382448894557
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A mean shift between two data sources can be easy to detect but hard to remove without substantially changing their representations. We cast its removal as a statistical decision problem: from noisy differences between paired calibration measurements in $\mathbb{R}^d$, learn one linear map, applied to both sources under a hard distortion budget, that leaves as little of the shift as possible on fresh data. We derive the exact finite-sample minimax risk over all such maps, $(d-k) \mathbb{E}[1/(d+2J)]$ with $J\sim\mathrm{Pois}(κ/2)$, where the budget allows deleting $k$ directions and $κ$ is the calibration signal-to-noise ratio. Projecting out the mean calibration difference attains it without knowing $κ$ or the noise scale. This exposes a detection-repair gap: detecting the shift needs only $κ\gg\sqrt d$, whereas removing a fixed fraction of it at constant distortion needs $κ\asymp d$, as for estimating its direction. Standard linear concept erasers (MP, SAL, LEACE) remove the same calibration difference, so the formula gives, before fitting, exactly how much shift they leave on fresh data and how much calibration a target requires. The limit is robust: pairing keeps it exact for non-Gaussian shared content, the projection keeps its guarantee under anisotropic noise, and selective abstention cannot close the gap. On paired clinical and wearable sleep EEG, where differences between participants act as calibration noise, the formula predicts the device shift left in new participants, and more recordings per person soon stop helping. Together, these results tell whether a correction that falls short needs a better method, more recordings, or more participants.
- Abstract（参考訳）: 2つのデータソース間の平均シフトは簡単に検出できるが、表現を著しく変更することなく削除するのは難しい。
我々は、その除去を統計的決定問題として挙げた:$\mathbb{R}^d$におけるペアキャリブレーション測定のノイズの違いから、1つの線形写像を学習し、ハード歪み予算の下で両方のソースに適用する。
すべての写像に対して正確な有限サンプルのミニマックスリスクを導出する: $(d-k) \mathbb{E}[1/(d+2J)]$ with $J\sim\mathrm{Pois}(κ/2)$ ここで予算は$k$方向を削除し、$κ$は校正信号-雑音比である。
平均校正差を投影すると、κ$やノイズスケールを知らずに達成できる。
シフトを検出するには$κ\gg\sqrt d$しか必要としないが、一定の歪みでその固定された部分を取り除くには、その方向を推定するために$κ\asymp d$が必要である。
標準線形概念消去器 (MP, SAL, LEACE) は同じキャリブレーション差を除去するので、式が適合する前に、新しいデータにどれだけのシフトを残すか、ターゲットがどれだけのキャリブレーションを必要とするかが正確に与えられる。
ペアリングは非ガウス的共有コンテンツに対して正確であり、射影はその保証を異方性雑音の下で保ち、選択的棄却はギャップを埋めることができない。
被験者間の差異が校正ノイズとして働く2つの臨床睡眠とウェアラブル睡眠の脳波では、新しい参加者に残されたデバイスシフトが予測され、1人当たりの記録がすぐに止まる。
これらの結果から、短い修正にはより良い方法が必要か、より多くの録音が必要か、より多くの参加者が必要かが分かる。
関連論文リスト
- Target-Dependent Limits of Causal Repair: A Leading-Log Frontier in a Gaussian Model [4.31007246082592]
因果予測器がどれだけ改善できるかを知ることは、実際に学んだ修理の利益を明らかにしない。
我々は、このギャップを既知の介入幾何学を用いたスカラーガウス因果実験で定量化する。
均一学習 MSE$$ の学習者および評価者を共同最適化することで、修理を行わないという簡単な解決策を避けることができる。
論文 参考訳（メタデータ） (2026-09-30T15:48:39Z) - The Price of Self-Calibration: Exact Evidence Budgets and Manufactured Blind Sets in Adaptive Monitoring [0.0]
自己校正モニターは、任意のドリフトの下で所定の偽アラームレートを保証するために、しきい値にオンラインで適応する。
我々は、その保証の価格を計算し、すべての法律をその正確な有効範囲で明記する。
論文 参考訳（メタデータ） (2026-09-19T23:45:39Z) - Is Spurious Correlation Removal Always Learnable? [56.28155520961125]
不変学習は、構造が統計的に識別可能であっても失敗することがある。
ブラックボックスサンプリング可能な教師付きスパースリカバリプリミティブの下では、実証可能な多次元環境が存在する。
合成および実際のデータセットは、予測されたギャップと遷移を示し、単純な多様性診断を動機付ける。
論文 参考訳（メタデータ） (2026-06-11T05:49:43Z) - Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。
各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。
これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
論文 参考訳（メタデータ） (2026-04-20T13:25:40Z) - Less Noise, Same Certificate: Retain Sensitivity for Unlearning [12.34913959100445]
Certified Machine Unlearningは、データセット$S$でトレーニングされたモデルから、削除セット$U$の影響を確実に除去することを目的としている。
多くの既存の認証済みの未学習手法は、差分プライバシー(DP)の手法に適応し、グローバルな感度に調整されたノイズを追加する。
このDPスタイルの校正は、未学習では過度に保守的であることが示されている。
この区別によって、我々はセマンティクスを、$R$を固定しながら、削除した$U$よりも最悪のケースの出力変更として定義する。
論文 参考訳（メタデータ） (2026-03-03T17:21:38Z) - Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。
任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。
本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
論文 参考訳（メタデータ） (2026-02-19T17:21:15Z) - Information Hidden in Gradients of Regression with Target Noise [2.8911861322232686]
勾配だけでヘッセンが明らかになることを示す。
我々はガウス以下の入力の下で非漸近作用素ノルム保証を提供する。
論文 参考訳（メタデータ） (2026-01-26T14:50:16Z) - Improved Algorithm for Adversarial Linear Mixture MDPs with Bandit
Feedback and Unknown Transition [71.33787410075577]
線形関数近似,未知遷移,および逆損失を用いた強化学習について検討した。
我々は高い確率で$widetildeO(dsqrtHS3K + sqrtHSAK)$ regretを実現する新しいアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-03-07T15:03:50Z) - On the Distance from Calibration in Sequential Prediction [4.14360329494344]
キャリブレーション距離から予測器を評価可能な逐次二分予測条件について検討する。
キャリブレーション距離は、完全キャリブレーションから逸脱する自然で直感的な尺度である。
我々は,逆選択された$T$バイナリ結果の列に対して,予測において$O(sqrtT)$キャリブレーション距離を達成できる予測アルゴリズムが存在することを証明した。
論文 参考訳（メタデータ） (2024-02-12T07:37:19Z) - Variance-Dependent Regret Bounds for Linear Bandits and Reinforcement
Learning: Adaptivity and Computational Efficiency [90.40062452292091]
本稿では,不整合雑音を持つ線形帯域に対する計算効率のよい最初のアルゴリズムを提案する。
我々のアルゴリズムは未知のノイズの分散に適応し、$tildeO(d sqrtsum_k = 1K sigma_k2 + d)$ regretを達成する。
また、強化学習において、線形混合マルコフ決定過程(MDP)に対する分散適応アルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-02-21T00:17:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。