論文の概要: Exact Calibration and Sharp Risk Geometry for Volume-Sampled Ridge Regression
- arxiv url: http://arxiv.org/abs/2610.07721v1
- Date: Tue, 06 Oct 2026 04:16:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.796681
- Title: Exact Calibration and Sharp Risk Geometry for Volume-Sampled Ridge Regression
- Title(参考訳): ボリュームサンプリングリッジ回帰の厳密な校正とシャープリスク幾何
- Abstract要約: 固定設計の真に$s$の異なる行からのリッジ回帰について検討する。
決定的法則と選択された尾根は1つの正の確定的なペナルティを共有する。
バランスの取れた座標の複製の場合、厳密なセクターの不等式は鋭いリスクを与え、全ての応答を最大化する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study ridge regression from exactly $s$ distinct rows of a fixed design. Responses are fixed, and only the subset is random. The determinant law and selected ridge fit share one positive definite penalty. Established mean identities and exponential-family duality give the unique penalty that matches a prescribed full-data ridge fit in expectation. It exists exactly when $s$ exceeds the target's effective dimension. Our main result concerns centered covariance risk normalized by full-data penalized loss. For balanced signed coordinate replicas, a strict sector inequality gives the sharp risk and all maximizing responses at every budget from the dimension to one below the row count. This holds for any nonzero positive semidefinite query. With the target and query fixed, the maximizing response space is unchanged across these budgets. For general designs, we characterize attainment of a leave-one-out envelope. For existing real equiangular tight frames, flat row query energy characterizes when every nonzero residual response maximizes at two deletions. At three deletions, we give the sharp risk and complete maximizing space for isotropic queries, using unequal triangle weights. The balanced geometry yields a same-sample unbiased ridge--Horvitz--Thompson mixture with lower sharp risk and an exact mean-share improvement boundary. Under full recalibration after feature changes, we prove quadratic regret from searching the complete old maximizing space and a query-uniform bound on the mixture's risk gain. The strongest sector inequalities have exact computer-assisted proofs.
- Abstract(参考訳): 固定設計の真に$s$の異なる行からのリッジ回帰について検討する。
応答は固定され、サブセットのみがランダムである。
決定的法則と選択された尾根は1つの正の確定的なペナルティを共有する。
確立された平均的アイデンティティと指数関数的家族双対性は、期待に合った所定のフルデータリッジに適合するユニークなペナルティを与える。
ちょうど$s$が目標の有効次元を超えるときに存在する。
本研究の主な成果は,全データペナル化損失によって正規化される共分散リスクを中心にした。
バランスの取れた座標の複製の場合、厳密なセクターの不等式は、各予算における鋭いリスクと全ての応答を行数以下の次元から最大化する。
これは、ゼロでない正の半定値クエリに対して成り立つ。
ターゲットとクエリが固定された場合、最大応答空間はこれらの予算によって変化しない。
一般的な設計では,既設エンベロープの達成を特徴付ける。
既存の実等角的タイトフレームに対して、平坦な行クエリエネルギーは、すべての非ゼロ残差応答が2つの削除で最大化するときに特徴付けられる。
3つの削除において、等方性クエリの急激なリスクと完全最大化空間を不等三角形の重みを使って与える。
バランスの取れた幾何学は、低い鋭いリスクと正確な平均共有改善境界を持つ同じサンプルの非バイアスのリッジ--ホルヴィッツ-トンプソン混合を生成する。
特徴量変更後の完全なリカレーションの下では、完全古い最大化空間と混合のリスクゲインに束縛されたクエリ・ユニフォームを探索することで、二次的後悔を証明している。
最強セクターの不等式は、正確なコンピュータ支援証明を持つ。
関連論文リスト
- Sharp Oracle-Regret Tradeoffs for Projection-Free Online Convex Optimization [55.29259818039367]
我々は, オンライン凸最適化において, 実現可能な集合へのアクセスが正確な線形最適化オラクルに制限された場合に達成可能な後悔を特徴づける。
コンベックス$G$-Lipschitzの損失に対して、直径は最大$D$、合計$Q$オークルコールは$Q$、厳格な制限はラウンド当たり$B$である。
論文 参考訳(メタデータ) (2026-09-23T22:25:52Z) - Stability-Constrained Approximation in Spline KANs: Exact Layer Balancing and Budget-Compatible Saturation [51.56484100374058]
我々は、ハードレイヤーワイドリプシッツ予算の下で近似を研究する。
構成条件下では、対応するレイヤエラーをキャンセルする必要はないことを示す。
クラスのすべての作用素に対して、安定した深さ-$L$タワーが存在し、累積誤差の定数分を実現できる。
論文 参考訳(メタデータ) (2026-09-14T20:17:04Z) - Constrained Online Learning with Noisy Constraint Values [55.29259818039367]
一般的な実現可能性の下では、我々のLEDGERアルゴリズムは、期待される損失$O(sqrt T)と期待される予算違反$O(sqrtTlog(eT))を達成します。
スレーター条件、フィードバックチャネル間の独立性、絶対的制約値境界は不要である。
論文 参考訳(メタデータ) (2026-09-07T01:38:41Z) - Restricted Eigenvalues Beyond Gaussian Width: Threshold Occupancy under Heavy Tails [47.36630149538994]
等方的準ガウス測度の場合、ベンチマークサンプルサイズは1+w(A)2$であり、$w(A)$は正規化降下円錐のガウス幅である。
ここで定式化された一般的な問題に対して、明示的で体系的な否定的な答えを与える:提案された法則は、その全次元自由で任意の集合形式で失敗する。
等方性の下では、アフィン次元倍の2乗半径で支配される分布のないフォールバックがこの族に鋭い。
論文 参考訳(メタデータ) (2026-09-03T08:05:05Z) - When Is the Sharp Covariance Envelope Tight? Feature-Only Geometry for Volume-Sampled Least Squares [0.0]
各フルランク固定プール、応答、法定予算 d = s = m に対して、通常のインデックス付き固定体積サンプリングの下で中心係数共分散のルーナーエンベロープを確立する。
グローバルなシャープネスは、プールの到達可能性を決定するものではない。
残留増大した測定値の変化は、応答認識機構と一方的な定量的スラックバウンドを供給する。
論文 参考訳(メタデータ) (2026-08-27T09:38:54Z) - Feature Priming in Online Linear Regression: Sparse-Regret Lower Bounds and a Tight Univariate Rate [47.36630149538994]
高次元のオンライン予測では、最良の予測子はいくつかの機能にのみ依存する可能性があるため、後悔は周囲の次元ではなく、疎らさでスケールすべきである。
WarmuthとAmidはCOLT 2023で、これらの3つのルールのいずれかが競合するオンライン後悔の保証を認めているかどうかを尋ねた。
安価なニュアンスは、リフィットが真の予測座標を過度に重くする原因となる。
論文 参考訳(メタデータ) (2026-08-18T09:32:03Z) - Provably Adaptive Linear Approximation for the Shapley Value and Beyond [73.0940890296463]
基本的で長期にわたる課題は、その効率的な近似である。
一般に用いられるすべての半値に対して$P(|hatboldsymbol-boldsymbol|_2geq)leq$を必要とする線形空間アルゴリズムを開発する。
本アルゴリズムは,各ユーティリティ関数の平均二乗誤差の明示的最小化を可能にする。
論文 参考訳(メタデータ) (2026-04-09T16:38:14Z) - Continuous K-Max Bandits [54.21533414838677]
我々は、連続的な結果分布と弱い値-インデックスフィードバックを持つ、$K$-Maxのマルチアームバンディット問題について検討する。
この設定は、レコメンデーションシステム、分散コンピューティング、サーバスケジューリングなどにおいて重要なアプリケーションをキャプチャします。
我々の重要な貢献は、適応的な離散化とバイアス補正された信頼境界を組み合わせた計算効率の良いアルゴリズムDCK-UCBである。
論文 参考訳(メタデータ) (2025-02-19T06:37:37Z) - Dimension free ridge regression [10.434481202633458]
我々は、リッジ回帰のバイアスとばらつきの観点から、すなわちデータ上のリッジ回帰を再考し、等価なシーケンスモデルのバイアスとばらつきの観点から、リッジ回帰のバイアスとばらつきを考察する。
新しい応用として、定期的に変化するスペクトルを持つヒルベルト共変量に対して、完全に明示的で鋭い尾根回帰特性を得る。
論文 参考訳(メタデータ) (2022-10-16T16:01:05Z) - Online and Distribution-Free Robustness: Regression and Contextual
Bandits with Huber Contamination [29.85468294601847]
線形回帰と文脈的帯域幅という2つの古典的高次元オンライン学習問題を再考する。
従来の手法が失敗した場合にアルゴリズムが成功することを示す。
論文 参考訳(メタデータ) (2020-10-08T17:59:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。