論文の概要: Task-Calibrated Random Features via Influence-Based Error Cancellation
- arxiv url: http://arxiv.org/abs/2611.07209v1
- Date: Wed, 04 Nov 2026 22:57:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.464316
- Title: Task-Calibrated Random Features via Influence-Based Error Cancellation
- Title(参考訳): 影響に基づく誤差キャンセラによるタスクキャリブレーションされたランダム特徴
- Abstract要約: タスクキャリブレーションされたランダム特徴は、タスク固有の影響から構築されたバランス周波数モーメントである。
オープンフォームウェイトは古典的な最小距離キャリブレーションと一致する。
カーネルリッジ回帰の場合、完全キャンセルは非ガウス二階極限をもたらす。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Random features approximate kernel integrals by Monte Carlo, yet only selected frequency-sampling errors affect a downstream task. We propose Task-Calibrated Random Features (TCRF), which balance frequency moments constructed from task-specific influence using weights shared across kernel entries. Closed-form weights coincide with classical minimum-distance calibration; the contribution is a reusable, task-derived calibration space. We show that first-order variance equals the residual variance after projection onto this space. For kernel ridge regression, complete cancellation yields a non-Gaussian second-order limit. For kernel Stein discrepancy, a subset identity and disjoint-block variance decomposition eliminate the linear component of pilot noise. Positive exponential-tilting weights preserve the positive-semidefinite feature representation and support higher feasible calibration ranks. Paired experiments show improved approximation to exact kernel ridge regression at larger frequency budgets and to the exact empirical Stein discrepancy under a fixed alternative, even after accounting for a frequency-equivalent pilot budget. Gains are smaller with cross-validated ridge, landmark pilots require conservative rank selection, and near the Stein null allocating the pilot budget to additional ordinary frequencies is preferable.
- Abstract(参考訳): ランダムはモンテカルロの近似カーネル積分を特徴とするが、選択された周波数サンプリング誤差だけが下流のタスクに影響を与える。
本稿では、カーネルエントリ間で共有される重みを用いたタスク固有の影響から構築された周波数モーメントのバランスをとるタスクキャリブレーションランダム特徴量(TCRF)を提案する。
閉じた形状の重量は古典的な最小距離のキャリブレーションと一致し、その寄与は再利用可能なタスク由来のキャリブレーション空間である。
この空間への射影後の残差に一階分散が等しいことを示す。
カーネルリッジ回帰の場合、完全キャンセルは非ガウス二階極限をもたらす。
カーネルスタインの相違について、サブセットアイデンティティと不整合ブロック分散分解はパイロットノイズの線形成分を除去する。
正指数チルト重みは正の半定値の特徴表現を保持し、より高いキャリブレーションランクをサポートする。
ペア実験では、周波数等価のパイロット予算を考慮しても、より大きな周波数予算での正確なカーネルリッジ回帰と、固定された代替条件下での正確な経験的スタイン差に対する近似が改善された。
ゲインは横方向の尾根で小さく、ランドマークのパイロットは保守的なランクの選択を必要とし、ステインヌルの近くではパイロット予算を通常の周波数に割り当てることが好ましい。
関連論文リスト
- Two-Sample Testing via Generative Processes [60.42943145582429]
生成輸送は、2つのサンプルが同じ分布から来るかどうかを決定する新しい方法を提供する。
2つのサンプルの間に直接補間体を構築し、対称スケジュールでは、その法則が時間反射の下で不変であることを観察する。
したがって、t と 1-t の辺辺が、Jensen-Shannon の発散を計算することで一致するかどうかをテストする。
論文 参考訳(メタデータ) (2026-10-06T12:48:27Z) - Gaussian Limits for SGD Without Stationary Moments [5.880053014907968]
時間的依存は、ガウスの勾配勾配の近似を定常モーメントから分離することができる。
修正されていない最小二乗 SGD に対して、定常誤差がすべての正のモーメントを無限に持つ標準ガウス境界を持つ設計を構築する。
同じ辺を持つ独立な観測は、代わりに有限の定常分散を与える。
論文 参考訳(メタデータ) (2026-10-04T23:04:23Z) - Constrained Online Learning with Noisy Constraint Values [55.29259818039367]
一般的な実現可能性の下では、我々のLEDGERアルゴリズムは、期待される損失$O(sqrt T)と期待される予算違反$O(sqrtTlog(eT))を達成します。
スレーター条件、フィードバックチャネル間の独立性、絶対的制約値境界は不要である。
論文 参考訳(メタデータ) (2026-09-07T01:38:41Z) - Stabilizing Extrapolation in Looped Transformers via Learned Stochastic Stopping [56.14767235650558]
共有トランスブロックを繰り返し適用するLooped Transformerは、可変長の計算タスクに自然に適合するアーキテクチャである。
この差分を、列長とループ数の間の単純なアルゴリズムタスクにおける突発的相関に追従する。
私たちの研究は、"停止する時"は単なる推論時間割当ルールではなく、トレーニング設計の選択として扱われるべきであることを示唆しています。
論文 参考訳(メタデータ) (2026-06-29T08:58:09Z) - Active Quantum Kernel Acquisition for Gaussian Process Regression [30.032230630492155]
量子カーネル分類に関する最近の研究は、カーネルエントリに不均一にショットを割り当てることによって、ターゲット精度に到達するために必要なショット予算を削減できることを示した。
我々はこのアイデアをガウス過程(GP)回帰(英語版)に拡張し、下流の量(全スペクトル後方分散、対数行列、辺縁確率)が、符号のみの分類出力よりも厳密なカーネルエラーに結合する設定とする。
我々は、3つの閉形式のペアレベル感性予測結合 $|_i_j|$, leave-one-out residual, and marginal-likelihood gradient を導出し、それらをネイマン型最小値に差し込む。
論文 参考訳(メタデータ) (2026-06-27T09:40:20Z) - Convergence, design and training of continuous-time dropout as a random batch method [0.0]
ランダムバッチ方式のレンズを用いた連続時間モデルにおけるドロップアウト正規化について検討する。
我々は、長さ$h$の時間間隔でニューロンのバッチをサンプリングすることによって、ドロップアウトを模倣する、偏りのない、よく考えられた推定器を構築した。
次に、単層ニューラルネットワークを専門とし、分類とフローマッチングの理論を検証する。
論文 参考訳(メタデータ) (2025-10-15T04:19:01Z) - Derandomizing Simultaneous Confidence Regions for Band-Limited Functions by Improved Norm Bounds and Majority-Voting Schemes [0.0]
雑音の入出力測定から帯域制限関数に対する同時信頼領域を構築する。
我々は、サンプルサイズと、どの配置に縛られるかを規定する入力がどの程度情報的であるかに基づいて、近似しきい値を導出する。
インプット毎の集約間隔でさえ、同時カバレッジ保証を維持していることを証明します。
論文 参考訳(メタデータ) (2025-06-21T17:14:38Z) - Variance-Reducing Couplings for Random Features [57.73648780299374]
ランダム機能(RF)は、機械学習においてカーネルメソッドをスケールアップする一般的なテクニックである。
ユークリッド空間と離散入力空間の両方で定義されるRFを改善するための結合を求める。
パラダイムとしての分散還元の利点と限界について、驚くほどの結論に達した。
論文 参考訳(メタデータ) (2024-05-26T12:25:09Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。