論文の概要: A general recipe for data-adaptive anytime-valid envelopes for iterative algorithms

• arxiv url: http://arxiv.org/abs/2610.23570v1
• Date: Fri, 16 Oct 2026 14:52:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.978487
• Title: A general recipe for data-adaptive anytime-valid envelopes for iterative algorithms
• Title（参考訳）: 反復アルゴリズムのためのデータ適応型任意の値エンベロープの一般的なレシピ
• Abstract要約: 本稿では、反復アルゴリズムに対して、任意の値のデータ適応境界を構築するための一般的なレシピを提供する。 我々はこれを強く適応したサブ$条件で定式化し、連続な混合と離散的な混合を通じて棚外の境界構造を導出する。 特に、SGDの場合、我々のフレームワークは私たちが認識しているすべての既存の封筒を回復または大幅に鋭くします。
• 参考スコア（独自算出の注目度）: 36.191356601153146
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Most convergence guarantees for iterative stochastic algorithms are stated at a fixed iteration count and do not justify stopping at a data-dependent time. Recent work has constructed anytime-valid envelopes that do, but deterministic envelopes are typically too conservative for practical stopping, and existing data-adaptive ones are derived case-by-case, each coupling a specific algorithm to a specific noise model and boundary construction. This paper provides a general recipe for constructing such anytime-valid data-adaptive boundaries for a large class of iterative algorithms. Performance measures of many of these algorithms satisfy a one-step recursion that reduces the entire error analysis to a single general requirement: time-uniform concentration for predictably weighted sums of noise. We formalize this through a strongly adapted sub-$ψ$ condition, and derive off-the-shelf boundary constructions via continuous and discrete mixtures, stitching, and product betting martingales. We show how these boundaries can be directly coupled with a separate algorithmic analysis that derives the one-step recursion to provide a class of readymade anytime-valid envelopes across diverse settings including stochastic gradient descent (SGD), temporal difference learning, and Bures-Wasserstein SGD. In particular, for SGD, our framework either recovers or significantly sharpens every existing envelope we are aware of. Our constructions come with explicit implementation details and are substantiated by numerical experiments.
• Abstract（参考訳）: 反復確率アルゴリズムの収束保証のほとんどは、固定された反復数で記述され、データ依存時間での停止を正当化しない。 しかし決定論的エンベロープは実際停止するには保守的すぎることが多く、既存のデータ適応エンベロープはケースバイケースであり、それぞれ特定のアルゴリズムを特定のノイズモデルと境界構築に結合する。 本稿では、大規模な反復アルゴリズムに対して、任意のデータ適応境界を構築するための一般的なレシピを提供する。 これらのアルゴリズムの性能測定は、1段階の再帰を満足し、エラー解析全体を1つの一般的な要件に還元する。 これを強く適応したsub-$$条件で形式化し、連続的および離散的な混合、縫合、および積の賭けマーチンガレットを通じて、既製の境界構造を導出する。 確率勾配降下(SGD)、時間差学習、Bles-Wasserstein SGDを含む様々な設定において、これらの境界を1段階の帰納的再帰を導出したアルゴリズム解析と直接結合する方法を示す。 特に、SGDの場合、我々のフレームワークは私たちが認識しているすべての既存の封筒を回復または大幅に鋭くします。 我々の構成は明示的な実装の詳細を持ち、数値実験によって裏付けられている。

関連論文リスト

• Beyond Optimal Rates in Stochastic Optimization: Trajectory-Adaptive Stopping Rules [42.38093055717409]
  我々は、新しい信頼系列法と、適応されたプロセスに対する時間一様経験的バーンスタイン不等式を開発する。 結果の停止規則は、自然勾配の地平線より少ない数桁の順序を必要とすることが示される。
  論文  参考訳（メタデータ） (2026-08-26T09:02:46Z)
• Pareto-Optimal Anytime Algorithms via Bayesian Racing [0.0]
  我々は,任意のアルゴリズム比較のためのフレームワークであるPolarBear(ベイジアンレースによるパレート最適アルゴリズム)を紹介する。 このアプローチでは、任意のインスタンス分布に対して、既知のオプティマを必要とせず、バウンダリを必要とせず、正規化も必要とせず、コヒーレントに集約する。
  論文  参考訳（メタデータ） (2026-03-09T15:28:39Z)
• Worth Their Weight: Randomized and Regularized Block Kaczmarz Algorithms without Preprocessing [2.542838926315103]
  ランダム化ブロックKaczmarz法(RBK)のデータの一様サンプリング時の収束を解析し,その繰り返しがモンテカルロの感覚で$textit$ least-squaresの解に収束することを示す。 RBKイテレーションに正規化を組み込むことでこれらの問題を制御し、正規化アルゴリズムReBlocKを得る。
  論文  参考訳（メタデータ） (2025-02-02T19:23:46Z)
• An Efficient Rehearsal Scheme for Catastrophic Forgetting Mitigation during Multi-stage Fine-tuning [55.467047686093025]
  このような忘れを緩和するための一般的なアプローチは、微調整中に以前のタスクからサンプルをリハーサルすることである。 側方損傷のリハーサルを優先するサンプリング手法である textttbf mix-cd を提案する。 我々の手法は計算効率が高く、実装が容易で、計算制約のある設定においていくつかの主要な連続学習手法より優れています。
  論文  参考訳（メタデータ） (2024-02-12T22:32:12Z)
• An Automated Approach to Causal Inference in Discrete Settings [8.242194776558895]
  本稿では,効率的な二重緩和法と空間分岐結合法を用いて因果効果を自動的に結合するアルゴリズムを提案する。 このアルゴリズムは、許容可能なデータ生成プロセスを探索し、利用可能な情報と最も正確な範囲を出力する。 これは、不完全境界を特徴付ける$epsilon$-sharpnessと呼ばれる追加の保証を提供する。
  論文  参考訳（メタデータ） (2021-09-28T03:55:32Z)
• Convergence of Batch Asynchronous Stochastic Approximation With Applications to Reinforcement Learning [1.2966003263488448]
  Reinforcement Learning (RL)のいくつかのアプリケーションでは、textitonlyの$theta_t$の1つのコンポーネントは、各$t$で更新される。 本稿では、 textbfBlock Asynchronous SA (BASA) について検討し、各ステップ $t$, textitsome で $theta_t$ のすべてのコンポーネントが更新される必要はない。 BASA の収束に十分な条件を提供し、$theta_t$ to の収束のテキスト化を証明します。
  論文  参考訳（メタデータ） (2021-09-08T06:06:28Z)
• Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
  離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。 この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。 古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
  論文  参考訳（メタデータ） (2020-07-01T18:43:32Z)
• A General Method for Robust Learning from Batches [56.59844655107251]
  本稿では,バッチから頑健な学習を行う一般的なフレームワークについて考察し,連続ドメインを含む任意の領域に対する分類と分布推定の限界について考察する。 本手法は,一括分節分類,一括分節,単調,対数凹,ガウス混合分布推定のための,最初の頑健な計算効率の学習アルゴリズムを導出する。
  論文  参考訳（メタデータ） (2020-02-25T18:53:25Z)
• Consistency of a Recurrent Language Model With Respect to Incomplete Decoding [67.54760086239514]
  逐次言語モデルから無限長のシーケンスを受信する問題について検討する。 不整合に対処する2つの対策として、トップkと核サンプリングの一貫性のある変種と、自己終端の繰り返し言語モデルを提案する。
  論文  参考訳（メタデータ） (2020-02-06T19:56:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。