論文の概要: Adaptive Bayes exactly tracks information over intrinsic time
- arxiv url: http://arxiv.org/abs/2607.08789v1
- Date: Fri, 26 Jun 2026 23:59:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-19 21:54:20.359927
- Title: Adaptive Bayes exactly tracks information over intrinsic time
- Title(参考訳): Adaptive Bayesは、固有時間の情報を正確に追跡する
- Abstract要約: このような更新の後悔は、正確な情報記録の同一性に従うことを示す。
同じ計算では、Hedge、楽観的でサイドインフォメーションのバリエーション、継続的な事前、強化、オンライン凸最適化、コンテキストブレイト、繰り返しゲームがカバーされている。
- 参考スコア(独自算出の注目度): 0.42671348654734564
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian and multiplicative-weights updates reweight experts, models, or actions from sequential feedback. We show that the regret of any such update obeys an exact information-accounting identity. On each round, the learner's excess loss to any chosen comparator is the sum of an immediate payment for the uncertainty exposed by the round and a reduction in the information distance from the learner's current weights to the comparator. The cumulative payment defines a pathwise uncertainty clock, the \emph{intrinsic time} of the realized sequence. Summing one-step balances yields two exact adaptive decompositions of cumulative regret, one for each natural way of composing the update across rounds. Because the decompositions are exact rather than upper bounds, favorable stochastic or low-noise regimes appear as self-bounding properties of the realized intrinsic time, not as slack in worst-case analyses. The same calculus covers Hedge, optimistic and side-information variants, continuous priors, boosting, online convex optimization, contextual bandits, and repeated games: the pathwise account is the same in every case.
- Abstract(参考訳): Bayesianとmultiplicative-weightsは、逐次フィードバックから専門家、モデル、あるいはアクションを更新する。
このような更新の後悔は、正確な情報記録の同一性に従うことを示す。
各ラウンドにおいて、選択されたコンパレータに対する学習者の余剰損失は、ラウンドによって露呈された不確実性に対する即時支払いと、学習者の現在の重みからコンパレータへの情報距離の減少の合計である。
累積支払は、実効シーケンスの経路不確実性クロックである 'emph{intrinsic Time} を定義する。
一段階のバランスをとれば、2つの正確な累積的後悔の分解が得られる。
分解は上界よりも正確なため、確率的あるいは低雑音の規則は、最悪のケース解析ではスラックとしてではなく、実現された内在時間の自己有界特性として現れる。
同じ計算では、Hedge、楽観的でサイドインフォメーションの亜種、継続的な事前、強化、オンライン凸最適化、文脈的盗賊、繰り返しゲームがカバーされている。
関連論文リスト
- The concentration game: Bayesian updating, regret, and information [0.42671348654734564]
学習者と自然の間に2人のプレイヤーによるゼロサムの繰り返しゲームを与える。
端末の支払いは、コンパレータが以前の固定相対エントロピーで得ることができる最も高いものである。
学習者の移動が制限されず、ギブス/ベイズ重みはその独特なベルマン等化剤として現れる。
論文 参考訳(メタデータ) (2026-08-18T17:52:26Z) - Stabilizing Extrapolation in Looped Transformers via Learned Stochastic Stopping [56.14767235650558]
共有トランスブロックを繰り返し適用するLooped Transformerは、可変長の計算タスクに自然に適合するアーキテクチャである。
この差分を、列長とループ数の間の単純なアルゴリズムタスクにおける突発的相関に追従する。
私たちの研究は、"停止する時"は単なる推論時間割当ルールではなく、トレーニング設計の選択として扱われるべきであることを示唆しています。
論文 参考訳(メタデータ) (2026-06-29T08:58:09Z) - Capacity-Constrained Online Convex Optimization with Delayed Feedback [58.59385794080679]
容量制約下での遅延オンライン凸最適化(OCO)について検討した。
1次フィードバックの場合、容量$C = (log T)$ sufficesで標準遅延OCOレートを対数係数まで回復できることがわかった。
包帯フィードバックの場合、後悔率は$(1 + _textmax/C)$で変調される。
論文 参考訳(メタデータ) (2026-06-10T06:37:06Z) - Convergence, design and training of continuous-time dropout as a random batch method [0.0]
ランダムバッチ方式のレンズを用いた連続時間モデルにおけるドロップアウト正規化について検討する。
我々は、長さ$h$の時間間隔でニューロンのバッチをサンプリングすることによって、ドロップアウトを模倣する、偏りのない、よく考えられた推定器を構築した。
次に、単層ニューラルネットワークを専門とし、分類とフローマッチングの理論を検証する。
論文 参考訳(メタデータ) (2025-10-15T04:19:01Z) - Non-stochastic Bandits With Evolving Observations [47.61533665679308]
既存のモデルを統一し一般化する新しいオンライン学習フレームワークを導入する。
我々は,全情報設定と帯域幅設定の両方に対して,後悔の最小化アルゴリズムを提案する。
我々のアルゴリズムは、多くの特別なケースにまたがる既知の後悔境界と一致し、以前にも知られていない境界も導入する。
論文 参考訳(メタデータ) (2024-05-27T05:32:46Z) - Stochastic Approximation with Delayed Updates: Finite-Time Rates under Markovian Sampling [73.5602474095954]
マルコフサンプリングの遅延更新による近似スキームの非漸近的性能について検討した。
我々の理論的な発見は、幅広いアルゴリズムの遅延の有限時間効果に光を当てた。
論文 参考訳(メタデータ) (2024-02-19T03:08:02Z) - Variance-Aware Regret Bounds for Stochastic Contextual Dueling Bandits [53.281230333364505]
本稿では, 一般化線形モデル(GLM)から, デュエルアームのバイナリ比較を生成するコンテキストデュエルバンド問題について検討する。
本稿では,SupLinUCB型アルゴリズムを提案する。このアルゴリズムは,計算効率と分散を意識したリセットバウンド$tilde Obig(dsqrtsum_t=1Tsigma_t2 + dbig)$を提案する。
我々の後悔は、比較が決定論的である場合の直感的な期待と自然に一致し、アルゴリズムは$tilde O(d)$ regretにのみ悩まされる。
論文 参考訳(メタデータ) (2023-10-02T08:15:52Z) - Accelerated Rates between Stochastic and Adversarial Online Convex Optimization [6.1866042321432175]
我々は,オンライン凸最適化において,対人的損失と完全対人的損失を補間する新たな後悔境界を確立する。
完全i.d.の場合、我々の後悔の限界は加速の結果から期待される速度と一致し、オンラインからバッチへの変換によって最適に加速された速度を回復する。
論文 参考訳(メタデータ) (2023-03-06T16:41:57Z) - Between Stochastic and Adversarial Online Convex Optimization: Improved
Regret Bounds via Smoothness [2.628557920905129]
我々は,オンライン凸最適化において,対人的損失と完全対人的損失を補間する新たな後悔境界を確立する。
この目的を達成するために、損失系列に関連する2つの重要な量を導入し、累積分散と対角変動と呼ぶ。
完全な i.d. の場合、我々の境界は加速の結果から期待される速度と一致し、完全に反対の場合、ミニマックスの後悔と一致するように優雅に劣化する。
論文 参考訳(メタデータ) (2022-02-15T16:39:33Z) - Optimal Change-Point Detection with Training Sequences in the Large and
Moderate Deviations Regimes [72.68201611113673]
本稿では,情報理論の観点から,新しいオフライン変化点検出問題について検討する。
基礎となる事前および変更後分布の知識は分かっておらず、利用可能なトレーニングシーケンスからのみ学習できると仮定する。
論文 参考訳(メタデータ) (2020-03-13T23:39:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。