論文の概要: Non-Stationary Bandits with Auto-Regressive Temporal Dependency
- arxiv url: http://arxiv.org/abs/2210.16386v3
- Date: Tue, 12 Dec 2023 18:42:37 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-13 21:06:38.423916
- Title: Non-Stationary Bandits with Auto-Regressive Temporal Dependency
- Title(参考訳): 自己回帰的時間依存を伴う非定常バンディット
- Authors: Qinyi Chen, Negin Golrezaei, Djallel Bouneffouf
- Abstract要約: 本稿では,自己回帰(AR)報酬構造を通じて実世界の力学の時間構造をキャプチャする,新しい非定常MABフレームワークを提案する。
i) 時間的依存を利用して探索と利用を動的にバランスさせるのに適した変更機構と, (ii) 時代遅れの情報を捨てるように設計された再起動機構の2つの主要なメカニズムを統合するアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 14.093856726745662
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Traditional multi-armed bandit (MAB) frameworks, predominantly examined under
stochastic or adversarial settings, often overlook the temporal dynamics
inherent in many real-world applications such as recommendation systems and
online advertising. This paper introduces a novel non-stationary MAB framework
that captures the temporal structure of these real-world dynamics through an
auto-regressive (AR) reward structure. We propose an algorithm that integrates
two key mechanisms: (i) an alternation mechanism adept at leveraging temporal
dependencies to dynamically balance exploration and exploitation, and (ii) a
restarting mechanism designed to discard out-of-date information. Our algorithm
achieves a regret upper bound that nearly matches the lower bound, with regret
measured against a robust dynamic benchmark. Finally, via a real-world case
study on tourism demand prediction, we demonstrate both the efficacy of our
algorithm and the broader applicability of our techniques to more complex,
rapidly evolving time series.
- Abstract(参考訳): 従来のマルチアーム・バンディット(MAB)フレームワークは、確率的あるいは敵対的な設定の下で主に検討され、しばしばレコメンデーションシステムやオンライン広告のような多くの現実世界のアプリケーションに固有の時間的ダイナミクスを見落としている。
本稿では, 自己回帰(AR)報酬構造を用いて, 実世界の力学の時間的構造を捉えた新しい非定常MABフレームワークを提案する。
2つの重要なメカニズムを統合するアルゴリズムを提案する。
(i)時間依存を利用して探索と搾取の動的バランスをとるための交替機構
(ii)既報情報を破棄するように設計された再起動機構。
本アルゴリズムは,ロバストな動的ベンチマークに対する後悔を計測することで,下限にほぼ匹敵する後悔上限を達成する。
最後に,観光需要予測に関する実世界のケーススタディを通じて,我々のアルゴリズムの有効性と,より複雑で急速に進化する時系列への我々の手法の適用性の両方を実証する。
関連論文リスト
- Autoregressive Moving-average Attention Mechanism for Time Series Forecasting [9.114664059026767]
本稿では,各種の線形アテンション機構に適応可能な自己回帰(AR)移動平均アテンション構造を提案する。
本稿では、まず、時系列予測(TSF)タスクに対して、これまで見過ごされていたデコーダのみの自己回帰変換モデルが、最良のベースラインに匹敵する結果が得られることを実証する。
論文 参考訳(メタデータ) (2024-10-04T05:45:50Z) - SFANet: Spatial-Frequency Attention Network for Weather Forecasting [54.470205739015434]
天気予報は様々な分野において重要な役割を担い、意思決定とリスク管理を推進している。
伝統的な手法は、しばしば気象系の複雑な力学を捉えるのに苦労する。
本稿では,これらの課題に対処し,天気予報の精度を高めるための新しい枠組みを提案する。
論文 参考訳(メタデータ) (2024-05-29T08:00:15Z) - GPT-ST: Generative Pre-Training of Spatio-Temporal Graph Neural Networks [24.323017830938394]
この作業は、ベースラインとシームレスに統合し、パフォーマンスを向上する事前トレーニングフレームワークを導入することで、課題に対処することを目的としている。
フレームワークは2つの重要な設計に基づいて構築されている。
Apple-to-appleマスクオートエンコーダは、学習時間依存のための事前トレーニングモデルである。
これらのモジュールは、時間内カスタマイズされた表現とセマンティック・クラスタ間関係を捉えるように設計されている。
論文 参考訳(メタデータ) (2023-11-07T02:36:24Z) - Revisiting the Temporal Modeling in Spatio-Temporal Predictive Learning
under A Unified View [73.73667848619343]
UTEP(Unified S-Temporal Predictive Learning)は,マイクロテンポラリスケールとマクロテンポラリスケールを統合した再帰的および再帰的フリーな手法を再構築する,革新的なフレームワークである。
論文 参考訳(メタデータ) (2023-10-09T16:17:42Z) - Easy attention: A simple attention mechanism for temporal predictions with transformers [2.172584429650463]
キー,クエリ,ソフトマックスは,時間的シーケンスにおける長期依存を捉えるのに必要な注意点を得るのに必要ではないことを示す。
提案手法は,注意点を直接学習可能なパラメータとして扱う。
この手法はカオスシステムの時間的ダイナミクスの再構築と予測において優れた結果をもたらす。
論文 参考訳(メタデータ) (2023-08-24T15:54:32Z) - Game-Theoretic Robust Reinforcement Learning Handles Temporally-Coupled Perturbations [98.5802673062712]
我々は時間的に結合した摂動を導入し、既存の頑健な強化学習手法に挑戦する。
本稿では、時間的に結合したロバストなRL問題を部分的に観測可能な2プレイヤーゼロサムゲームとして扱う新しいゲーム理論であるGRADを提案する。
論文 参考訳(メタデータ) (2023-07-22T12:10:04Z) - Pessimism meets VCG: Learning Dynamic Mechanism Design via Offline
Reinforcement Learning [114.36124979578896]
オフライン強化学習アルゴリズムを用いて動的メカニズムを設計する。
我々のアルゴリズムは悲観主義の原理に基づいており、オフラインデータセットのカバレッジについて軽度な仮定しか必要としない。
論文 参考訳(メタデータ) (2022-05-05T05:44:26Z) - Accelerated Continuous-Time Approximate Dynamic Programming via
Data-Assisted Hybrid Control [0.0]
本研究では,アクター・クリティックな構造に動的運動量を組み込んだアルゴリズムを導入し,アフィン構造を入力とする連続時間動植物を制御する。
アルゴリズムに動的運動量を導入することにより、閉ループ系の収束特性を加速することができる。
論文 参考訳(メタデータ) (2022-04-27T05:36:51Z) - Learning Dynamic Mechanisms in Unknown Environments: A Reinforcement
Learning Approach [130.9259586568977]
本稿では,複数ラウンドの対話を通して動的ビックレー・クラーク・グローブ(VCG)機構を回復するための新しい学習アルゴリズムを提案する。
当社のアプローチの重要な貢献は、報酬のないオンライン強化学習(RL)を取り入れて、リッチな政策分野の探索を支援することである。
論文 参考訳(メタデータ) (2022-02-25T16:17:23Z) - Stochastically forced ensemble dynamic mode decomposition for
forecasting and analysis of near-periodic systems [65.44033635330604]
本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。
固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。
電力グリッドからの負荷データを用いたテストケースの結果が提示される。
論文 参考訳(メタデータ) (2020-10-08T20:25:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。