論文の概要: Catching a Moving Subspace: Low-Rank Bandits Beyond Stationarity
- arxiv url: http://arxiv.org/abs/2605.20269v1
- Date: Mon, 18 May 2026 22:01:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.253388
- Title: Catching a Moving Subspace: Low-Rank Bandits Beyond Stationarity
- Title(参考訳): 移動中のサブスペースをキャッチする:低ランクバンドが静止範囲を越えている
- Authors: Hamed Khosravi, Xiaoming Huo,
- Abstract要約: 本研究では,スカラーフィードバックを用いた縦-縦-縦-縦-横-横-縦-縦-縦-縦-縦-縦-縦-縦-縦-縦-縦-縦-縦-縦-縦-縦-横-横-横-横-横-横-横-横-横-横-横-縦-横-横-横-横-横-横-横-横-
シングルプレイスカラー報酬では、移動部分空間は報酬の二次函数によって回復可能である。
これは、識別境界を特徴づけ、本質的なランクの動的回帰率を得るための最初の研究である。
- 参考スコア(独自算出の注目度): 13.385373310554327
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many bandit deployments (recommendation, clinical dosing, ad targeting) share two facts prior work handles only in isolation: rewards live on a low-dimensional latent subspace, and that subspace drifts. Stationary low-rank bandits exploit rank but break under subspace change; non-stationary linear bandits adapt to drift but pay ambient rate $\widetilde{O}(d\sqrt{T})$. We study piecewise-stationary low-rank linear contextual bandits with scalar feedback: $θ_t = B_k^\star w_t$ with rank-$r$ factor $B_k^\star\in\mathbb{R}^{d\times r}$ constant within each of $K$ unknown segments and able to shift at boundaries. Our results are tight along three axes. (i) Identification boundary. With single-play scalar rewards, the moving subspace is recoverable through quadratic functionals of rewards iff three probe-side conditions hold: known noise variance, bounded state-noise coupling, and full-dimensional probe support. Each is necessary in the unrestricted-second-moment problem, and jointly they are sufficient, characterizing the boundary of the solvable region. (ii) Algorithm and dynamic regret. SPSC interleaves isotropic probes with windowed projected ridge-UCB exploitation inside the learned $r$-dimensional subspace; a CUSUM-style variant discovers segment boundaries online. The costed dynamic regret is $\widetilde{O}(r\sqrt{T})+\widetilde{O}(T^{2/3})+O(W\,V_{\mathrm{in}})$, replacing the ambient $d\sqrt{T}$ rate with the intrinsic rank. (iii) Empirics. On eleven benchmarks spanning synthetic, UCI/MovieLens, semi-synthetic clinical, and ZOZOTOWN production-log data, SPSC outperforms non-stationary and low-rank baselines whenever $d-r\gtrsim T^{1/6}$, matching the analytical crossover. To our knowledge, this is the first work to characterize the identification boundary and attain the intrinsic-rank dynamic-regret rate in this setting.
- Abstract(参考訳): 多くの帯域配置(勧告、臨床試験、広告ターゲティング)は、作業前の処理が単独で行う2つの事実を共有している。
非定常線形帯域はドリフトに適応するが、周辺レート$\widetilde{O}(d\sqrt{T})$を支払う。
階数-$r$ factor $B_k^\star\mathbb{R}^{d\times r}$は、未知のセグメントのそれぞれにおいて定数であり、境界においてシフトすることができる。
私たちの結果は3つの軸に沿ってきつい。
(i)識別境界。
シングルプレイのスカラー報酬では、移動部分空間は、既知のノイズ分散、境界状態-ノイズ結合、フル次元プローブ支持という3つのプローブ側条件の2次関数によって回復可能である。
それぞれが制限のない第二モーメント問題において必要であり、可解領域の境界を特徴付けるのに十分である。
(ii)アルゴリズムと動的後悔。
SPSCは、学習した$r$次元部分空間内の窓付きリッジ-UCBによる等方性プローブをインターリーブし、CUSUMスタイルの変種はセグメント境界をオンラインで発見する。
コストのかかる動的後悔は$\widetilde{O}(r\sqrt{T})+\widetilde{O}(T^{2/3})+O(W\,V_{\mathrm{in}})$で、周囲の$d\sqrt{T}$レートを内在ランクに置き換える。
(三)実証。
合成, UCI/MovieLens, 半合成臨床, ZOZOTOWN 生産ログデータにまたがる11のベンチマークにおいて、SPSC は、解析的クロスオーバーと一致する$d-r\gtrsim T^{1/6}$ のとき、非定常および低ランクのベースラインより優れている。
我々の知る限り、本研究は識別境界を特徴付け、本設定における固有ランク動的回帰率を得るための最初の研究である。
関連論文リスト
- Dynamic Mode Decomposition along Depth in Vision Transformers [2.899294572150795]
我々は,ViTの深さがほぼ自明な線形力学を実装しているかどうかを問う。
我々は、動的モード分解(DMD)を用いてこれをテストし、選択された連続した隠れ状態ペアからK$に適合する。
予め訓練した4種類のDINO ViTについて, 安定適合に必要な正則化, ランク, 校正予算について検討した。
論文 参考訳(メタデータ) (2026-05-08T10:33:03Z) - Subspace Geometry Governs Catastrophic Forgetting in Low-Rank Adaptation [0.0]
Low-Rank Adaptation (LoRA) は、大規模な事前学習モデルに適応するためのパラメータ効率の高いアプローチとして登場した。
勾配部分空間相互作用のレンズを通して,LoRAにおける破滅的忘れを特徴付ける幾何学的理論を提案する。
論文 参考訳(メタデータ) (2026-02-10T22:45:47Z) - Improved Algorithm for Adversarial Linear Mixture MDPs with Bandit
Feedback and Unknown Transition [71.33787410075577]
線形関数近似,未知遷移,および逆損失を用いた強化学習について検討した。
我々は高い確率で$widetildeO(dsqrtHS3K + sqrtHSAK)$ regretを実現する新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-07T15:03:50Z) - Horizon-free Reinforcement Learning in Adversarial Linear Mixture MDPs [72.40181882916089]
我々のアルゴリズムが $tildeObig((d+log (|mathcalS|2 |mathcalA|))sqrtKbig)$ regret with full-information feedback, where $d$ is the dimension of a known feature mapping is linearly parametrizing the unknown transition kernel of the MDP, $K$ is the number of episodes, $|mathcalS|$ and $|mathcalA|$ is the standardities of the state and action space。
論文 参考訳(メタデータ) (2023-05-15T05:37:32Z) - Borda Regret Minimization for Generalized Linear Dueling Bandits [65.09919504862496]
本稿では,ボルダスコアが最も高い項目を識別することを目的とした,デュエルバンディットに対するボルダ後悔最小化問題について検討する。
本稿では,多くの既存モデルをカバーする一般化線形デュエルバンドモデルのリッチクラスを提案する。
我々のアルゴリズムは$tildeO(d2/3 T2/3)$ regretを達成し、これも最適である。
論文 参考訳(メタデータ) (2023-03-15T17:59:27Z) - Bilinear Exponential Family of MDPs: Frequentist Regret Bound with
Tractable Exploration and Planning [0.0]
本研究では,不確実な報酬と遷移を伴う連続状態行動空間におけるエピソード強化学習の課題について検討する。
我々は,未知のパラメータを学習するために,ペナライズされた最大確率推定器を用いたアルゴリズムBEF-RLSVIを提案する。
論文 参考訳(メタデータ) (2022-10-05T08:26:49Z) - Stochastic Linear Bandits with Protected Subspace [51.43660657268171]
線形目的関数を最適化するが、報酬は未知の部分空間にのみ得られる線形帯域問題の変種について検討する。
特に、各ラウンドでは、学習者は、目的または保護されたサブスペースを、アクションの選択とともにクエリするかどうかを選択する必要がある。
提案アルゴリズムはOFULの原理から導かれるもので,保護された空間を推定するためにクエリのいくつかを利用する。
論文 参考訳(メタデータ) (2020-11-02T14:59:39Z) - Nearly Dimension-Independent Sparse Linear Bandit over Small Action
Spaces via Best Subset Selection [71.9765117768556]
本研究では,高次元線形モデルの下での文脈的帯域問題について考察する。
この設定は、パーソナライズされたレコメンデーション、オンライン広告、パーソナライズされた医療など、不可欠な応用を見出す。
本稿では,最適部分集合選択法を用いて2重成長エポックを推定する手法を提案する。
論文 参考訳(メタデータ) (2020-09-04T04:10:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。