論文の概要: Efficient Online Lexicographic Generalized Low-Rank Matrix Bandits
- arxiv url: http://arxiv.org/abs/2608.04324v1
- Date: Wed, 05 Aug 2026 01:08:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.680657
- Title: Efficient Online Lexicographic Generalized Low-Rank Matrix Bandits
- Title(参考訳): オンラインLexicographic Generalized Low-Rank Matrix Bandits
- Authors: Bo Xue, Ji Cheng, Haodong Jing, Hongzong Li, Shuang Qiu,
- Abstract要約: 本稿では,複数の目的を持つ低ランク行列バンド幅の一般化について検討する。
学習者は、語彙的嗜好の順序に従って腕を評価し、より下位の目標よりも上位の目標を優先する。
提案するTextscLexi-LowGLMは,まず目的に応じた低ランク部分空間を推定し,縮小した特徴空間で語彙学習を行う。
- 参考スコア(独自算出の注目度): 13.534566778147356
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper studies generalized low-rank matrix bandits with multiple prioritized objectives. At each round, the learner selects a matrix-valued arm and observes a vector-valued reward, whose components correspond to multiple objectives with different priority levels. Each objective is governed by an objective-specific generalized low-rank matrix model, and the learner evaluates arms according to a lexicographic preference order, prioritizing higher-level objectives before lower-level ones. We propose \textsc{Lexi-LowGLM}, an efficient online algorithm that first estimates objective-specific low-rank subspaces and then performs lexicographic learning in the reduced feature spaces. Unlike existing single-objective algorithms that repeatedly solve a batch generalized linear estimator using all historical observations, \textsc{Lexi-LowGLM} updates each objective-specific estimator via an online Newton step, reducing the estimator-update complexity over $T$ rounds from $O(T^2)$ to $O(T)$. We establish a regret bound of $\widetilde O\left(W_i^{\rm lex}\sqrt{m}\,(d_1+d_2)r\sqrt{T}\right)$ for each objective $i\in[m]$, where $r$ is an upper bound on the ranks of the objective-specific parameter matrices and $W_i^{\rm lex}$ characterizes the lexicographic trade-off effect. This bound depends on the effective low-rank dimension $(d_1+d_2)r$ rather than the ambient dimension $d_1d_2$. Numerical experiments further validate the effectiveness and computational efficiency of the proposed method.
- Abstract(参考訳): 本稿では,複数の優先目標を持つ低ランク行列バンド幅の一般化について検討する。
各ラウンドにおいて、学習者は行列値のアームを選択し、ベクトル値の報酬を観察する。
各目的は、目的別に一般化された低ランク行列モデルにより制御され、学習者は、低レベルのものよりも高いレベルの目的を優先して、語彙的嗜好順序に従って腕を評価する。
そこで本稿では,まず目的別低ランク部分空間を推定し,次に縮小した特徴空間で語彙学習を行う,効率的なオンラインアルゴリズムである「textsc{Lexi-LowGLM}」を提案する。
すべての歴史的観測値を用いて、バッチ一般化線形推定器を何度も解く既存の単目的アルゴリズムとは異なり、 \textsc{Lexi-LowGLM} は、オンラインニュートンステップを介して各目標固有推定器を更新し、$O(T^2)$から$O(T)$までの$T$以上の推定器更新複雑性を減少させる。
W_i^{\rm lex}\sqrt{m}\,(d_1+d_2)r\sqrt{T}\right)$ for each objective $i\in[m]$, $r$ is a upper bound on the rank of the objective-specific parameter matrices and $W_i^{\rm lex}$ is characterizedize the lexicographic trade-off effect。
この境界は実効的な低ランク次元$(d_1+d_2)r$に依存し、周囲次元$d_1d_2$に依存する。
数値実験により,提案手法の有効性と計算効率が検証された。
関連論文リスト
- FFT-based Dynamic Subspace Selection for Low-Rank Adaptive Optimization of Large Language Models [49.397861654088636]
低次元空間へのSVD/QRベースの勾配射影を近似する2段階の手順を提案する。
当社の戦略はランタイムの高速化とメモリ使用量の削減を,さまざまなモデルサイズで最大25%削減できることが示されています。
論文 参考訳(メタデータ) (2025-05-23T14:37:00Z) - FedSVD: Adaptive Orthogonalization for Private Federated Learning with LoRA [68.44043212834204]
Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
論文 参考訳(メタデータ) (2025-05-19T07:32:56Z) - Low-Rank Bandits via Tight Two-to-Infinity Singular Subspace Recovery [45.601316850669406]
本稿では,政策評価,最良政策識別,後悔の最小化のための効率的なアルゴリズムを提案する。
政策評価と最良の政策識別のために,我々のアルゴリズムは最小限に最適であることを示す。
提案アルゴリズムは、まずスペクトル法を利用して、低ランク報酬行列の左特異部分空間と右特異部分空間を推定する。
論文 参考訳(メタデータ) (2024-02-24T06:36:08Z) - Majorization-minimization for Sparse Nonnegative Matrix Factorization
with the $\beta$-divergence [2.3787352248749376]
他の因子(辞書行列)のノルムは不正な定式化を避けるために制御する必要があることはよく知られている。
標準のプラクティスは、辞書の列に単位ノルムを持つよう制約することであり、これは非自明な最適化問題につながる。
我々は,$ell_1$-regularization あるいはより "攻撃的" なログ規則化に対して,単純な乗法的更新をもたらすブロック・ディフレッシブ・プライマリゼーション・最小化アルゴリズムを導出する。
論文 参考訳(メタデータ) (2022-07-13T16:09:29Z) - Clustering Mixture Models in Almost-Linear Time via List-Decodable Mean
Estimation [58.24280149662003]
本稿では,データセットの大部分を敵が破壊できるリストデコタブル平均推定の問題について検討する。
我々は、ほぼ最適な統計的保証を達成するために、リストデコダブル平均推定のための新しいアルゴリズムを開発した。
論文 参考訳(メタデータ) (2021-06-16T03:34:14Z) - Randomized Exploration for Reinforcement Learning with General Value
Function Approximation [122.70803181751135]
本稿では,ランダム化最小二乗値反復(RLSVI)アルゴリズムに着想を得たモデルレス強化学習アルゴリズムを提案する。
提案アルゴリズムは,スカラーノイズを用いたトレーニングデータを簡易に摂動させることにより,探索を促進する。
我々はこの理論を、既知の困難な探査課題にまたがる実証的な評価で補完する。
論文 参考訳(メタデータ) (2021-06-15T02:23:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。