論文の概要: LNUCB-TA: Linear-nonlinear Hybrid Bandit Learning with Temporal Attention

• arxiv url: http://arxiv.org/abs/2503.00387v1
• Date: Sat, 01 Mar 2025 07:24:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-05 19:26:49.995466
• Title: LNUCB-TA: Linear-nonlinear Hybrid Bandit Learning with Temporal Attention
• Title（参考訳）: LNUCB-TA: 時間的注意を伴う線形非線形ハイブリッド帯域学習
• Authors: Hamed Khosravi, Mohammad Reza Shafie, Ahmed Shoyeb Raihan, Srinjoy Das, Imtiaz Ahmed,
• Abstract要約: マルチアーム・バンディット(MAB)アルゴリズムは、すべての腕の長期的な傾向と局所的なパターンの両方を捉えることができない。 LNUCB-TAは,新しい非線形成分(適応的k-Nearest Neighbors (k-NN))を統合するハイブリッドバンドバンドモデルである。 本研究では, 線形, 非線形, ハイブリッドのバンドレートの累積, 平均報酬, 収束, 頑健性において, 異なる探査速度で有意な性能を示した。
• 参考スコア（独自算出の注目度）: 3.4311670445892024
• License:
• Abstract: Existing contextual multi-armed bandit (MAB) algorithms fail to effectively capture both long-term trends and local patterns across all arms, leading to suboptimal performance in environments with rapidly changing reward structures. They also rely on static exploration rates, which do not dynamically adjust to changing conditions. To overcome these limitations, we propose LNUCB-TA, a hybrid bandit model integrating a novel nonlinear component (adaptive k-Nearest Neighbors (k-NN)) for reducing time complexity, alongside a global-and-local attention-based exploration mechanism. Our approach uniquely combines linear and nonlinear estimation techniques, with the nonlinear module dynamically adjusting k based on reward variance to enhance spatiotemporal pattern recognition. This reduces the likelihood of selecting suboptimal arms while improving reward estimation accuracy and computational efficiency. The attention-based mechanism ranks arms by past performance and selection frequency, dynamically adjusting exploration and exploitation in real time without requiring manual tuning of exploration rates. By integrating global attention (assessing all arms collectively) and local attention (focusing on individual arms), LNUCB-TA efficiently adapts to temporal and spatial complexities. Empirical results show LNUCB-TA significantly outperforms state-of-the-art linear, nonlinear, and hybrid bandits in cumulative and mean reward, convergence, and robustness across different exploration rates. Theoretical analysis further confirms its reliability with a sub-linear regret bound.
• Abstract（参考訳）: 既存のコンテキスト型マルチアーム・バンディット(MAB)アルゴリズムは、すべてのアームにわたる長期トレンドと局所パターンの両方を効果的にキャプチャすることができず、急速に変化する報酬構造を持つ環境において、最適以下のパフォーマンスをもたらす。 また、変動条件に動的に適応しない静的探索率にも依存している。 これらの制約を克服するため,LNUCB-TAは,グローバル・ローカル・アテンションに基づく探索機構とともに,時間的複雑性を低減するために,新しい非線形成分(適応的k-Nearest Neighbors (k-NN))を統合するハイブリッドバンディットモデルを提案する。 この手法は線形および非線形推定手法を一意に組み合わせ、非線形加群は報酬分散に基づいてkを動的に調整し、時空間パターン認識を向上させる。 これにより、報酬推定精度と計算効率を向上させるとともに、最適下腕を選択する可能性を低減することができる。 注意に基づくメカニズムは、過去のパフォーマンスと選択頻度で武器をランク付けし、探索率のマニュアルチューニングを必要とせず、リアルタイムで探索と利用を動的に調整する。 グローバルアテンション(全腕を総合的に評価する)とローカルアテンション(個別の腕に焦点をあてる)を統合することで、LNUCB-TAは時間的・空間的複雑さに効率的に適応する。 実験の結果,LNUCB-TAは,各探査速度における累積および平均報酬,収束,ロバスト性において,最先端の線形,非線形,ハイブリッドのブレイビットよりも有意に優れていた。 理論的解析により、その信頼性はサブ線形後悔境界によってさらに確認される。

関連論文リスト

• Locally Adaptive One-Class Classifier Fusion with Dynamic $\ell$p-Norm Constraints for Robust Anomaly Detection [17.93058599783703]
  局所的なデータ特性に基づいて,融合重みを動的に調整するフレームワークを提案する。 本手法は,計算効率を大幅に向上させる内部点最適化手法を取り入れたものである。 計算効率を維持しながらローカルなデータパターンに適応できるフレームワークの能力は、リアルタイムアプリケーションに特に有用である。
  論文  参考訳（メタデータ） (2024-11-10T09:57:13Z)
• UncertaintyRAG: Span-Level Uncertainty Enhanced Long-Context Modeling for Retrieval-Augmented Generation [93.38604803625294]
  IncertaintyRAG, a novel approach for long-context Retrieval-Augmented Generation (RAG)について紹介する。 我々は、SNR(Signal-to-Noise Ratio)ベースのスパン不確実性を用いて、テキストチャンク間の類似性を推定する。 不確かさRAGはLLaMA-2-7Bでベースラインを2.03%上回り、最先端の結果を得る。
  論文  参考訳（メタデータ） (2024-10-03T17:39:38Z)
• SFANet: Spatial-Frequency Attention Network for Weather Forecasting [54.470205739015434]
  天気予報は様々な分野において重要な役割を担い、意思決定とリスク管理を推進している。 伝統的な手法は、しばしば気象系の複雑な力学を捉えるのに苦労する。 本稿では,これらの課題に対処し,天気予報の精度を高めるための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2024-05-29T08:00:15Z)
• Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
  同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。 一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。 本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
  論文  参考訳（メタデータ） (2024-03-27T09:14:36Z)
• Robust optimization for adversarial learning with finite sample complexity guarantees [1.8434042562191815]
  本稿では,線形・非線形な分類問題に着目し,ロバストな分類器に対する新しい逆学習法を提案する。 データ駆動型レンズの下ではロバスト性があり、線形および非線形の分類器の2進および複数クラスシナリオにおける有限標本複雑性境界を導出する。 線形および非線形モデルに対する線形計画法 (LP) と2次コーン計画法 (SOCP) を用いて, 最悪のサロゲート損失を最小限に抑えるアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-03-22T13:49:53Z)
• Uncertainty-Aware Deep Attention Recurrent Neural Network for Heterogeneous Time Series Imputation [0.25112747242081457]
  欠落は多変量時系列においてユビキタスであり、信頼できる下流分析の障害となる。 本稿では、欠落した値とその関連不確かさを共同で推定するDeep Attention Recurrent Imputation (Imputation)を提案する。 実験の結果,実世界のデータセットを用いた多様な計算タスクにおいて,SOTAを上回っていることがわかった。
  論文  参考訳（メタデータ） (2024-01-04T13:21:11Z)
• Achieving Constraints in Neural Networks: A Stochastic Augmented Lagrangian Approach [49.1574468325115]
  DNN(Deep Neural Networks)の正規化は、一般化性の向上とオーバーフィッティングの防止に不可欠である。 制約付き最適化問題としてトレーニングプロセスのフレーミングによるDNN正規化に対する新しいアプローチを提案する。 我々はAugmented Lagrangian (SAL) 法を用いて、より柔軟で効率的な正規化機構を実現する。
  論文  参考訳（メタデータ） (2023-10-25T13:55:35Z)
• From Deterioration to Acceleration: A Calibration Approach to Rehabilitating Step Asynchronism in Federated Optimization [13.755421424240048]
  我々は,局所的な方向を予測的グローバルな方向に調整する新しいアルゴリズムであるtexttFedaGracを提案する。 理論的には、texttFedaGrac は最先端のアプローチよりも収束率の向上を証明している。
  論文  参考訳（メタデータ） (2021-12-17T07:26:31Z)
• Optimization on manifolds: A symplectic approach [127.54402681305629]
  本稿では、最適化問題を解くための一般的な枠組みとして、ディラックの制約付きハミルトン系理論の散逸拡張を提案する。 我々の(加速された)アルゴリズムのクラスは単純で効率的なだけでなく、幅広い文脈にも適用できる。
  論文  参考訳（メタデータ） (2021-07-23T13:43:34Z)
• On The Verification of Neural ODEs with Stochastic Guarantees [14.490826225393096]
  時間連続型ニューラルネットワークの新興クラスであるneural odesは,グローバル最適化問題の集合を解いて検証できることを示す。 密なReachtubeを構築するための抽象化ベースのテクニックであるLagran Reachability(SLR)を紹介する。
  論文  参考訳（メタデータ） (2020-12-16T11:04:34Z)
• Pushing the Envelope of Rotation Averaging for Visual SLAM [69.7375052440794]
  視覚SLAMシステムのための新しい最適化バックボーンを提案する。 従来の単分子SLAMシステムの精度, 効率, 堅牢性を向上させるために, 平均化を活用している。 我々のアプローチは、公開ベンチマークの最先端技術に対して、同等の精度で最大10倍高速に表示することができる。
  論文  参考訳（メタデータ） (2020-11-02T18:02:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。