論文の概要: Policy-Controlled Generalized Share: A General Framework with a Transformer Instantiation for Strictly Online Switching-Oracle Tracking
- arxiv url: http://arxiv.org/abs/2603.28198v1
- Date: Mon, 30 Mar 2026 09:07:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-31 23:18:45.316646
- Title: Policy-Controlled Generalized Share: A General Framework with a Transformer Instantiation for Strictly Online Switching-Oracle Tracking
- Title（参考訳）: ポリシー制御された汎用共有: 厳密なオンラインスイッチング-Oracle追跡のためのトランスフォーマーインスティファイションを備えた汎用フレームワーク
- Authors: Hongkai Hu,
- Abstract要約: 単一の専門家に対する静的な後悔は、厳密なオンライン予測において、非定常性の下での間違ったターゲットであることが多い。
一般化共有再帰を固定する,厳密なオンラインフレームワークであるPCGSについて検討する。
許容された後更新制御の下では、一般的な時間変化学習率に対するパスワイドな後悔保証が得られる。
再現された家庭用電性ベンチマークでは、PCGS-TF は S = 5, 10, 20 に対して最小の正規化された動的後悔を達成している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Static regret to a single expert is often the wrong target for strictly online prediction under non-stationarity, where the best expert may switch repeatedly over time. We study Policy-Controlled Generalized Share (PCGS), a general strictly online framework in which the generalized-share recursion is fixed while the post-loss update controls are allowed to vary adaptively. Its principal instantiation in this paper is PCGS-TF, which uses a causal Transformer as an update controller: after round t finishes and the loss vector is observed, the Transformer outputs the controls that map w_t to w_{t+1} without altering the already committed decision w_t. Under admissible post-loss update controls, we obtain a pathwise weighted regret guarantee for general time-varying learning rates, and a standard dynamic-regret guarantee against any expert path with at most S switches under the constant-learning-rate specialization. Empirically, on a controlled synthetic suite with exact dynamic-programming switching-oracle evaluation, PCGS-TF attains the lowest mean dynamic regret in all seven non-stationary families, with its advantage increasing for larger expert pools. On a reproduced household-electricity benchmark, PCGS-TF also achieves the lowest normalized dynamic regret for S = 5, 10, and 20.
- Abstract（参考訳）: 単一の専門家に対する静的な後悔は、しばしば非定常性の下で厳密なオンライン予測のターゲットを間違える。
我々は、ポストロス更新制御が適応的に可能である間に、一般化共有再帰を固定する、厳密なオンラインフレームワークである、ポリシー制御の汎用共有(PCGS)について検討する。
本論文の主なインスタンス化はPCGS-TFであり、PCGS-TFは因果変換器を更新コントローラとして使用し、ラウンドtが終了し、損失ベクトルが観測されると、トランスフォーマーは、既にコミットされた決定w_tを変更することなく、w_tをw_{t+1}にマップする制御を出力する。
許容された後更新制御の下では、一般的な時間変化学習率に対するパスワイドな後悔保証と、一定の学習速度の専門化の下でSスイッチが最大となる専門家パスに対する標準的な動的信頼保証が得られる。
実験的に、正確な動的プログラミング・スイッチング・オークル評価を備えた制御された合成スイートにおいて、PCGS-TFは7つの非定常系において最も低い平均的動的後悔を達成する。
再現された家庭用電性ベンチマークでは、PCGS-TF は S = 5, 10, 20 に対して最小の正規化された動的後悔を達成している。
関連論文リスト
- Transformers As Generalizable Optimal Controllers [14.889781937667067]
異種多入力多出力(MIMO)線形時間不変(LTI)システムの状態フィードバック法則を1つの学習コントローラで捉えることができるかを検討した。
我々は、標準化、パディング、次元符号化、マスク付き損失の共有表現を用いて、異なる状態と入力次元を持つシステムからLQR生成軌道上の1つのトランスフォーマーポリシーを訓練する。
幅広いシステムの全体にわたって、LQR(Linear Quadratic Regulator)と比較して経験的に小さな準最適性を実現し、中程度のパラメータ摂動の下で安定し続け、目に見えないシステムの軽量な微調整の恩恵を受ける。
論文 参考訳（メタデータ） (2026-03-16T07:09:21Z) - Structure-Dependent Regret and Constraint Violation Bounds for Online Convex Optimization with Time-Varying Constraints [12.438794398358548]
本稿では,ネットワーク現象に対する制約変動の構造的特徴について紹介する。
制約過程が規則性を示すとき、逆数率を厳密に改善する構造に依存した結合境界を導出する。
合成ベンチマークと実世界のデータセットの実験により、SA-PDは累積制約違反を最大53%削減することを示した。
論文 参考訳（メタデータ） (2026-03-15T10:30:35Z) - Generalizing GNNs with Tokenized Mixture of Experts [75.8310720413187]
安定性の向上には,変化に敏感な特徴への依存を低減し,既約最悪の一般化フロアを残す必要があることを示す。
本研究では,STEM-GNNを提案する。STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN。
9つのノード、リンク、グラフのベンチマークで、STEM-GNNはより強力な3方向バランスを実現し、クリアグラフ上での競争力を維持しながら、次数/ホモフィリーシフトや特徴/エッジの破損に対する堅牢性を改善している。
論文 参考訳（メタデータ） (2026-02-09T22:48:30Z) - Plain Transformers are Surprisingly Powerful Link Predictors [57.01966734467712]
リンク予測はグラフ機械学習における中核的な課題であり、リッチで複雑なトポロジ的依存関係をキャプチャするモデルを必要とする。
グラフニューラルネットワーク(GNN)が標準的なソリューションであるのに対して、最先端のパイプラインは明示的な構造やメモリ集約的なノードの埋め込みに依存していることが多い。
本報告では,手作りのプリミティブに置き換えるエンコーダのみのプレーントランスであるPENCILについて,サンプリングしたローカルサブグラフに注目する。
論文 参考訳（メタデータ） (2026-02-02T02:45:52Z) - GateRA: Token-Aware Modulation for Parameter-Efficient Fine-Tuning [51.79350934271497]
GateRAは、PEFT更新の強度を動的に調整するトークン対応変調を導入する統一フレームワークである。
適応ゲーティングを標準のPEFTブランチに組み込むことで、Gateraは選択的でトークンレベルの適応を可能にする。
複数のコモンセンス推論ベンチマークの実験により、GateRAはPEFT法よりも一貫して優れ、一致していることが示された。
論文 参考訳（メタデータ） (2025-11-15T17:55:47Z) - Normalized Attention Guidance: Universal Negative Guidance for Diffusion Models [57.20761595019967]
注意空間にL1をベースとした正規化・精細化を施した,効率的かつトレーニング不要な機構である正規化注意誘導(NAG)を提案する。
NAGは、CFGが忠実性を維持しながら崩壊する効果的な負のガイダンスを復元する。
NAGはアーキテクチャ(UNet、DiT)、サンプリングレシスタンス(複数ステップ、複数ステップ)、モダリティ(イメージ、ビデオ)をまたいで一般化する
論文 参考訳（メタデータ） (2025-05-27T13:30:46Z) - Scaled Supervision is an Implicit Lipschitz Regularizer [32.41225209639384]
ソーシャルメディアでは、レコメンダシステムはクリックスルーレート(CTR)をユーザのエンゲージメントを評価するための標準指標としています。
本稿では,既存のCTRモデルを安定的に最適化し,拡張性の向上を図るため,帯域幅のスケーリングが暗黙のリプシッツ正規化器として機能することを示す。
論文 参考訳（メタデータ） (2025-03-19T01:01:28Z) - Boosting Adversarial Training via Fisher-Rao Norm-based Regularization [9.975998980413301]
本稿では,ロバスト性と精度のトレードオフを軽減するため,LOAT(Logit-Oriented Adversarial Training)と呼ばれる新たな正規化フレームワークを提案する。
実験により,提案した正規化戦略により,有意な対向学習アルゴリズムの性能が向上することを示した。
論文 参考訳（メタデータ） (2024-03-26T09:22:37Z) - Delayed Propagation Transformer: A Universal Computation Engine towards
Practical Control in Cyber-Physical Systems [68.75717332928205]
マルチエージェント制御はサイバー物理システムにおいて中心的なテーマである。
本稿では,CPSのグローバルモデリングを専門とするトランスフォーマーモデルを提案する。
物理的な制約帰納バイアスが設計に組み込まれているため、DePTは幅広い種類のマルチエージェントシステムにプラグアンドプレイする準備ができています。
論文 参考訳（メタデータ） (2021-10-29T17:20:53Z) - Non-stationary Online Learning with Memory and Non-stochastic Control [71.14503310914799]
我々は,過去の決定に依拠する損失関数を許容するメモリを用いたオンライン凸最適化(OCO)の問題について検討する。
本稿では,非定常環境に対してロバストなアルゴリズムを設計するための性能指標として,動的ポリシーの後悔を紹介する。
我々は,時間的地平線,非定常度,メモリ長といった面で,最適な動的ポリシーの後悔を確実に享受するメモリ付きOCOの新しいアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-02-07T09:45:15Z) - Adaptive Regret for Control of Time-Varying Dynamics [31.319502238224334]
制御の分野に適応的後悔の尺度を導入する。
私たちの主な貢献は、新しい効率的なメタアルゴリズムです。
主要な技術的革新は、メモリを伴うオンライン凸最適化のより一般的なフレームワークに対する最初の適応的後悔のバウンドである。
論文 参考訳（メタデータ） (2020-07-08T19:40:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。