論文の概要: Regret Lower Bounds for Learning Linear Quadratic Gaussian Systems
- arxiv url: http://arxiv.org/abs/2201.01680v1
- Date: Wed, 5 Jan 2022 16:19:16 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-06 15:42:25.292976
- Title: Regret Lower Bounds for Learning Linear Quadratic Gaussian Systems
- Title(参考訳): 線形二次ガウス系学習における後悔下限
- Authors: Ingvar Ziemann, Henrik Sandberg
- Abstract要約: 局所ミニマックスは、線形四元系-ガウス系(LQG)を適応的に制御するために低い境界を後悔する。
我々は,スムーズなパラメトリズドインスタンスを考察し,対数的後悔がいつ不可能かを理解する。
- 参考スコア(独自算出の注目度): 8.469413522654428
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper presents local minimax regret lower bounds for adaptively
controlling linear-quadratic-Gaussian (LQG) systems. We consider smoothly
parametrized instances and provide an understanding of when logarithmic regret
is impossible which is both instance specific and flexible enough to take
problem structure into account. This understanding relies on two key notions:
That of local-uninformativeness; when the optimal policy does not provide
sufficient excitation for identification of the optimal policy, and yields a
degenerate Fisher information matrix; and that of
information-regret-boundedness, when the small eigenvalues of a
policy-dependent information matrix are boundable in terms of the regret of
that policy. Combined with a reduction to Bayesian estimation and application
of Van Trees' inequality, these two conditions are sufficient for proving
regret bounds on order of magnitude $\sqrt{T}$ in the time horizon, $T$. This
method yields lower bounds that exhibit tight dimensional dependencies and
scale naturally with control-theoretic problem constants. For instance, we are
able to prove that systems operating near marginal stability are fundamentally
hard to learn to control. We further show that large classes of systems satisfy
these conditions, among them any state-feedback system with both $A$- and
$B$-matrices unknown. Most importantly, we also establish that a nontrivial
class of partially observable systems, essentially those that are
over-actuated, satisfy these conditions, thus providing a $\sqrt{T}$ lower
bound also valid for partially observable systems. Finally, we turn to two
simple examples which demonstrate that our lower bound captures classical
control-theoretic intuition: our lower bounds diverge for systems operating
near marginal stability or with large filter gain -- these can be arbitrarily
hard to (learn to) control.
- Abstract(参考訳): 本稿では,LQG系を適応的に制御するための局所的ミニマックス後悔低境界について述べる。
我々は、スムーズなパラメトリズドインスタンスを検討し、問題構造を考慮するのに十分なインスタンス固有かつ柔軟な対数的後悔がいつ不可能かを理解する。
この理解は2つの重要な概念に依存している: 局所的不定形性; 最適ポリシーが最適ポリシーの識別に十分な励起を提供しておらず、縮退したフィッシャー情報行列を与えるとき; および、ポリシーに依存した情報行列の小さな固有値が、そのポリシーの後悔の点において有界であるときの情報-相対有界性(information-regret-boundedness)である。
ベイズ推定への還元とヴァン・ツリーの不等式の適用と合わせて、これら2つの条件は時間地平線において等級$\sqrt{T}$の後悔境界を証明するのに十分である。
この方法は、厳密な次元依存を示す下界を導き、制御理論問題定数で自然にスケールする。
例えば、限界安定性に近いシステムの動作は、基本的に制御の習得が難しいことを証明できます。
さらに、これらの条件を満たすシステムの大規模なクラス、中でも$A$-および$B$-matricesが不明な状態フィードバックシステムを示す。
最も重要なことは、本質的に過飽和な部分可観測系の非自明なクラスがこれらの条件を満たすこと、従って、$\sqrt{T}$下界が部分可観測系にも有効であることを示すことである。
最後に、我々の下界が古典的な制御理論の直観を捉えていることを示す2つの単純な例に目を向ける。
関連論文リスト
- Beyond the Edge of Stability via Two-step Gradient Updates [49.03389279816152]
Gradient Descent(GD)は、現代の機械学習の強力な仕事場である。
GDが局所最小値を見つける能力は、リプシッツ勾配の損失に対してのみ保証される。
この研究は、2段階の勾配更新の分析を通じて、単純だが代表的でありながら、学習上の問題に焦点をあてる。
論文 参考訳(メタデータ) (2022-06-08T21:32:50Z) - Deep Learning Approximation of Diffeomorphisms via Linear-Control
Systems [91.3755431537592]
我々は、制御に線形に依存する$dot x = sum_i=1lF_i(x)u_i$という形の制御系を考える。
対応するフローを用いて、コンパクトな点のアンサンブル上の微分同相写像の作用を近似する。
論文 参考訳(メタデータ) (2021-10-24T08:57:46Z) - On Uninformative Optimal Policies in Adaptive LQR with Unknown B-Matrix [7.507288369705302]
適応線形擬似レギュレータ(LQR)の局所最小誤差下限
我々は、アフィン的にパラメータ化された$B$-行列と既知の$A$-行列を考える。
パラメトリゼーションが非形式的最適ポリシーを誘導するならば、対数的後悔は不可能である。
論文 参考訳(メタデータ) (2020-11-18T13:50:31Z) - Adaptive Control and Regret Minimization in Linear Quadratic Gaussian
(LQG) Setting [91.43582419264763]
我々は不確実性に直面した楽観主義の原理に基づく新しい強化学習アルゴリズムLqgOptを提案する。
LqgOptはシステムのダイナミクスを効率的に探索し、モデルのパラメータを信頼区間まで推定し、最も楽観的なモデルのコントローラをデプロイする。
論文 参考訳(メタデータ) (2020-03-12T19:56:38Z) - No-Regret Prediction in Marginally Stable Systems [37.178095559618654]
本稿では,線形力学系におけるオンライン予測の問題点について考察する。
本手法を自己回帰フィルタの学習に適用することにより,部分的に観察された条件下での対数的後悔も達成できる。
論文 参考訳(メタデータ) (2020-02-06T01:53:34Z) - Regret Minimization in Partially Observable Linear Quadratic Control [91.43582419264763]
モデル力学が未知の先行性を持つ場合、部分的に観測可能な線形二次制御系における後悔の問題を考察する。
本稿では, 部分的に観測可能な線形二次制御のために, 後悔を分解し, 終端から終端までの後悔の上限を与える新しい方法を提案する。
論文 参考訳(メタデータ) (2020-01-31T22:35:08Z) - Naive Exploration is Optimal for Online LQR [49.681825576239355]
最適後悔尺度は$widetildeTheta(sqrtd_mathbfu2 d_mathbfx T)$で、$T$は時間ステップの数、$d_mathbfu$は入力空間の次元、$d_mathbfx$はシステム状態の次元である。
我々の下界は、かつての$mathrmpoly(logT)$-regretアルゴリズムの可能性を排除する。
論文 参考訳(メタデータ) (2020-01-27T03:44:54Z) - Improper Learning for Non-Stochastic Control [78.65807250350755]
逆方向の摂動, 逆方向に選択された凸損失関数, 部分的に観察された状態を含む, 未知の線形力学系を制御することの問題点を考察する。
このパラメトリゼーションにオンライン降下を適用することで、大規模なクローズドループポリシーに対してサブリニア後悔を実現する新しいコントローラが得られる。
我々の境界は、線形力学コントローラの安定化と競合する非確率的制御設定における最初のものである。
論文 参考訳(メタデータ) (2020-01-25T02:12:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。