Fugu-MT 論文翻訳(概要): Online Learning of Smooth Functions

論文の概要: Online Learning of Smooth Functions

arxiv url: http://arxiv.org/abs/2301.01434v1
Date: Wed, 4 Jan 2023 04:05:58 GMT
ステータス: 処理完了
システム内更新日: 2023-01-05 15:22:32.778752
Title: Online Learning of Smooth Functions
Title（参考訳）: スムース関数のオンライン学習
Authors: Jesse Geneson and Ethan Zhou
Abstract要約: 隠れ関数が一定の滑らか性を持つことが知られている実数値関数のオンライン学習について検討する。定数係数までシャープな$textopt_p(mathcal F_q)$の新たなバウンダリを見つける。マルチ変数のセットアップでは、$textopt_p(mathcal F_q,d)$ to $textopt_p(mathcal F_q,d)$に関連する不等式を確立し、$textopt_p(mathcal F)$を示す。
参考スコア（独自算出の注目度）: 0.35534933448684125
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this paper, we study the online learning of real-valued functions where the hidden function is known to have certain smoothness properties. Specifically, for $q \ge 1$, let $\mathcal F_q$ be the class of absolutely continuous functions $f: [0,1] \to \mathbb R$ such that $\|f'\|_q \le 1$. For $q \ge 1$ and $d \in \mathbb Z^+$, let $\mathcal F_{q,d}$ be the class of functions $f: [0,1]^d \to \mathbb R$ such that any function $g: [0,1] \to \mathbb R$ formed by fixing all but one parameter of $f$ is in $\mathcal F_q$. For any class of real-valued functions $\mathcal F$ and $p>0$, let $\text{opt}_p(\mathcal F)$ be the best upper bound on the sum of $p^{\text{th}}$ powers of absolute prediction errors that a learner can guarantee in the worst case. In the single-variable setup, we find new bounds for $\text{opt}_p(\mathcal F_q)$ that are sharp up to a constant factor. We show for all $\varepsilon \in (0, 1)$ that $\text{opt}_{1+\varepsilon}(\mathcal{F}_{\infty}) = \Theta(\varepsilon^{-\frac{1}{2}})$ and $\text{opt}_{1+\varepsilon}(\mathcal{F}_q) = \Theta(\varepsilon^{-\frac{1}{2}})$ for all $q \ge 2$. We also show for $\varepsilon \in (0,1)$ that $\text{opt}_2(\mathcal F_{1+\varepsilon})=\Theta(\varepsilon^{-1})$. In addition, we obtain new exact results by proving that $\text{opt}_p(\mathcal F_q)=1$ for $q \in (1,2)$ and $p \ge 2+\frac{1}{q-1}$. In the multi-variable setup, we establish inequalities relating $\text{opt}_p(\mathcal F_{q,d})$ to $\text{opt}_p(\mathcal F_q)$ and show that $\text{opt}_p(\mathcal F_{\infty,d})$ is infinite when $p<d$ and finite when $p>d$. We also obtain sharp bounds on learning $\mathcal F_{\infty,d}$ for $p < d$ when the number of trials is bounded.
Abstract（参考訳）: 本稿では,隠れ関数が一定の滑らか性を持つことが知られている実数値関数のオンライン学習について検討する。具体的には、$q \ge 1$ に対して、$\mathcal f_q$ を絶対連続関数 $f: [0,1] \to \mathbb r$ のクラスとし、$\|f'\|_q \le 1$ とする。 q \ge 1$ と $d \in \mathbb z^+$ に対して、$\mathcal f_{q,d}$ を関数のクラスとする: [0,1]^d \to \mathbb r$ 任意の関数$g: [0,1] \to \mathbb r$ は、$f$ のパラメータの1つを除いて、$\mathcal f_q$ となる。任意の実数値関数のクラス$\mathcal f$ と $p>0$ に対して、$\text{opt}_p(\mathcal f)$ を$p^{\text{th}}$ の合計の最高上限とし、最悪の場合学習者が保証できる絶対予測誤差のパワーを与える。単変数のセットアップでは、$\text{opt}_p(\mathcal F_q)$ の新しい境界が定数係数までシャープになる。すべての$\varepsilon \in (0, 1)$ that $\text{opt}_{1+\varepsilon}(\mathcal{F}_{\infty}) = \Theta(\varepsilon^{-\frac{1}{2}})$ and $\text{opt}_{1+\varepsilon}(\mathcal{F}_q) = \Theta(\varepsilon^{-\frac{1}{2}})$ for all $q \ge 2$を示す。また、$\varepsilon \in (0,1)$ that $\text{opt}_2(\mathcal F_{1+\varepsilon})=\Theta(\varepsilon^{-1})$ を示す。さらに、$\text{opt}_p(\mathcal F_q)=1$ for $q \in (1,2)$と$p \ge 2+\frac{1}{q-1}$を証明することによって、新しい正確な結果が得られる。多変数設定では、$\text{opt}_p(\mathcal F_{q,d})$ to $\text{opt}_p(\mathcal F_q)$ に関する不等式を確立し、$\text{opt}_p(\mathcal F_{\infty,d})$ が$p<d$ で有限であれば $p>d$ が無限となることを示す。また、試行回数が有界であれば、$\mathcal F_{\infty,d}$ for $p < d$ を学習する際の鋭い境界も得られる。

論文の概要: Online Learning of Smooth Functions

関連論文リスト