論文の概要: On Polynomial Approximation of Activation Function
- arxiv url: http://arxiv.org/abs/2202.00004v1
- Date: Sat, 29 Jan 2022 12:40:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-02 15:36:37.884058
- Title: On Polynomial Approximation of Activation Function
- Title(参考訳): 活性化関数の多項式近似について
- Authors: John Chiang
- Abstract要約: そこで本研究では,いくつかの領域上での活性化関数を,低次を前提として近似する手法を提案する。
この手法の背景にある主な考え方は、最小二乗法の拡張と見なすことができ、最小化するために活性化関数のコスト関数への勾配を含む。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we propose an interesting method that aims to approximate an
activation function over some domain by polynomials of the presupposing low
degree. The main idea behind this method can be seen as an extension of the
ordinary least square method and includes the gradient of activation function
into the cost function to minimize.
- Abstract(参考訳): 本研究では,前提となる低次多項式を用いて,ある領域上の活性化関数を近似する興味深い手法を提案する。
この手法の背景にある主な考え方は、最小二乗法の拡張と見なすことができ、最小化するために活性化関数のコスト関数への勾配を含む。
関連論文リスト
- Embedding Knowledge Graph in Function Spaces [1.90894751866253]
本稿では,ベクトル空間ではなく有限次元の関数空間内で操作することで,従来の手法から分岐する新しい埋め込み手法を提案する。
埋め込みに関数を適用することで、より自由度が高くなり、合成や微分、プリミティブなエンティティ表現といった操作が可能になる、と我々は主張する。
論文 参考訳(メタデータ) (2024-09-23T09:49:57Z) - Piecewise Polynomial Regression of Tame Functions via Integer Programming [2.2499166814992435]
我々は,tame関数,すべての共通活性化をもつ非平滑関数,混合整数プログラムの値関数,小分子の波動関数を考える。
論文 参考訳(メタデータ) (2023-11-22T17:37:42Z) - A Novel Method of Function Extrapolation Inspired by Techniques in
Low-entangled Many-body Physics [0.0]
量子力学にインスパイアされた新しい外挿アルゴリズムを導入し,その性能を線形予測に対して評価する。
この結果から,提案アルゴリズムは線形予測に匹敵する外挿を生成するとともに,鋭い特徴を持つ関数に対する性能向上を示した。
論文 参考訳(メタデータ) (2023-08-17T14:16:27Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳(メタデータ) (2023-07-08T15:41:48Z) - Approximate Decomposable Submodular Function Minimization for
Cardinality-Based Components [30.33731479053404]
限られたサポートの単純な部分モジュラ関数の和を最小化することは、機械学習に多くの応用がある。
我々は、和の成分が濃度ベースである場合の高速な手法を開発し、入力集合のサイズにのみ依存する。
この問題に対する最初の近似アルゴリズムを開発し、この近似はスパースグラフカット問題への還元により迅速に計算できる。
論文 参考訳(メタデータ) (2021-10-28T02:36:55Z) - The Role of Lookahead and Approximate Policy Evaluation in Policy
Iteration with Linear Value Function Approximation [14.528756508275622]
線形関数近似を用いて値関数を表現する場合、最小限のルックアヘッドとマルチステップリターンが必要であることを示す。
そして、この条件が満たされると、そのような近似ポリシーを用いて得られたポリシーの有限時間性能を特徴付ける。
論文 参考訳(メタデータ) (2021-09-28T01:20:08Z) - Average-Reward Off-Policy Policy Evaluation with Function Approximation [66.67075551933438]
平均報酬MDPの関数近似によるオフポリシ政策評価を検討する。
ブートストラップは必要であり、オフポリシ学習とFAと一緒に、致命的なトライアドをもたらす。
そこで本研究では,勾配型tdアルゴリズムの成功を再現する2つの新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-01-08T00:43:04Z) - Conditional gradient methods for stochastically constrained convex
minimization [54.53786593679331]
構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。
私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。
提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
論文 参考訳(メタデータ) (2020-07-07T21:26:35Z) - Reinforcement Learning with General Value Function Approximation:
Provably Efficient Approach via Bounded Eluder Dimension [124.7752517531109]
一般値関数近似を用いた効率の良い強化学習アルゴリズムを確立する。
我々のアルゴリズムは、$d$が複雑性測度である場合、$widetildeO(mathrmpoly(dH)sqrtT)$の後悔の限界を達成することを示す。
我々の理論は線形値関数近似によるRLの最近の進歩を一般化し、環境モデルに対する明示的な仮定をしない。
論文 参考訳(メタデータ) (2020-05-21T17:36:09Z) - Complexity Guarantees for Polyak Steps with Momentum [76.97851351276165]
そこでは,この知識を最適な値である$f_*$で置き換える。
まず、Polyak ステップによる単純な勾配勾配の古典的な場合よりも若干改善された収束境界を示し、その後、収束保証とともに、Polyak ステップと運動量を持つ加速勾配法を導出する。
論文 参考訳(メタデータ) (2020-02-03T17:50:28Z) - Invariant Feature Coding using Tensor Product Representation [75.62232699377877]
我々は,群不変特徴ベクトルが線形分類器を学習する際に十分な識別情報を含んでいることを証明した。
主成分分析やk平均クラスタリングにおいて,グループアクションを明示的に考慮する新たな特徴モデルを提案する。
論文 参考訳(メタデータ) (2019-06-05T07:15:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。