論文の概要: Revisiting Tropical Polynomial Division: Theory, Algorithms and
Application to Neural Networks
- arxiv url: http://arxiv.org/abs/2306.15157v1
- Date: Tue, 27 Jun 2023 02:26:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-28 15:01:04.375550
- Title: Revisiting Tropical Polynomial Division: Theory, Algorithms and
Application to Neural Networks
- Title(参考訳): 熱帯多項式分割の再検討:理論,アルゴリズム,ニューラルネットワークへの応用
- Authors: Ioannis Kordonis, Petros Maragos
- Abstract要約: 熱帯幾何学は、最近、一方向線形活性化関数を持つニューラルネットワークの解析にいくつかの応用を見出した。
本稿では,熱帯分断問題に対する新たな考察とニューラルネットワークの単純化への応用について述べる。
- 参考スコア(独自算出の注目度): 40.137069931650444
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Tropical geometry has recently found several applications in the analysis of
neural networks with piecewise linear activation functions. This paper presents
a new look at the problem of tropical polynomial division and its application
to the simplification of neural networks. We analyze tropical polynomials with
real coefficients, extending earlier ideas and methods developed for
polynomials with integer coefficients. We first prove the existence of a unique
quotient-remainder pair and characterize the quotient in terms of the convex
bi-conjugate of a related function. Interestingly, the quotient of tropical
polynomials with integer coefficients does not necessarily have integer
coefficients. Furthermore, we develop a relationship of tropical polynomial
division with the computation of the convex hull of unions of convex polyhedra
and use it to derive an exact algorithm for tropical polynomial division. An
approximate algorithm is also presented, based on an alternation between data
partition and linear programming. We also develop special techniques to divide
composite polynomials, described as sums or maxima of simpler ones. Finally, we
present some numerical results to illustrate the efficiency of the algorithms
proposed, using the MNIST handwritten digit and CIFAR-10 datasets.
- Abstract(参考訳): 熱帯幾何学は最近、線形活性化関数を持つニューラルネットワークの解析にいくつかの応用を見出した。
本稿では,熱帯多項式分割の問題と,ニューラルネットワークの単純化への応用について考察する。
実係数のトロピカル多項式を解析し,整数係数の多項式に対する初期のアイデアと手法を拡張した。
まず、一意な商-保存対の存在を証明し、その商を関連する函数の凸双共役の項で特徴づける。
興味深いことに、整数係数を持つ熱帯多項式の商は必ずしも整数係数を持たない。
さらに,熱帯多項式分割と凸多面体結合の凸包の計算との関係を解明し,それを用いて熱帯多項式分割の厳密なアルゴリズムを導出する。
データ分割と線形計画の交替に基づいて近似アルゴリズムも提示される。
また,単純な多項式の和や最大値として記述する合成多項式を分割する特別な手法も開発する。
最後に、MNIST手書き桁とCIFAR-10データセットを用いて、提案アルゴリズムの効率性を示す数値的な結果を示す。
関連論文リスト
- Complementary polynomials in quantum signal processing [0.0]
与えられた$P$を実装するには、まず対応する補完的な$Q$を構築しなければならない。
この問題に対する既存のアプローチでは、明示的な誤り解析には適さない数値的手法が採用されている。
複素解析を用いた補体系に対する新しいアプローチを提案する。
論文 参考訳(メタデータ) (2024-06-06T16:47:11Z) - Exploring the Potential of Polynomial Basis Functions in Kolmogorov-Arnold Networks: A Comparative Study of Different Groups of Polynomials [0.0]
本稿では,ゴットリーブモゴロフネットワーク(KAN)モデルにおける18の異なる特徴とその潜在的な応用について述べる。
本研究は,手書き桁分類などの複雑なタスクに対するkanモデルにおける基本関数としての theseDistincts の適合性を検討することを目的とする。
総合的精度,Kappa,F1スコアを含むkanモデルの性能指標を評価し,比較した。
論文 参考訳(メタデータ) (2024-05-30T20:40:16Z) - Algebraic Complexity and Neurovariety of Linear Convolutional Networks [0.0]
線形畳み込みネットワークを1次元および任意のストライドで検討する。
共通零点が対応する神経多様体のザリスキー閉包に対応する方程式を生成する。
このようなネットワークの最適化におけるすべての複素臨界点の数は、セグレ多様体の一般的なユークリッド距離と等しいことが判明した。
論文 参考訳(メタデータ) (2024-01-29T23:00:15Z) - Covering Number of Real Algebraic Varieties and Beyond: Improved Bounds and Applications [8.438718130535296]
ユークリッド空間における集合の被覆数について上限を証明する。
ここでは、イムディン・コントによる最もよく知られた一般境界が改善されることが示される。
本稿では,3つの計算応用における結果のパワーについて説明する。
論文 参考訳(メタデータ) (2023-11-09T03:06:59Z) - Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。
新規な構造化融合正規化に基づく一般グラフ推定器を提案する。
提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
論文 参考訳(メタデータ) (2021-03-05T04:42:32Z) - Algorithmic Complexities in Backpropagation and Tropical Neural Networks [0.0]
トロピカル算術とトロピカル代数幾何学の観点で人工ニューラルネットワークを紹介します。
熱帯算術は通常の乗算の複雑さがないため、アルゴリズムの複雑さは通常のバックプロパゲーションよりも実質的に低いことを検証します。
論文 参考訳(メタデータ) (2021-01-03T22:19:17Z) - Finite-Function-Encoding Quantum States [52.77024349608834]
任意の$d$値論理関数を符号化する有限関数符号化(FFE)を導入する。
それらの構造的特性について検討する。
論文 参考訳(メタデータ) (2020-12-01T13:53:23Z) - On Function Approximation in Reinforcement Learning: Optimism in the
Face of Large State Spaces [208.67848059021915]
強化学習のコアにおける探索・探索トレードオフについて検討する。
特に、関数クラス $mathcalF$ の複雑さが関数の複雑さを特徴づけていることを証明する。
私たちの後悔の限界はエピソードの数とは無関係です。
論文 参考訳(メタデータ) (2020-11-09T18:32:22Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳(メタデータ) (2020-06-16T21:56:22Z) - SURF: A Simple, Universal, Robust, Fast Distribution Learning Algorithm [64.13217062232874]
SURFは分布を断片的に近似するアルゴリズムである。
実験では最先端のアルゴリズムよりも優れています。
論文 参考訳(メタデータ) (2020-02-22T01:03:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。