Fugu-MT 論文翻訳(概要): Activation Functions for "A Feedforward Unitary Equivariant Neural Network"

論文の概要: Activation Functions for "A Feedforward Unitary Equivariant Neural Network"

arxiv url: http://arxiv.org/abs/2411.14462v1
Date: Sun, 17 Nov 2024 09:46:52 GMT
ステータス: 翻訳完了
システム内更新日: 2024-12-01 04:42:51.974696
Title: Activation Functions for "A Feedforward Unitary Equivariant Neural Network"
Title（参考訳）: フィードフォワード・ユニタリ同変ニューラルネットワークの活性化関数
Authors: Pui-Wai Ma,
Abstract要約: 前報では,フィードフォワード一元同変ニューラルネットワークについて紹介した。このネットワークに適した3つのアクティベーション関数を提案した。本稿では,これらの活性化関数を単一機能形式に一般化する。
参考スコア（独自算出の注目度）: 0.0
License:
Abstract: In our previous work [Ma and Chan (2023)], we presented a feedforward unitary equivariant neural network. We proposed three distinct activation functions tailored for this network: a softsign function with a small residue, an identity function, and a Leaky ReLU function. While these functions demonstrated the desired equivariance properties, they limited the neural network's architecture. This short paper generalises these activation functions to a single functional form. This functional form represents a broad class of functions, maintains unitary equivariance, and offers greater flexibility for the design of equivariant neural networks.
Abstract（参考訳）: 前回の研究(Ma and Chan (2023))では、フィードフォワードのユニタリ同変ニューラルネットワークを提示した。我々は,このネットワークに適した3つの異なるアクティベーション関数,小さな残基を持つソフトサイン関数,アイデンティティ関数,Leaky ReLU関数を提案した。これらの関数は所望の同値性を示したが、ニューラルネットワークのアーキテクチャを制限した。本稿では,これらの活性化関数を単一機能形式に一般化する。この関数形式は、幅広い種類の関数を表し、ユニタリ同値を維持し、同変ニューラルネットワークの設計により大きな柔軟性を提供する。

関連論文リスト

Approximation of RKHS Functionals by Neural Networks [30.42446856477086]
ニューラルネットワークを用いたHilbert空間(RKHS)を再現するカーネル上の関数の近似について検討する。逆多重四元数、ガウス、ソボレフのカーネルによって誘導される場合の明示的な誤差境界を導出する。ニューラルネットワークが回帰マップを正確に近似できることを示すため,機能回帰に本研究の成果を適用した。
論文参考訳（メタデータ） (2024-03-18T18:58:23Z)
Going Beyond Neural Network Feature Similarity: The Network Feature Complexity and Its Interpretation Using Category Theory [64.06519549649495]
機能的に等価な機能と呼ぶものの定義を提供します。これらの特徴は特定の変換の下で等価な出力を生成する。反復的特徴マージ(Iterative Feature Merging)というアルゴリズムを提案する。
論文参考訳（メタデータ） (2023-10-10T16:27:12Z)
TSSR: A Truncated and Signed Square Root Activation Function for Neural Networks [5.9622541907827875]
我々は、Trncated and Signed Square Root (TSSR) 関数と呼ばれる新しいアクティベーション関数を導入する。この関数は奇数、非線形、単調、微分可能であるため特異である。ニューラルネットワークの数値安定性を改善する可能性がある。
論文参考訳（メタデータ） (2023-08-09T09:40:34Z)
STL: A Signed and Truncated Logarithm Activation Function for Neural Networks [5.9622541907827875]
活性化関数はニューラルネットワークにおいて重要な役割を果たす。本稿では,アクティベーション関数として符号付きおよび切り離された対数関数を提案する。提案された活性化関数は、広範囲のニューラルネットワークに適用できる。
論文参考訳（メタデータ） (2023-07-31T03:41:14Z)
Permutation Equivariant Neural Functionals [92.0667671999604]
この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
論文参考訳（メタデータ） (2023-02-27T18:52:38Z)
Unification of popular artificial neural network activation functions [0.0]
本稿では,最も一般的なニューラルネットワーク活性化関数の統一表現について述べる。分数計算のMittag-Leffler関数を採用することにより、フレキシブルでコンパクトな関数形式を提案する。
論文参考訳（メタデータ） (2023-02-21T21:20:59Z)
Equivariance with Learned Canonicalization Functions [77.32483958400282]
正規化を行うために小さなニューラルネットワークを学習することは、事前定義を使用することよりも優れていることを示す。実験の結果,正準化関数の学習は多くのタスクで同変関数を学習する既存の手法と競合することがわかった。
論文参考訳（メタデータ） (2022-11-11T21:58:15Z)
Neural Estimation of Submodular Functions with Applications to Differentiable Subset Selection [50.14730810124592]
サブモジュール関数と変種は、多様性とカバレッジを特徴付ける能力を通じて、データ選択と要約のための重要なツールとして登場した。本稿では,モノトーンおよび非モノトーン部分モジュラー関数のためのフレキシブルニューラルネットワークであるFLEXSUBNETを提案する。
論文参考訳（メタデータ） (2022-10-20T06:00:45Z)
UNIPoint: Universally Approximating Point Processes Intensities [125.08205865536577]
学習可能な関数のクラスが任意の有効な強度関数を普遍的に近似できることを示す。ニューラルポイントプロセスモデルであるUNIPointを実装し,各イベントの基底関数の和をパラメータ化するために,リカレントニューラルネットワークを用いた。
論文参考訳（メタデータ） (2020-07-28T09:31:56Z)
No one-hidden-layer neural network can represent multivariable functions [0.0]
ニューラルネットワークによる関数近似において、各隠れ層ユニットのパラメータを最適化することにより、入力データセットを出力インデックスにマッピングする。整列線形単位(ReLU)アクティベーション関数を持つ一隠れ層ニューラルネットワークの連続バージョンを構築することにより、パラメータとその第2の導関数に制約を与える。
論文参考訳（メタデータ） (2020-06-19T06:46:54Z)
Invariant Feature Coding using Tensor Product Representation [75.62232699377877]
我々は,群不変特徴ベクトルが線形分類器を学習する際に十分な識別情報を含んでいることを証明した。主成分分析やk平均クラスタリングにおいて,グループアクションを明示的に考慮する新たな特徴モデルを提案する。
論文参考訳（メタデータ） (2019-06-05T07:15:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。