論文の概要: Evolution: A Unified Formula for Feature Operators from a High-level
Perspective
- arxiv url: http://arxiv.org/abs/2305.14409v1
- Date: Tue, 23 May 2023 15:55:37 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-26 00:14:04.700984
- Title: Evolution: A Unified Formula for Feature Operators from a High-level
Perspective
- Title(参考訳): 進化:高次視点から見た特徴演算子のための統一式
- Authors: Zhicheng Cai
- Abstract要約: ハイレベルな視点から様々な特徴演算子の本質を探求する。
進化(Evolution)と呼ばれる異なる特徴演算子に対して、明確で具体的な統一公式を1つ挙げる。
我々は、これらの特徴作用素の伝統的な公式から進化への等価な変換を数学的に推論し、統一性を証明する。
- 参考スコア(独自算出の注目度): 0.38073142980732994
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Traditionally, different types of feature operators (e.g., convolution,
self-attention and involution) utilize different approaches to extract and
aggregate the features. Resemblance can be hardly discovered from their
mathematical formulas. However, these three operators all serve the same
paramount purpose and bear no difference in essence. Hence we probe into the
essence of various feature operators from a high-level perspective, transformed
their components equivalently, and explored their mathematical expressions
within higher dimensions. We raise one clear and concrete unified formula for
different feature operators termed as Evolution. Evolution utilizes the
Evolution Function to generate the Evolution Kernel, which extracts and
aggregates the features in certain positions of the input feature map. We
mathematically deduce the equivalent transformation from the traditional
formulas of these feature operators to Evolution and prove the unification. In
addition, we discuss the forms of Evolution Functions and the properties of
generated Evolution Kernels, intending to give inspirations to the further
research and innovations of powerful feature operators.
- Abstract(参考訳): 伝統的に、異なるタイプの特徴演算子(例えば、畳み込み、自己注意、畳み込み)は、特徴の抽出と集約に異なるアプローチを使用する。
類似性はそれらの数学的公式からほとんど発見できない。
しかし、これら3つの演算子はいずれも同じパラマウント目的を持ち、本質的な違いは持たない。
したがって、高次視点から様々な特徴作用素の本質を探索し、それらの成分を等価に変換し、より高次元の数学的表現を探索する。
我々は、進化と呼ばれる異なる特徴演算子に対して、明確で具体的な統一式を一つ挙げる。
evolution は evolution 関数を利用して evolution kernel を生成し、入力された特徴マップの特定の位置にある特徴を抽出・集約する。
我々は数学的に、これらの特徴演算子の伝統的な公式から進化への等価変換を導出し、統一を証明する。
さらに,進化関数の形式と生成する進化カーネルの性質について論じ,強力な特徴演算子のさらなる研究と革新にインスピレーションを与えることを目的としている。
関連論文リスト
- Evolutionary Automata and Deep Evolutionary Computation [0.38073142980732994]
進化的オートマトン(英: Evolution Automaticon)とは、進化的計算を無限世代で行う自動機械である。
これはまた、環境との対話的なフィードバックによって自己進化する自然進化の力のヒントを与える。
論文 参考訳(メタデータ) (2024-11-22T15:31:50Z) - EulerFormer: Sequential User Behavior Modeling with Complex Vector Attention [88.45459681677369]
複素ベクトル注意を持つ新しい変圧器変圧器(EulerFormer)を提案する。
意味的差と位置的差の両方を定式化するための統一的な理論的枠組みを提供する。
意味的変動に対してより堅牢であり、原理上はより上述の理論的性質を持つ。
論文 参考訳(メタデータ) (2024-03-26T14:18:43Z) - DARLEI: Deep Accelerated Reinforcement Learning with Evolutionary
Intelligence [77.78795329701367]
本稿では,進化アルゴリズムと並列化強化学習を組み合わせたフレームワークであるDARLEIを提案する。
我々はDARLEIの性能を様々な条件で特徴付け、進化形態の多様性に影響を与える要因を明らかにした。
今後DARLEIを拡張して、よりリッチな環境における多様な形態素間の相互作用を取り入れていきたいと考えています。
論文 参考訳(メタデータ) (2023-12-08T16:51:10Z) - Benchmarking Differential Evolution on a Quantum Simulator [0.0]
微分進化(DE)はラストリギン関数やローゼンブロック関数などの関数の最小値を計算するために用いられる。
この研究は、古典的チューリングモデル計算で生成される候補個体を用いて、これらの関数にDE法を適用した結果の研究である。
論文 参考訳(メタデータ) (2023-11-06T14:27:00Z) - Going Beyond Neural Network Feature Similarity: The Network Feature
Complexity and Its Interpretation Using Category Theory [64.06519549649495]
機能的に等価な機能と呼ぶものの定義を提供します。
これらの特徴は特定の変換の下で等価な出力を生成する。
反復的特徴マージ(Iterative Feature Merging)というアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-10T16:27:12Z) - Directed differential equation discovery using modified mutation and
cross-over operators [77.34726150561087]
本稿では,方程式探索アルゴリズムの進化演算子に導入可能な修正について紹介する。
導電方程式発見と呼ばれる結果のアプローチは、より正確な解へと収束する能力を示す。
論文 参考訳(メタデータ) (2023-08-09T14:50:02Z) - EqMotion: Equivariant Multi-agent Motion Prediction with Invariant
Interaction Reasoning [83.11657818251447]
不変相互作用推論を用いた効率的な同変運動予測モデルであるEqMotionを提案する。
提案モデルに対して,粒子動力学,分子動力学,人体骨格運動予測,歩行者軌道予測の4つの異なるシナリオで実験を行った。
提案手法は4つのタスクすべてに対して最先端の予測性能を実現し,24.0/30.1/8.6/9.2%改善した。
論文 参考訳(メタデータ) (2023-03-20T05:23:46Z) - Topographic VAEs learn Equivariant Capsules [84.33745072274942]
本稿では, 地理的に整理された潜伏変数を用いた深部生成モデルを効率的に学習するための新しい手法であるTopographic VAEを紹介する。
このようなモデルでは,MNIST上での桁数クラス,幅,スタイルなどの健全な特徴に応じて,その活性化を組織化することが実際に学べることが示される。
我々は、既存の群同変ニューラルネットワークの能力を拡張して、複素変換に近似した同値性を示す。
論文 参考訳(メタデータ) (2021-09-03T09:25:57Z) - Epigenetic opportunities for Evolutionary Computation [0.0]
進化計算(Evolutionary Computation)は、複雑な最適化問題を解くために用いられる生物学的にインスパイアされたアルゴリズムのグループである。
遺伝的遺伝からインスピレーションを得る進化的アルゴリズムと、文化的遺伝からインスピレーションを得るSwarm Intelligenceアルゴリズムに分けることができる。
本稿では, 進化的拡張合成に基づく生物学的枠組みの下で, バイオインスパイアされたアルゴリズムを成功裏に分解する。
論文 参考訳(メタデータ) (2021-08-10T09:44:53Z) - Evolving the Behavior of Machines: From Micro to Macroevolution [4.061135251278186]
進化はコンピュータ科学者にコンピューティングの出現からインスピレーションを与えてきた。
これにより、マシンの複雑なニューラルネットワークを進化させるツールが生まれました。
現代における人工進化の見解は、電場をマイクロ進化からマクロ進化へと遠ざけつつある。
論文 参考訳(メタデータ) (2020-12-21T21:35:15Z) - Mimicking Evolution with Reinforcement Learning [10.35437633064506]
人工的な人間のような知性を発達させる道は、自然のシミュレーションで進化の過程を模倣することでもたらされると我々は主張する。
この研究は、進化的リワード(EvER)を通じて進化的リワード(Evolutionary Reward)を提案する。
論文 参考訳(メタデータ) (2020-03-31T18:16:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。