論文の概要: A short letter on the dot product between rotated Fourier transforms
- arxiv url: http://arxiv.org/abs/2007.13462v1
- Date: Fri, 24 Jul 2020 13:53:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-07 07:15:44.969038
- Title: A short letter on the dot product between rotated Fourier transforms
- Title(参考訳): 回転フーリエ変換の間の点積の短い文字
- Authors: Aaron R. Voelker
- Abstract要約: 連続空間を表現・変換するための強力なツールとして空間意味ポインタ(SSP)が登場した。
SSPは、$n$次元空間における異なる点を表すベクトル間の「類似性」の概念に基づいている。
SSPは、空間構造を操作するニューラルネットワークを設計するための有用な数学的枠組みを強化するのに役立つ。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Spatial Semantic Pointers (SSPs) have recently emerged as a powerful tool for
representing and transforming continuous space, with numerous applications to
cognitive modelling and deep learning. Fundamental to SSPs is the notion of
"similarity" between vectors representing different points in $n$-dimensional
space -- typically the dot product or cosine similarity between vectors with
rotated unit-length complex coefficients in the Fourier domain. The similarity
measure has previously been conjectured to be a Gaussian function of Euclidean
distance. Contrary to this conjecture, we derive a simple trigonometric formula
relating spatial displacement to similarity, and prove that, in the case where
the Fourier coefficients are uniform i.i.d., the expected similarity is a
product of normalized sinc functions: $\prod_{k=1}^{n} \operatorname{sinc}
\left( a_k \right)$, where $\mathbf{a} \in \mathbb{R}^n$ is the spatial
displacement between the two $n$-dimensional points. This establishes a direct
link between space and the similarity of SSPs, which in turn helps bolster a
useful mathematical framework for architecting neural networks that manipulate
spatial structures.
- Abstract(参考訳): 空間意味ポインタ(SSP)は、認知モデリングやディープラーニングへの多くの応用を含む、連続空間の表現と変換のための強力なツールとして最近登場した。
sspsの基本は、n$-次元空間における異なる点を表すベクトル間の「類似性」の概念であり、典型的には、フーリエ領域で回転単位長複素係数を持つベクトルのドット積またはコサイン類似性である。
類似性測度は以前、ユークリッド距離のガウス函数であると推測されていた。
この予想とは対照的に、空間変位と類似性に関する単純な三角式を導出し、フーリエ係数が一様である場合、予想される類似性は正規化されたシンク関数の積である: $\prod_{k=1}^{n} \operatorname{sinc} \left(a_k \right)$, ここで $\mathbf{a} \in \mathbb{R}^n$ は2つの n-次元点の間の空間変位である。
これにより空間とSSPの類似性との間の直接的なリンクが確立され、空間構造を操作するニューラルネットワークを設計するための有用な数学的枠組みが確立される。
関連論文リスト
- Tensor network approximation of Koopman operators [0.0]
本稿では,測度保存エルゴディックシステムの可観測物の進化を近似する枠組みを提案する。
提案手法は,スキューアジョイント・クープマン発生器のスペクトル収束近似に基づく。
この量子に着想を得た近似の重要な特徴は、次元$(2d+1)n$のテンソル積空間から情報を取得することである。
論文 参考訳(メタデータ) (2024-07-09T21:40:14Z) - Fast and Interpretable 2D Homography Decomposition:
Similarity-Kernel-Similarity and Affine-Core-Affine Transformations [49.07547885674818]
本稿では,SKSとACA変換という2次元ホモグラフィの分解法について述べる。
プラグインモジュールとして、ACAは従来の機能ベースのRandom Sample Consensus(RANSAC)パイプラインを促進する。
論文 参考訳(メタデータ) (2024-02-28T02:46:06Z) - Enabling Efficient Equivariant Operations in the Fourier Basis via Gaunt Tensor Products [14.984349569810275]
そこで本研究では, テンソル積の複雑さを加速する体系的手法を提案する。
本稿では,効率的な同変演算を行うための新しい手法として機能するGaunt Productを紹介する。
Open Catalyst Projectと3BPAデータセットの実験では、効率の向上と性能向上の両面が示されている。
論文 参考訳(メタデータ) (2024-01-18T18:57:10Z) - Neural approximation of Wasserstein distance via a universal
architecture for symmetric and factorwise group invariant functions [6.994580267603235]
まず,SFGI関数を近似する汎用ニューラルネットワークアーキテクチャを提案する。
本論文の主な貢献は、この一般的なニューラルネットワークとスケッチのアイデアを組み合わせて、特定かつ効率的なニューラルネットワークを開発することである。
我々の研究は、対称関数の普遍近似を伴う幾何学的問題に対するスケッチのアイデアの興味深い統合を提供する。
論文 参考訳(メタデータ) (2023-08-01T04:11:19Z) - On the relationship between multivariate splines and infinitely-wide
neural networks [0.0]
関連する函数空間はユークリッド球面上のソボレフ空間であり、微分のノルムに明示的に有界であることを示す。
このランダムな特徴展開は、理論と実践の両方において、通常のランダムなフーリエ特徴よりも数値的に良く振る舞う。
特に1次元において、関連するレバレッジスコアを比較して、2つのランダム展開を比較し、ニューラルネットワーク拡張のためのより良いスケーリングを示す。
論文 参考訳(メタデータ) (2023-02-07T13:29:06Z) - Deep Fourier Up-Sampling [100.59885545206744]
フーリエ領域のアップサンプリングは、そのような局所的な性質に従わないため、より難しい。
これらの問題を解決するために理論的に健全なDeep Fourier Up-Sampling (FourierUp)を提案する。
論文 参考訳(メタデータ) (2022-10-11T06:17:31Z) - Unified Fourier-based Kernel and Nonlinearity Design for Equivariant
Networks on Homogeneous Spaces [52.424621227687894]
等質空間上の群同変ネットワークに対する統一的枠組みを導入する。
昇降した特徴場のフーリエ係数の空間性を利用する。
安定化部分群におけるフーリエ係数としての特徴を取り扱う他の方法が、我々のアクティベーションの特別な場合であることを示す。
論文 参考訳(メタデータ) (2022-06-16T17:59:01Z) - Coordinate Independent Convolutional Networks -- Isometry and Gauge
Equivariant Convolutions on Riemannian Manifolds [70.32518963244466]
平坦空間と比較して大きな複雑さは、コンボリューション核が多様体にどのようなアライメントを適用するべきかが不明確であることである。
コーディネート化の特定の選択は、ネットワークの推論に影響を与えるべきではない、と我々は主張する。
座標独立と重み共有の同時要求は、ネットワーク上の同変要求をもたらす。
論文 参考訳(メタデータ) (2021-06-10T19:54:19Z) - Many Body Quantum Chaos and Dual Unitarity Round-a-Face [0.0]
我々は、一元的相互作用ラウンド・ア・フェイス(IRF)によって生成される新しいタイプの局所相互作用量子回路を提案する。
局所可観測物の任意の動的相関関数が有限次元完全正のトレース保存単位写像で評価できることを示す。
我々はDUBG回路のカイラル拡大の次元に関する追加データを提供し、任意の/負格子サイトに住む次元$dneq d'$の異なる局所ヒルベルト空間を持つ。
論文 参考訳(メタデータ) (2021-05-17T17:16:33Z) - A Differential Geometry Perspective on Orthogonal Recurrent Models [56.09491978954866]
我々は微分幾何学からのツールと洞察を用いて、直交rnnの新しい視点を提供する。
直交RNNは、発散自由ベクトル場の空間における最適化と見なすことができる。
この観測に動機づけられて、ベクトル場全体の空間にまたがる新しいリカレントモデルの研究を行う。
論文 参考訳(メタデータ) (2021-02-18T19:39:22Z) - Learning Set Functions that are Sparse in Non-Orthogonal Fourier Bases [73.53227696624306]
フーリエスパース集合関数を学習するための新しいアルゴリズム群を提案する。
Walsh-Hadamard変換に焦点をあてた他の研究とは対照的に、我々の新しいアルゴリズムは最近導入された非直交フーリエ変換で機能する。
いくつかの実世界のアプリケーションで有効性を示す。
論文 参考訳(メタデータ) (2020-10-01T14:31:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。