論文の概要: Product Interaction: An Algebraic Formalism for Deep Learning Architectures
- arxiv url: http://arxiv.org/abs/2602.02573v1
- Date: Sat, 31 Jan 2026 07:14:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-04 18:37:14.947652
- Title: Product Interaction: An Algebraic Formalism for Deep Learning Architectures
- Title(参考訳): プロダクトインタラクション: ディープラーニングアーキテクチャのための代数的形式主義
- Authors: Haonan Dong, Chun-Wun Cheng, Angelica I. Aviles-Rivero,
- Abstract要約: 積の相互作用は、適切な代数上で定義された乗算作用素の合成からニューラルネットワーク層を構築する形式である。
我々の中心的な観察は、現代のニューラルネットワークにおける代数的表現は、線形、二次、高次の積の相互作用という観点で統一的な構成を持つことである。
- 参考スコア(独自算出の注目度): 1.1885785138453553
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we introduce product interactions, an algebraic formalism in which neural network layers are constructed from compositions of a multiplication operator defined over suitable algebras. Product interactions provide a principled way to generate and organize algebraic expressions by increasing interaction order. Our central observation is that algebraic expressions in modern neural networks admit a unified construction in terms of linear, quadratic, and higher-order product interactions. Convolutional and equivariant networks arise as symmetry-constrained linear product interactions, while attention and Mamba correspond to higher-order product interactions.
- Abstract(参考訳): 本稿では,好適な代数上で定義された乗算演算子の合成からニューラルネットワーク層を構築する代数形式である積相互作用を紹介する。
積の相互作用は、相互作用の順序を増大させることで代数的表現を生成、整理する原則的な方法を提供する。
我々の中心的な観察は、現代のニューラルネットワークにおける代数的表現は、線形、二次、高次の積の相互作用という観点で統一的な構成を持つことである。
畳み込みと同変のネットワークは対称性に制約された線形積の相互作用として生じるが、注意とMambaは高次積の相互作用に対応する。
関連論文リスト
- The metaplectic semigroup and its applications to time-frequency analysis and evolution operators [0.0]
メタプレクティックな半群 $mathrmMp_+(d,mathbbC)$ と正の複素シンプレクティック行列の体系的解析を開発する。
我々は、これらの構造的結果を利用して、メタプレクティックな観点から、所定の構造的特性を満たす時間周波数表現のクラスを特徴づける。
論文 参考訳(メタデータ) (2026-01-29T19:21:40Z) - Why Neural Network Can Discover Symbolic Structures with Gradient-based Training: An Algebraic and Geometric Foundation for Neurosymbolic Reasoning [73.18052192964349]
我々は、連続的なニューラルネットワークトレーニングのダイナミックスから、離散的なシンボル構造が自然に現れるかを説明する理論的枠組みを開発する。
ニューラルパラメータを測度空間に上げ、ワッサーシュタイン勾配流としてモデル化することにより、幾何的制約の下では、パラメータ測度 $mu_t$ が2つの同時現象となることを示す。
論文 参考訳(メタデータ) (2025-06-26T22:40:30Z) - Hadamard product in deep learning: Introduction, Advances and Challenges [68.26011575333268]
この調査では、基本的な未検討のプリミティブ、すなわちアダマール積を調べている。
様々なアプリケーションに広く実装されているにもかかわらず、アダマール製品は、コアアーキテクチャのプリミティブとして体系的に分析されていない。
本稿では,高次相関,マルチモーダルデータ融合,動的表現変調,効率的なペアワイズ演算の4つの主要領域を同定し,その応用の包括的分類について述べる。
論文 参考訳(メタデータ) (2025-04-17T17:26:29Z) - Algebras of Interaction and Cooperation [0.0]
協調と相互作用の系は代数の乗法構造を持つベクトル空間で表される。
自然数の基本的な解釈は自然代数学をもたらし、協調と相互作用に関する統一的な見解を与える。
論文 参考訳(メタデータ) (2024-04-18T08:01:43Z) - Learning Hierarchical Relational Representations through Relational Convolutions [2.5322020135765464]
本稿では、より複雑な関係性の特徴を捉える計算機構を備えたニューラルネットワークである「リレーショナル畳み込みネットワーク」を紹介する。
このフレームワークの重要なコンポーネントは、グラフレットフィルタを畳み込み、オブジェクトのグループ内の関係パターンをキャプチャする新しい操作である。
アーキテクチャのモチベーションと詳細、およびリレーショナル畳み込みネットワークが階層構造を持つリレーショナルタスクをモデル化するための効果的なフレームワークを提供するための一連の実験を示す。
論文 参考訳(メタデータ) (2023-10-05T01:22:50Z) - String-net construction of RCFT correlators [3.803664831016232]
弦-ネットモデルを用いて、有理共形場理論の相関子への直接的、純粋に2次元のアプローチを実現する。
我々は、下層のモジュラー融合圏のシリンダー圏における等等式の観点から、バルク場と境界場を記述する対象に対して等等式を導出する。
また、ブレイド圏の内部のエックマン・ヒルトン関係を導出し、ブレイドテンソル圏の代数を理解するための弦網の有用性を示す。
論文 参考訳(メタデータ) (2021-12-23T16:57:26Z) - Learning Algebraic Recombination for Compositional Generalization [71.78771157219428]
合成一般化のための代数的組換え学習のためのエンドツーエンドニューラルモデルLeARを提案する。
主要な洞察は、意味解析タスクを潜在構文代数学と意味代数学の間の準同型としてモデル化することである。
2つの現実的・包括的構成一般化の実験は、我々のモデルの有効性を実証している。
論文 参考訳(メタデータ) (2021-07-14T07:23:46Z) - Stability of Algebraic Neural Networks to Small Perturbations [179.55535781816343]
Algebraic Neural Network (AlgNN) は、代数的信号モデルと関連する各層のカスケードで構成されている。
畳み込みという形式的な概念を用いるアーキテクチャは、シフト演算子の特定の選択を超えて、いかに安定であるかを示す。
論文 参考訳(メタデータ) (2020-10-22T09:10:16Z) - Algebraic Neural Networks: Stability to Deformations [179.55535781816343]
可換代数を用いた代数ニューラルネットワーク(AlgNN)について検討する。
AlgNNはユークリッド畳み込みニューラルネットワーク、グラフニューラルネットワーク、グループニューラルネットワークなどの多様なアーキテクチャを統合する。
論文 参考訳(メタデータ) (2020-09-03T03:41:38Z) - DensE: An Enhanced Non-commutative Representation for Knowledge Graph
Embedding with Adaptive Semantic Hierarchy [4.607120217372668]
本研究では,関係の複雑な構成パターンをモデル化するための新しい知識グラフ埋め込み手法DensEを開発した。
本手法は,SO(3)群に基づく回転作用素と3次元ユークリッド空間におけるスケーリング作用素に各関係を分解する。
複数のベンチマーク知識グラフの実験結果から、DensEはリンク予測の欠如に対して現在の最先端モデルよりも優れていた。
論文 参考訳(メタデータ) (2020-08-11T06:45:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。