論文の概要: Transport of Algebraic Structure to Latent Embeddings

• arxiv url: http://arxiv.org/abs/2405.16763v1
• Date: Mon, 27 May 2024 02:24:57 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-28 19:16:00.340547
• Title: Transport of Algebraic Structure to Latent Embeddings
• Title（参考訳）: 潜伏層への代数構造の輸送
• Authors: Samuel Pfrommer, Brendon G. Anderson, Somayeh Sojoudi,
• Abstract要約: 機械学習はしばしば、より大きく抽象的な数学的空間にある入力の潜在的な埋め込みを生成することを目的としている。 アソシエーションを尊重しながら、その潜在埋め込みだけを使って2つの集合を「統一」する方法をどうやって学べるか。 本稿では、入力空間上の法則と確実に一致した潜在空間演算をパラメータ化するための一般的な手順を提案する。
• 参考スコア（独自算出の注目度）: 8.693845596949892
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning often aims to produce latent embeddings of inputs which lie in a larger, abstract mathematical space. For example, in the field of 3D modeling, subsets of Euclidean space can be embedded as vectors using implicit neural representations. Such subsets also have a natural algebraic structure including operations (e.g., union) and corresponding laws (e.g., associativity). How can we learn to "union" two sets using only their latent embeddings while respecting associativity? We propose a general procedure for parameterizing latent space operations that are provably consistent with the laws on the input space. This is achieved by learning a bijection from the latent space to a carefully designed mirrored algebra which is constructed on Euclidean space in accordance with desired laws. We evaluate these structural transport nets for a range of mirrored algebras against baselines that operate directly on the latent space. Our experiments provide strong evidence that respecting the underlying algebraic structure of the input space is key for learning accurate and self-consistent operations.
• Abstract（参考訳）: 機械学習はしばしば、より大きく抽象的な数学的空間にある入力の潜在的な埋め込みを生成することを目的としている。 例えば、3次元モデリングの分野では、ユークリッド空間の部分集合は暗黙の神経表現を用いてベクトルとして埋め込むことができる。 そのような部分集合は、演算(eg, union)と対応する法則(eg, associativity)を含む自然な代数構造も持つ。 アソシエーションを尊重しながら、その潜在埋め込みだけを使って2つの集合を「統一」する方法をどうやって学べるか。 本稿では、入力空間上の法則と確実に一致した潜在空間演算をパラメータ化するための一般的な手順を提案する。 これは、潜在空間から、所望の法則に従ってユークリッド空間上に構築された慎重に設計されたミラー付き代数への単射を学ぶことによって達成される。 我々は、これらの構造的輸送ネットを、潜在空間上で直接動作するベースラインに対して、様々なミラー代数に対して評価する。 我々の実験は、入力空間の基底となる代数的構造を尊重することが、正確かつ自己整合的な操作を学ぶための鍵であることを示す強力な証拠を提供する。

関連論文リスト

• A Geometric Notion of Causal Probing [91.14470073637236]
  言語モデルの表現空間では、動詞数のような概念に関するすべての情報が線形部分空間に符号化される。 理想線型概念部分空間を特徴づける内在的基準のセットを与える。 LEACEは概念情報の約半分を含む1次元の部分空間を返す。
  論文  参考訳（メタデータ） (2023-07-27T17:57:57Z)
• Computing equivariant matrices on homogeneous spaces for Geometric Deep Learning and Automorphic Lie Algebras [0.0]
  我々は、リー群の同次空間$G/H$からこの群の加群への同変写像を計算する。 この研究は幾何学的深層学習の理論発展や自己同型リー代数の理論にも応用できる。
  論文  参考訳（メタデータ） (2023-03-13T14:32:49Z)
• Linear Spaces of Meanings: Compositional Structures in Vision-Language Models [110.00434385712786]
  事前学習された視覚言語モデル(VLM)からのデータ埋め込みにおける構成構造について検討する。 まず,幾何学的観点から構成構造を理解するための枠組みを提案する。 次に、これらの構造がVLM埋め込みの場合の確率論的に持つものを説明し、実際に発生する理由の直観を提供する。
  論文  参考訳（メタデータ） (2023-02-28T08:11:56Z)
• A substructural logic for quantum measurements [1.8782750537161614]
  本稿では、非常に制限された交換規則と弱化規則を持つシーケントのサブ構造論理について述べる。 量子系の測定のシーケンスに関して、これは健全である。
  論文  参考訳（メタデータ） (2022-12-06T09:11:42Z)
• Geometry Interaction Knowledge Graph Embeddings [153.69745042757066]
  ユークリッド空間,双曲空間,超球空間間の空間構造を対話的に学習する幾何学的相互作用知識グラフ埋め込み(GIE)を提案する。 提案したGIEは、よりリッチなリレーショナル情報、モデルキー推論パターンをキャプチャし、エンティティ間の表現的セマンティックマッチングを可能にする。
  論文  参考訳（メタデータ） (2022-06-24T08:33:43Z)
• Learning Algebraic Recombination for Compositional Generalization [71.78771157219428]
  合成一般化のための代数的組換え学習のためのエンドツーエンドニューラルモデルLeARを提案する。 主要な洞察は、意味解析タスクを潜在構文代数学と意味代数学の間の準同型としてモデル化することである。 2つの現実的・包括的構成一般化の実験は、我々のモデルの有効性を実証している。
  論文  参考訳（メタデータ） (2021-07-14T07:23:46Z)
• Abelian Neural Networks [48.52497085313911]
  まず、アベリア群演算のためのニューラルネットワークアーキテクチャを構築し、普遍近似特性を導出する。 連想対称の特徴づけを用いて、アベリア半群演算に拡張する。 固定単語埋め込み上でモデルをトレーニングし、元の word2vec よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2021-02-24T11:52:21Z)
• Switch Spaces: Learning Product Spaces with Sparse Gating [48.591045282317424]
  製品空間における表現を学習するためのデータ駆動アプローチであるswitch spacesを提案する。 我々は空間の選択、結合、切り替えを学習するスパースゲーティング機構を導入する。 知識グラフの補完と項目レコメンデーションの実験により,提案したスイッチ空間が新たな最先端性能を実現することを示す。
  論文  参考訳（メタデータ） (2021-02-17T11:06:59Z)
• A Universal Representation for Quantum Commuting Correlations [3.222802562733787]
  我々は、状態空間が量子交換相関の集合に親同型であるアルキメデス順序単位空間を明示的に構成する。 我々の主な成果は、アルキメデス次数単位空間における有限の正の収縮がヒルベルト空間上の射影の集合として実現できるときの特徴付けによって達成される。
  論文  参考訳（メタデータ） (2021-02-11T03:15:47Z)
• Using Deep LSD to build operators in GANs latent space with meaning in real space [0.0]
  相関の欠如は、潜在空間多様体が理解し操作し易いことを示唆するからである。 生成モデルは、例えば、可変オートエンコーダ(VAE)やGAN(Generative Adversarial Network)といったディープラーニングで広く使われている。
  論文  参考訳（メタデータ） (2021-02-09T21:05:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。