Fugu-MT 論文翻訳(概要): Compositional Structures in Neural Embedding and Interaction Decompositions

論文の概要: Compositional Structures in Neural Embedding and Interaction Decompositions

arxiv url: http://arxiv.org/abs/2407.08934v1
Date: Fri, 12 Jul 2024 02:39:50 GMT
ステータス: 処理完了
システム内更新日: 2024-07-16 01:06:33.992590
Title: Compositional Structures in Neural Embedding and Interaction Decompositions
Title（参考訳）: 神経内包と相互作用分解における組成構造
Authors: Matthew Trager, Alessandro Achille, Pramuditha Perera, Luca Zancato, Stefano Soatto,
Abstract要約: ニューラルネットワークにおけるベクトル埋め込みにおける線形代数構造間の基本的な対応について述べる。相互作用分解」の観点から構成構造の特徴づけを導入する。モデルの表現の中にそのような構造が存在するためには、必要かつ十分な条件を確立する。
参考スコア（独自算出の注目度）: 101.40245125955306
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We describe a basic correspondence between linear algebraic structures within vector embeddings in artificial neural networks and conditional independence constraints on the probability distributions modeled by these networks. Our framework aims to shed light on the emergence of structural patterns in data representations, a phenomenon widely acknowledged but arguably still lacking a solid formal grounding. Specifically, we introduce a characterization of compositional structures in terms of "interaction decompositions," and we establish necessary and sufficient conditions for the presence of such structures within the representations of a model.
Abstract（参考訳）: ニューラルネットワークにおけるベクトル埋め込みにおける線形代数構造と,これらのネットワークでモデル化された確率分布に対する条件独立性制約の基本的な対応について述べる。我々のフレームワークは、データ表現における構造パターンの出現に光を当てることを目的としている。具体的には、「相互作用分解」という観点から構成構造の特徴づけを導入し、モデルの表現の中にそのような構造が存在するためには必要かつ十分な条件を確立する。

関連論文リスト

Scaling Laws with Hidden Structure [2.474908349649168]
近年の進歩は、テキストと画像データがそのような隠された構造を含んでいることを示唆しており、次元の呪いを和らげるのに役立つ。本稿では,ニューラルネットワークが実際にそのような隠された因子構造を活用できるかどうかを検証するための制御された実験枠組みを提案する。これらの潜在パターンを利用して離散分布をより効率的に学習し、モデルサイズ、隠れ分解、精度をリンクするスケーリング法則を導出することを発見した。
論文参考訳（メタデータ） (2024-11-02T22:32:53Z)
Geometric Relational Embeddings [19.383110247906256]
本稿では,基礎となるシンボル構造を尊重する埋め込みのパラダイムであるリレーショナル埋め込みを提案する。実世界のベンチマークデータセットから得られた結果は、幾何学的リレーショナル埋め込みの有効性を示す。
論文参考訳（メタデータ） (2024-09-18T22:02:24Z)
Form-Finding and Physical Property Predictions of Tensegrity Structures Using Deep Neural Networks [39.19016806159609]
本研究では, 緊張構造の幾何学的構成と物理特性を予測するために, ディープニューラルネットワーク (DNN) アプローチを開発した。検証のために, 粘度Dバー, プリズム, ランダーを含む3つの張力構造を解析した。
論文参考訳（メタデータ） (2024-06-15T16:39:53Z)
Learning Discrete Concepts in Latent Hierarchical Models [73.01229236386148]
自然の高次元データから学習する概念は、ヒューマンアライメントと解釈可能な機械学習モデルの構築の可能性を秘めている。我々は概念を階層的因果モデルを通して関連付けられた離散潜在因果変数として定式化する。我々は、理論的な主張を合成データ実験で裏付ける。
論文参考訳（メタデータ） (2024-06-01T18:01:03Z)
What makes Models Compositional? A Theoretical View: With Supplement [60.284698521569936]
本稿では,構成関数の一般神経-記号的定義とその構成複雑性について述べる。既存の汎用および特殊目的のシーケンス処理モデルがこの定義にどのように適合しているかを示し、それらを用いて構成複雑性を分析する。
論文参考訳（メタデータ） (2024-05-02T20:10:27Z)
StructRe: Rewriting for Structured Shape Modeling [63.792684115318906]
本稿では,構造化形状モデリングの新しいアプローチとして,構造書換えシステムであるStructReを提案する。ポイントとコンポーネントで表される3Dオブジェクトが与えられたら、StructReはそれを上向きに、より簡潔な構造に書き直すか、より詳細な構造に書き直すことができる。
論文参考訳（メタデータ） (2023-11-29T10:35:00Z)
Geometric Constraints in Probabilistic Manifolds: A Bridge from Molecular Dynamics to Structured Diffusion Processes [0.0]
ユークリッド空間における任意の幾何制約の集合に厳密に固執する分布からのサンプリングを可能にする手法を提案する。これは、制約プロジェクション演算子をDenoising Diffusion Probabilistic Modelsのよく考えられたアーキテクチャに統合することで達成される。
論文参考訳（メタデータ） (2023-07-10T11:31:15Z)
Linear Spaces of Meanings: Compositional Structures in Vision-Language Models [110.00434385712786]
事前学習された視覚言語モデル(VLM)からのデータ埋め込みにおける構成構造について検討する。まず,幾何学的観点から構成構造を理解するための枠組みを提案する。次に、これらの構造がVLM埋め込みの場合の確率論的に持つものを説明し、実際に発生する理由の直観を提供する。
論文参考訳（メタデータ） (2023-02-28T08:11:56Z)
Non-standard entanglement structure of local unitary self-dual models as a saturated situation of repeatability in general probabilistic theories [61.12008553173672]
量子合成系の無限構造の存在を示し、局所ユニタリ対称性を持つ自己双対であることを示す。また、構造中の非直交状態が完全に区別可能であるような量子合成系の構造の存在を示す。
論文参考訳（メタデータ） (2021-11-29T23:37:58Z)
Emergent entanglement structures and self-similarity in quantum spin chains [0.0]
我々は,多体量子状態に対する実験的にアクセス可能なネットワーク表現を,その構成成分のすべての対間の絡み合いに基づいて導入する。この表現のパワーを、パラダイム的スピンチェーンモデル、XXモデルに適用し、それが軽い新しい現象をもたらすことを示す。
論文参考訳（メタデータ） (2020-07-14T12:13:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。