論文の概要: Representing Unordered Data Using Complex-Weighted Multiset Automata

• arxiv url: http://arxiv.org/abs/2001.00610v3
• Date: Fri, 28 Aug 2020 14:11:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-16 04:39:47.955673
• Title: Representing Unordered Data Using Complex-Weighted Multiset Automata
• Title（参考訳）: 複素重み付きマルチセットオートマタを用いた非順序データの表現
• Authors: Justin DeBenedetto, David Chiang
• Abstract要約: 我々は、既存のニューラルネットワークアーキテクチャのマルチセット表現を、我々の特別なケースとみなすことができることを示す。 すなわち、正弦波関数を用いたトランスフォーマーモデルの位置表現に対して、新しい理論的、直感的な正当性を与える。 私たちはDeepSetsモデルを複雑な数に拡張し、既存のモデルをそのタスクの1つの拡張で上回るようにします。
• 参考スコア（独自算出の注目度）: 23.68657135308002
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Unordered, variable-sized inputs arise in many settings across multiple fields. The ability for set- and multiset-oriented neural networks to handle this type of input has been the focus of much work in recent years. We propose to represent multisets using complex-weighted multiset automata and show how the multiset representations of certain existing neural architectures can be viewed as special cases of ours. Namely, (1) we provide a new theoretical and intuitive justification for the Transformer model's representation of positions using sinusoidal functions, and (2) we extend the DeepSets model to use complex numbers, enabling it to outperform the existing model on an extension of one of their tasks.
• Abstract（参考訳）: 非順序、可変サイズの入力は複数のフィールドにまたがる多くの設定で発生する。 このタイプの入力を処理するための、セットとマルチセット指向のニューラルネットワークの能力は、近年多くの作業の焦点となっている。 複素重み付きマルチセットオートマトンを用いてマルチセットを表現し、既存のニューラルネットワークアーキテクチャのマルチセット表現を我々の特別なケースとみなす方法を示す。 すなわち,(1) 正弦波関数を用いたトランスフォーマーモデルの位置表現の理論的,直感的な新しい正当性を提供し,(2) 複素数を使用するためにDeepSetsモデルを拡張し,既存のモデルをタスクの1つの拡張上で上回るようにした。

関連論文リスト

• Multiset Transformer: Advancing Representation Learning in Persistence Diagrams [11.512742322405906]
  マルチセットトランスフォーマー(Multiset Transformer)は、マルチセットを入力として特別に設計されたアテンションメカニズムを利用するニューラルネットワークである。 このアーキテクチャは、マルチセット強化された注意とプール分解スキームを統合し、同変層にまたがる多重性を維持できる。 実験により、Multiset Transformerは、永続図表表現学習の領域において、既存のニューラルネットワーク手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2024-11-22T01:38:47Z)
• U3M: Unbiased Multiscale Modal Fusion Model for Multimodal Semantic Segmentation [63.31007867379312]
  U3M: An Unbiased Multiscale Modal Fusion Model for Multimodal Semanticsを紹介する。 我々は,グローバルな特徴とローカルな特徴の効果的な抽出と統合を保証するために,複数のスケールで機能融合を採用している。 実験により,本手法は複数のデータセットにまたがって優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2024-05-24T08:58:48Z)
• EulerFormer: Sequential User Behavior Modeling with Complex Vector Attention [88.45459681677369]
  複素ベクトル注意を持つ新しい変圧器変圧器(EulerFormer)を提案する。 意味的差と位置的差の両方を定式化するための統一的な理論的枠組みを提供する。 意味的変動に対してより堅牢であり、原理上はより上述の理論的性質を持つ。
  論文  参考訳（メタデータ） (2024-03-26T14:18:43Z)
• Generative Multimodal Models are In-Context Learners [60.50927925426832]
  我々は37億のパラメータを持つ生成的マルチモーダルモデルであるEmu2を紹介し、大規模マルチモーダルシーケンスで訓練する。 Emu2は、マルチモーダルなインコンテキスト学習能力を示し、オンザフライ推論を必要とするタスクを解決しようとさえしている。
  論文  参考訳（メタデータ） (2023-12-20T18:59:58Z)
• Bi-directional Adapter for Multi-modal Tracking [67.01179868400229]
  汎用の双方向アダプタを用いたマルチモーダル視覚プロンプト追跡モデルを提案する。 我々は、モーダリティ固有の情報をあるモーダリティから別のモーダリティへ転送するための、シンプルだが効果的なライト・フィーチャー・アダプタを開発した。 本モデルでは,完全微調整法と素早い学習法の両方と比較して,追跡性能が優れている。
  論文  参考訳（メタデータ） (2023-12-17T05:27:31Z)
• Modular Blended Attention Network for Video Question Answering [1.131316248570352]
  本稿では,再利用可能で構成可能なニューラルユニットを用いた問題解決手法を提案する。 一般的に使用されている3つのデータセットについて実験を行った。
  論文  参考訳（メタデータ） (2023-11-02T14:22:17Z)
• MulT: An End-to-End Multitask Learning Transformer [66.52419626048115]
  我々はMulTと呼ばれるエンドツーエンドのマルチタスク学習トランスフォーマフレームワークを提案し、複数のハイレベル視覚タスクを同時に学習する。 本フレームワークは,入力画像を共有表現にエンコードし,タスク固有のトランスフォーマーベースのデコーダヘッドを用いて各視覚タスクの予測を行う。
  論文  参考訳（メタデータ） (2022-05-17T13:03:18Z)
• Unsupervised Multimodal Language Representations using Convolutional Autoencoders [5.464072883537924]
  本稿では,教師なしマルチモーダル言語表現の抽出について提案する。 単語レベルのアライメントされたマルチモーダルシーケンスを2次元行列にマップし、畳み込みオートエンコーダを用いて複数のデータセットを組み合わせることで埋め込みを学習する。 また,本手法は非常に軽量で,他のタスクに容易に一般化でき,少ない性能低下とほぼ同じ数のパラメータを持つ未確認データが得られることを示した。
  論文  参考訳（メタデータ） (2021-10-06T18:28:07Z)
• Abelian Neural Networks [48.52497085313911]
  まず、アベリア群演算のためのニューラルネットワークアーキテクチャを構築し、普遍近似特性を導出する。 連想対称の特徴づけを用いて、アベリア半群演算に拡張する。 固定単語埋め込み上でモデルをトレーニングし、元の word2vec よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2021-02-24T11:52:21Z)
• DynE: Dynamic Ensemble Decoding for Multi-Document Summarization [5.197307534263253]
  異なる入力に対して同一モデルの複数のインスタンスの出力をアンサンブルする単純な復号法を提案する。 我々は,複数の文書要約データセットの最先端結果を得る。
  論文  参考訳（メタデータ） (2020-06-15T20:40:06Z)
• Deep Multi-Modal Sets [29.983311598563542]
  ディープ・マルチモーダル・セット(Deep Multi-Modal Sets)は、1つの長く成長する固定サイズのベクトルではなく、非順序集合として特徴の集合を表現する技法である。 さまざまなタイプのタスクを学習するために,さまざまなモダリティを理由として,スケーラブルでマルチモーダルなフレームワークを実証する。
  論文  参考訳（メタデータ） (2020-03-03T15:48:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。