論文の概要: Attention-based Iterative Decomposition for Tensor Product Representation

• arxiv url: http://arxiv.org/abs/2406.01012v1
• Date: Mon, 3 Jun 2024 05:46:52 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 02:27:34.778795
• Title: Attention-based Iterative Decomposition for Tensor Product Representation
• Title（参考訳）: テンソル積表現の注意に基づく反復分解
• Authors: Taewon Park, Inchul Choi, Minho Lee,
• Abstract要約: Intention-based Iterative Decomposition (AID) モジュールを提案し,Product Representation (TPR) を用いた逐次入力データから符号化された構造化表現の分解操作を強化する。 我々のAIDは、任意のTPRモデルに容易に適応でき、入力特徴と構造化表現との間の競合的な注意機構を通じて、体系的な分解を提供する。 本実験では,一連の系統的一般化タスクにおいて,TPRに基づく先行作業の性能を大幅に向上させることにより,AIDの有効性を示す。
• 参考スコア（独自算出の注目度）: 4.799269473206375
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In recent research, Tensor Product Representation (TPR) is applied for the systematic generalization task of deep neural networks by learning the compositional structure of data. However, such prior works show limited performance in discovering and representing the symbolic structure from unseen test data because their decomposition to the structural representations was incomplete. In this work, we propose an Attention-based Iterative Decomposition (AID) module designed to enhance the decomposition operations for the structured representations encoded from the sequential input data with TPR. Our AID can be easily adapted to any TPR-based model and provides enhanced systematic decomposition through a competitive attention mechanism between input features and structured representations. In our experiments, AID shows effectiveness by significantly improving the performance of TPR-based prior works on the series of systematic generalization tasks. Moreover, in the quantitative and qualitative evaluations, AID produces more compositional and well-bound structural representations than other works.
• Abstract（参考訳）: 近年の研究では、データの構成構造を学習することにより、ディープニューラルネットワークの体系的一般化タスクにテンソル製品表現(TPR)を適用している。 しかし、これらの先行研究は、その構造表現への分解が不完全であるため、目に見えないテストデータからシンボル構造を発見し、表現する上で、限られた性能を示した。 本研究では,TPRを用いた逐次入力データから符号化された構造化表現の分解操作を強化するために,Attention-based Iterative Decomposition (AID)モジュールを提案する。 我々のAIDは、任意のTPRモデルに容易に適応でき、入力特徴と構造化表現との間の競合的な注意機構を通じて、体系的な分解を提供する。 本実験では,一連の系統的一般化タスクにおいて,TPRに基づく先行作業の性能を大幅に向上させることにより,AIDの有効性を示す。 さらに、定量的および定性的な評価では、AIDは他の作品よりも構成的および十分有界な構造表現を生成する。

関連論文リスト

• Effective Reinforcement Learning Based on Structural Information Principles [19.82391136775341]
  本稿では, 効率的な意思決定・意思決定のための, 新規で汎用的な構造情報原則に基づくフレームワーク,すなわちSIDMを提案する。 SIDMは、様々な単一エージェントおよびマルチエージェントRLアルゴリズムに柔軟に組み込むことができ、その性能を向上させることができる。
  論文  参考訳（メタデータ） (2024-04-15T13:02:00Z)
• Learning to Extract Structured Entities Using Language Models [52.281701191329]
  機械学習の最近の進歩は、情報抽出の分野に大きな影響を与えている。 タスクをエンティティ中心にすることで、さまざまなメトリクスの使用を可能にします。 我々は、Structured Entity extractを導入し、Adroximate Entity Set OverlaPメトリックを提案し、この分野にコントリビュートします。
  論文  参考訳（メタデータ） (2024-02-06T22:15:09Z)
• Structure-CLIP: Towards Scene Graph Knowledge to Enhance Multi-modal Structured Representations [70.41385310930846]
  マルチモーダルな構造表現を強化するためのエンドツーエンドフレームワークであるStructure-CLIPを提案する。 シーングラフを用いてセマンティックなネガティブな例の構築をガイドし、その結果、構造化された表現の学習に重点を置いている。 知識エンハンス(KEE)は、SGKを入力として活用し、構造化表現をさらに強化するために提案される。
  論文  参考訳（メタデータ） (2023-05-06T03:57:05Z)
• Hierarchical State Abstraction Based on Structural Information Principles [70.24495170921075]
  本稿では、情報理論の観点から、新しい数学的構造情報原理に基づく状態抽象化フレームワーク、すなわちSISAを提案する。 SISAは、様々な表現学習目標と柔軟に統合され、パフォーマンスをさらに向上する一般的なフレームワークである。
  論文  参考訳（メタデータ） (2023-04-24T11:06:52Z)
• Feature construction using explanations of individual predictions [0.0]
  本稿では,予測モデルのインスタンスベース説明の集約に基づく探索空間の削減手法を提案する。 これらのグループに対する探索の削減が特徴構築の時間を大幅に短縮することを実証的に示す。 いくつかの分類器の分類精度を大幅に向上させ,大規模データセットにおいても提案する特徴構築の実現可能性を示した。
  論文  参考訳（メタデータ） (2023-01-23T18:59:01Z)
• Structure-Aware Feature Generation for Zero-Shot Learning [108.76968151682621]
  潜在空間と生成ネットワークの両方を学習する際の位相構造を考慮し,SA-GANと呼ばれる新しい構造認識特徴生成手法を提案する。 本手法は,未確認クラスの一般化能力を大幅に向上させ,分類性能を向上させる。
  論文  参考訳（メタデータ） (2021-08-16T11:52:08Z)
• Structure-Regularized Attention for Deformable Object Representation [17.120035855774344]
  文脈依存のキャプチャは、ディープニューラルネットワークの表現力を改善するのに有用であることが証明されている。 自己注意や非局所操作といったグローバルコンテキストのモデリングに焦点をあてた近年のアプローチは、要素間の制約のないペアワイズ相互作用を可能にすることで、この目標を達成する。 本稿では,データに固有の構造的依存関係をモデル化することにより,コンテキスト利用の恩恵を受けることができる変形可能なオブジェクトの学習表現について考察する。
  論文  参考訳（メタデータ） (2021-06-12T03:10:17Z)
• DRTS Parsing with Structure-Aware Encoding and Decoding [28.711318411470497]
  最先端のパフォーマンスは、ニューラルシーケンス・ツー・シーケンスモデルによって達成できる。 構造情報を統合するために,エンコーダとデコーダの両フェーズにおける構造認識モデルを提案する。
  論文  参考訳（メタデータ） (2020-05-14T12:09:23Z)
• Unsupervised Instance Segmentation in Microscopy Images via Panoptic Domain Adaptation and Task Re-weighting [86.33696045574692]
  病理組織像における教師なし核分割のためのCycle Consistency Panoptic Domain Adaptive Mask R-CNN(CyC-PDAM)アーキテクチャを提案する。 まず,合成画像中の補助的な生成物を除去するための核塗布機構を提案する。 第二に、ドメイン識別器を持つセマンティックブランチは、パンプトレベルのドメイン適応を実現するように設計されている。
  論文  参考訳（メタデータ） (2020-05-05T11:08:26Z)
• A Dependency Syntactic Knowledge Augmented Interactive Architecture for End-to-End Aspect-based Sentiment Analysis [73.74885246830611]
  エンドツーエンドABSAのためのマルチタスク学習を用いた対話型アーキテクチャを新たに提案する。 このモデルは、よく設計された依存性関係埋め込みグラフ畳み込みネットワーク(DreGcn)を活用することで、構文知識(依存性関係と型)を完全に活用することができる。 3つのベンチマークデータセットの大規模な実験結果から,本手法の有効性が示された。
  論文  参考訳（メタデータ） (2020-04-04T14:59:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。