論文の概要: PROTOtypical Logic Tensor Networks (PROTO-LTN) for Zero Shot Learning

• arxiv url: http://arxiv.org/abs/2207.00433v1
• Date: Sun, 26 Jun 2022 18:34:07 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-10 11:39:42.300002
• Title: PROTOtypical Logic Tensor Networks (PROTO-LTN) for Zero Shot Learning
• Title（参考訳）: ゼロショット学習のためのPrototypeal Logic Tensor Networks (PROTO-LTN)
• Authors: Simone Martone, Francesco Manigrasso, Lamberti Fabrizio, Lia Morra
• Abstract要約: 論理ネットワーク(英: Logic Networks, LTN)は、ディープニューラルネットワークに根ざした微分可能な一階述語論理に基づくニューロシンボリックシステムである。 ここでは、ほとんどの意味的画像解釈タスクをエンコードする基本となるsubsumptionまたはtextttisOfClass述語に焦点を当てる。 本稿では,オブジェクト埋め込みと対応するクラスプロトタイプ間の距離の関数を真理レベルとする,共通のtextttisOfClass述語を提案する。
• 参考スコア（独自算出の注目度）: 2.236663830879273
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Semantic image interpretation can vastly benefit from approaches that combine sub-symbolic distributed representation learning with the capability to reason at a higher level of abstraction. Logic Tensor Networks (LTNs) are a class of neuro-symbolic systems based on a differentiable, first-order logic grounded into a deep neural network. LTNs replace the classical concept of training set with a knowledge base of fuzzy logical axioms. By defining a set of differentiable operators to approximate the role of connectives, predicates, functions and quantifiers, a loss function is automatically specified so that LTNs can learn to satisfy the knowledge base. We focus here on the subsumption or \texttt{isOfClass} predicate, which is fundamental to encode most semantic image interpretation tasks. Unlike conventional LTNs, which rely on a separate predicate for each class (e.g., dog, cat), each with its own set of learnable weights, we propose a common \texttt{isOfClass} predicate, whose level of truth is a function of the distance between an object embedding and the corresponding class prototype. The PROTOtypical Logic Tensor Networks (PROTO-LTN) extend the current formulation by grounding abstract concepts as parametrized class prototypes in a high-dimensional embedding space, while reducing the number of parameters required to ground the knowledge base. We show how this architecture can be effectively trained in the few and zero-shot learning scenarios. Experiments on Generalized Zero Shot Learning benchmarks validate the proposed implementation as a competitive alternative to traditional embedding-based approaches. The proposed formulation opens up new opportunities in zero shot learning settings, as the LTN formalism allows to integrate background knowledge in the form of logical axioms to compensate for the lack of labelled examples.
• Abstract（参考訳）: 意味論的画像解釈は、サブシンボリックな分散表現学習と高度な抽象レベルでの推論能力を組み合わせたアプローチの恩恵を受けることができる。 論理テンソルネットワーク(英: logic tensor networks、ltns)は、深層ニューラルネットワークを基盤とする、微分可能な一階述語論理に基づくニューロシンボリックシステムの一種である。 LTNは古典的なトレーニングセットの概念をファジィ論理公理の知識ベースに置き換える。 接続、述語、関数、量子化器の役割を近似するために微分可能作用素の集合を定義することにより、LTNが知識ベースを満たすことを学べるように損失関数が自動的に指定される。 ここでは、ほとんどのセマンティックイメージ解釈タスクをエンコードする基本となる、subsumption または \texttt{isOfClass} 述語に焦点を当てる。 各クラス(例えば、犬、猫)の個別の述語に依存する従来のltnとは異なり、各クラスは学習可能な重みのセットを持ち、真理のレベルがオブジェクト埋め込みと対応するクラスプロトタイプの間の距離の関数である共通の \texttt{isofclass}述語を提案する。 Prototypeal Logic Tensor Networks (PROTO-LTN) は、抽象概念をパラメータ化されたクラスプロトタイプとして高次元埋め込み空間において基底化し、知識ベースを基底化するために必要なパラメータの数を減らし、現在の定式化を拡張している。 このアーキテクチャが、少数かつゼロショットの学習シナリオで効果的にトレーニングできることを示します。 汎用ゼロショット学習ベンチマークの実験は、従来の埋め込みベースのアプローチに対抗して提案された実装を検証する。 ltn形式は、ラベル付き例の欠如を補うために、論理公理の形で背景知識を統合することができる。

関連論文リスト

• Semantic Objective Functions: A distribution-aware method for adding logical constraints in deep learning [4.854297874710511]
  制約付き学習と知識蒸留技術は有望な結果を示した。 本稿では,機械学習モデルに知識を付加した論理的制約を組み込むロスベース手法を提案する。 本手法は,論理的制約のある分類タスクを含む,様々な学習課題において評価する。
  論文  参考訳（メタデータ） (2024-05-03T19:21:47Z)
• LOGICSEG: Parsing Visual Semantics with Neural Logic Learning and Reasoning [73.98142349171552]
  LOGICSEGは、神経誘導学習と論理推論をリッチデータとシンボリック知識の両方に統合する、全体論的視覚意味論である。 ファジィ論理に基づく連続的な緩和の間、論理式はデータとニューラルな計算グラフに基礎を置いており、論理によるネットワークトレーニングを可能にする。 これらの設計によりLOGICSEGは、既存のセグメンテーションモデルに容易に統合できる汎用的でコンパクトなニューラル論理マシンとなる。
  論文  参考訳（メタデータ） (2023-09-24T05:43:19Z)
• Fuzzy Logic Visual Network (FLVN): A neuro-symbolic approach for visual features matching [6.128849673587451]
  本稿では、ニューロシンボリックLTNフレームワーク内で視覚的セマンティックな埋め込み空間を学習するタスクを定式化するFuzzy Logic Visual Network(FLVN)を提案する。 FLVNは以前の知識をクラス階層(クラスとマクロクラス)の形で組み入れ、堅牢な高レベルの帰納バイアスを持つ。 計算オーバーヘッドの少ない最近のZSL手法と競合する性能を実現する。
  論文  参考訳（メタデータ） (2023-07-29T16:21:40Z)
• Equivariance with Learned Canonicalization Functions [77.32483958400282]
  正規化を行うために小さなニューラルネットワークを学習することは、事前定義を使用することよりも優れていることを示す。 実験の結果,正準化関数の学習は多くのタスクで同変関数を学習する既存の手法と競合することがわかった。
  論文  参考訳（メタデータ） (2022-11-11T21:58:15Z)
• Dynamic Inference with Neural Interpreters [72.90231306252007]
  本稿では,モジュールシステムとしての自己アテンションネットワークにおける推論を分解するアーキテクチャであるNeural Interpretersを提案する。 モデルへの入力は、エンドツーエンドの学習方法で一連の関数を通してルーティングされる。 ニューラル・インタープリタは、より少ないパラメータを用いて視覚変換器と同等に動作し、サンプル効率で新しいタスクに転送可能であることを示す。
  論文  参考訳（メタデータ） (2021-10-12T23:22:45Z)
• DeepPSL: End-to-end perception and reasoning with applications to zero shot learning [1.1124588036301817]
  推論と知覚を統合したエンドツーエンドのトレーニングシステムを作成します。 DeepPSLは確率的ソフト論理(PSL)の変種である 画像分類において、DeepPSLをゼロショット学習問題で評価する。
  論文  参考訳（メタデータ） (2021-09-28T12:30:33Z)
• Faster-LTN: a neuro-symbolic, end-to-end object detection architecture [6.262658726461965]
  本稿では,畳み込みバックボーンとLTNからなる物体検出器であるFaster-LTNを提案する。 このアーキテクチャは、ラベル付き例と事前知識を組み合わせた基礎理論を最適化することで訓練される。 実験的な比較では、従来のFaster R-CNNアーキテクチャと競合する性能を示している。
  論文  参考訳（メタデータ） (2021-07-05T09:09:20Z)
• FF-NSL: Feed-Forward Neural-Symbolic Learner [70.978007919101]
  本稿では,Feed-Forward Neural-Symbolic Learner (FF-NSL) と呼ばれるニューラルシンボリック学習フレームワークを紹介する。 FF-NSLは、ラベル付き非構造化データから解釈可能な仮説を学習するために、Answer Setセマンティクスに基づく最先端のICPシステムとニューラルネットワークを統合する。
  論文  参考訳（メタデータ） (2021-06-24T15:38:34Z)
• Reinforcement Learning with External Knowledge by using Logical Neural Networks [67.46162586940905]
  論理ニューラルネットワーク(LNN)と呼ばれる最近のニューラルシンボリックフレームワークは、ニューラルネットワークとシンボリックロジックの両方のキープロパティを同時に提供することができる。 外部知識ソースからのモデルフリー強化学習を可能にする統合手法を提案する。
  論文  参考訳（メタデータ） (2021-03-03T12:34:59Z)
• Logical Neural Networks [51.46602187496816]
  ニューラルネットワーク(学習)と記号論理(知識と推論)の両方の重要な特性をシームレスに提供する新しいフレームワークを提案する。 すべてのニューロンは、重み付けされた実数値論理における公式の構成要素としての意味を持ち、非常に解釈不能な非絡み合い表現をもたらす。 推論は事前に定義されたターゲット変数ではなく、オムニであり、論理的推論に対応する。
  論文  参考訳（メタデータ） (2020-06-23T16:55:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。