論文の概要: Deep Adaptive Semantic Logic (DASL): Compiling Declarative Knowledge
into Deep Neural Networks
- arxiv url: http://arxiv.org/abs/2003.07344v1
- Date: Mon, 16 Mar 2020 17:37:25 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-23 02:38:07.025483
- Title: Deep Adaptive Semantic Logic (DASL): Compiling Declarative Knowledge
into Deep Neural Networks
- Title(参考訳): Deep Adaptive Semantic Logic (DASL):Deep Neural Networksへの宣言的知識のコンパイル
- Authors: Karan Sikka, Andrew Silberfarb, John Byrnes, Indranil Sur, Ed Chow,
Ajay Divakaran, Richard Rohwer
- Abstract要約: 本稿では,深層ニューラルネットワークの自動生成のための新しいフレームワークであるDeep Adaptive Semantic Logic (DASL)を紹介する。
DASLは、データからの学習を改善するために、ユーザが提供する形式的な知識を取り入れている。
我々は,視覚的関係検出タスク上でDASLを評価し,コモンセンス知識の追加によってデータ不足時の性能が10.7%向上することが実証された。
- 参考スコア(独自算出の注目度): 11.622060073764944
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce Deep Adaptive Semantic Logic (DASL), a novel framework for
automating the generation of deep neural networks that incorporates
user-provided formal knowledge to improve learning from data. We provide formal
semantics that demonstrate that our knowledge representation captures all of
first order logic and that finite sampling from infinite domains converges to
correct truth values. DASL's representation improves on prior neural-symbolic
work by avoiding vanishing gradients, allowing deeper logical structure, and
enabling richer interactions between the knowledge and learning components. We
illustrate DASL through a toy problem in which we add structure to an image
classification problem and demonstrate that knowledge of that structure reduces
data requirements by a factor of $1000$. We then evaluate DASL on a visual
relationship detection task and demonstrate that the addition of commonsense
knowledge improves performance by $10.7\%$ in a data scarce setting.
- Abstract(参考訳): 本稿では,ユーザが提供する形式的知識を組み込んだ深層ニューラルネットワークの自動生成フレームワークであるdeep adaptive semantic logic (dasl)を提案する。
我々は、知識表現が一階述語論理の全てを捉え、無限領域からの有限サンプリングが正しい真理値に収束することを示す形式的意味論を提供する。
daslの表現は、勾配の消失を回避し、より深い論理構造を可能にし、知識と学習コンポーネント間のより豊かな相互作用を可能にすることで、事前のニューラルシンボリックな作業を改善する。
我々は,画像分類問題に構造を加え,その構造に関する知識がデータ要求を1,000ドル程度削減することを示す玩具問題を通してDASLを説明する。
次に、視覚的関係検出タスク上でDASLを評価し、コモンセンス知識の追加によりデータ不足時の性能が10.7\%向上することを示す。
関連論文リスト
- LOGICSEG: Parsing Visual Semantics with Neural Logic Learning and
Reasoning [73.98142349171552]
LOGICSEGは、神経誘導学習と論理推論をリッチデータとシンボリック知識の両方に統合する、全体論的視覚意味論である。
ファジィ論理に基づく連続的な緩和の間、論理式はデータとニューラルな計算グラフに基礎を置いており、論理によるネットワークトレーニングを可能にする。
これらの設計によりLOGICSEGは、既存のセグメンテーションモデルに容易に統合できる汎用的でコンパクトなニューラル論理マシンとなる。
論文 参考訳(メタデータ) (2023-09-24T05:43:19Z) - Recognizing Unseen Objects via Multimodal Intensive Knowledge Graph
Propagation [68.13453771001522]
画像の領域と対応するセマンティック埋め込みとをマッチングする多モード集中型ZSLフレームワークを提案する。
我々は、大規模な実世界のデータに基づいて、広範囲な実験を行い、そのモデルを評価する。
論文 参考訳(メタデータ) (2023-06-14T13:07:48Z) - Experimental Observations of the Topology of Convolutional Neural
Network Activations [2.4235626091331737]
トポロジカル・データ解析は、複雑な構造のコンパクトでノイズ・ロバストな表現を提供する。
ディープニューラルネットワーク(DNN)は、モデルアーキテクチャによって定義された一連の変換に関連する数百万のパラメータを学習する。
本稿では,画像分類に使用される畳み込みニューラルネットワークの解釈可能性に関する知見を得る目的で,TDAの最先端技術を適用した。
論文 参考訳(メタデータ) (2022-12-01T02:05:44Z) - SR-GNN: Spatial Relation-aware Graph Neural Network for Fine-Grained
Image Categorization [24.286426387100423]
本稿では,最も関連性の高い画像領域からコンテキスト認識機能を集約することで,微妙な変化を捉える手法を提案する。
我々のアプローチは、近年の自己注意とグラフニューラルネットワーク(GNN)の発展にインスパイアされている。
これは、認識精度のかなりの差で最先端のアプローチよりも優れている。
論文 参考訳(メタデータ) (2022-09-05T19:43:15Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - Dynamic Inference with Neural Interpreters [72.90231306252007]
本稿では,モジュールシステムとしての自己アテンションネットワークにおける推論を分解するアーキテクチャであるNeural Interpretersを提案する。
モデルへの入力は、エンドツーエンドの学習方法で一連の関数を通してルーティングされる。
ニューラル・インタープリタは、より少ないパラメータを用いて視覚変換器と同等に動作し、サンプル効率で新しいタスクに転送可能であることを示す。
論文 参考訳(メタデータ) (2021-10-12T23:22:45Z) - Malicious Network Traffic Detection via Deep Learning: An Information
Theoretic View [0.0]
本研究では,ホメオモルフィズムがマルウェアのトラフィックデータセットの学習表現に与える影響について検討する。
この結果から,学習された表現の詳細と,すべてのパラメータの多様体上で定義された特定の座標系は,関数近似とは全く異なることが示唆された。
論文 参考訳(メタデータ) (2020-09-16T15:37:44Z) - Neural Networks Enhancement with Logical Knowledge [83.9217787335878]
関係データに対するKENNの拡張を提案する。
その結果、KENNは、存在関係データにおいても、基礎となるニューラルネットワークの性能を高めることができることがわかった。
論文 参考訳(メタデータ) (2020-09-13T21:12:20Z) - Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。
接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。
この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
論文 参考訳(メタデータ) (2020-08-19T04:53:31Z) - Gradient-Adjusted Neuron Activation Profiles for Comprehensive
Introspection of Convolutional Speech Recognition Models [1.6752182911522515]
我々は,Deep Neural Networksにおける特徴や表現を解釈する手段として,GradNAP(Gradient-adjusted Neuron Activation Profiles)を導入する。
GradNAPは、特定の入力のグループに対するANNの特徴的な応答であり、予測のためのニューロンの関連性を含んでいる。
ANNでデータがどのように処理されるかを知るためにGradNAPを利用する方法を示す。
論文 参考訳(メタデータ) (2020-02-19T11:59:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。