論文の概要: Symbolic Techniques for Deep Learning: Challenges and Opportunities
- arxiv url: http://arxiv.org/abs/2010.02727v1
- Date: Thu, 1 Oct 2020 23:02:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-12 08:59:57.447375
- Title: Symbolic Techniques for Deep Learning: Challenges and Opportunities
- Title（参考訳）: 深層学習のための象徴的手法 : 挑戦と機会
- Authors: Belinda Fang, Elaine Yang, and Fei Xie
- Abstract要約: 我々は、Keras、PyTorch、MXNetなど、現在使われている最も人気のあるディープラーニングフレームワークについて調べる。
この論文は、ニューラルネットワークの構築方法だけでなく、実行方法にも影響を及ぼすため、象徴的なテクニックに焦点をあてる。
- 参考スコア（独自算出の注目度）: 4.416697289927759
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As the number of deep learning frameworks increase and certain ones gain
popularity, it spurs the discussion of what methodologies are employed by these
frameworks and the reasoning behind them. The goal of this survey is to study
how symbolic techniques are utilized in deep learning. To do this, we look at
some of the most popular deep learning frameworks being used today, including
TensorFlow, Keras, PyTorch, and MXNet. While these frameworks greatly differ
from one another, many of them use symbolic techniques, whether it be symbolic
execution, graphs, or programming. We focus this paper on symbolic techniques
because they influence not only how neural networks are built but also the way
in which they are executed.
Limitations of symbolic techniques have led to efforts in integrating
symbolic and nonsymbolic aspects in deep learning, opening up new possibilities
for symbolic techniques. For example, the Gluon API by Apache MXNet bridges the
gap between imperative programming and symbolic execution through
hybridization. Frameworks such as JANUS attempt to translate imperative
programs into symbolic graphs, while approaches like DeepCheck attempt to use
symbolic execution to analyze and validate imperative neural network programs.
Symbolic analysis has also been paired with concrete execution in a technique
called concolic testing in order to better test deep neural networks. Our study
of these developments exemplifies just a few of the many ways the symbolic
techniques employed by popular frameworks have the opportunity to be altered
and utilized to achieve better performance.
- Abstract（参考訳）: ディープラーニングフレームワークの数が増え、その人気が高まるにつれて、これらのフレームワークで採用されている方法論と、その背後にある理由に関する議論が促進される。
本調査の目的は,深層学習における記号的手法の活用方法を検討することである。
これを実現するために、tensorflow、keras、pytorch、mxnetなど、現在使われている最も人気のあるディープラーニングフレームワークをいくつか検討しています。
これらのフレームワークは互いに大きく異なるが、その多くはシンボリックな実行やグラフ、プログラミングなど、象徴的なテクニックを使用している。
この論文は、ニューラルネットワークの構築方法だけでなく、実行方法にも影響を及ぼすため、象徴的なテクニックに焦点をあてる。
記号技法の限界は、深層学習における記号的側面と非記号的側面を統合する努力につながり、記号的技法の新しい可能性を開く。
例えば、Apache MXNetによるGluon APIは、命令型プログラミングとハイブリッド化によるシンボル実行のギャップを埋めている。
JANUSのようなフレームワークは命令型プログラムをシンボリックグラフに変換しようとするが、DeepCheckのようなアプローチは命令型ニューラルネットワークプログラムを分析し検証するためにシンボル型実行を使用しようとする。
シンボリック解析は、ディープニューラルネットワークをより良くテストするために、concolic testingと呼ばれるテクニックで具体的な実行と組み合わせられている。
これらの開発に関する我々の研究は、人気のあるフレームワークが採用するシンボリックテクニックが、よりよいパフォーマンスを達成するために変更され活用される機会を持つ多くの方法のほんの一部を例示しています。
関連論文リスト
- Mapping the Neuro-Symbolic AI Landscape by Architectures: A Handbook on Augmenting Deep Learning Through Symbolic Reasoning [11.418327158608664]
統計的強度を持つ記号技法は、人工知能の長年の問題である。
ニューロシンボリックAIは、この統合に焦点を当てている。
シンボリックテクニックの最初のマッピングを,そのアーキテクチャに基づいたフレームワークのファミリーに提示する。
論文 参考訳（メタデータ） (2024-10-29T14:35:59Z) - Efficient Symbolic Reasoning for Neural-Network Verification [48.384446430284676]
本稿では,ニューラルネットワーク検証のための新しいプログラム推論フレームワークを提案する。
我々のフレームワークの主要な構成要素は、記号領域と二次関係の利用である。
我々のフレームワークは、ニューラルネットワークの検証問題に新しい理論的洞察と実践的なツールをもたらすことができると信じている。
論文 参考訳（メタデータ） (2023-03-23T18:08:11Z) - Symbolic Visual Reinforcement Learning: A Scalable Framework with
Object-Level Abstraction and Differentiable Expression Search [63.3745291252038]
DiffSESは、離散的なシンボルポリシーを発見する新しいシンボリック学習手法である。
生のピクセルレベルの入力の代わりにオブジェクトレベルの抽象化を使用することで、DiffSESはシンボリック表現の単純さとスケーラビリティの利点を活用することができる。
我々の実験は、DiffSESが最先端のシンボルRL法よりもシンプルでスケーラブルなシンボリックポリシーを生成することができることを示した。
論文 参考訳（メタデータ） (2022-12-30T17:50:54Z) - Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。
本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。
NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2022-05-25T12:41:59Z) - RICE: Refining Instance Masks in Cluttered Environments with Graph
Neural Networks [53.15260967235835]
本稿では,インスタンスマスクのグラフベース表現を利用して,そのような手法の出力を改良する新しいフレームワークを提案する。
我々は、セグメンテーションにスマートな摂動をサンプリングできるディープネットワークと、オブジェクト間の関係をエンコード可能なグラフニューラルネットワークを訓練し、セグメンテーションを評価する。
本稿では,本手法によって生成された不確実性推定を用いてマニピュレータを誘導し,乱れたシーンを効率的に理解するアプリケーションについて紹介する。
論文 参考訳（メタデータ） (2021-06-29T20:29:29Z) - Representing Partial Programs with Blended Abstract Semantics [62.20775388513027]
プログラム合成エンジンにおける部分的なプログラム表現手法について紹介する。
モジュラーニューラルネットワークとして実装された近似実行モデルを学ぶ。
これらのハイブリッドニューロシンボリック表現は、実行誘導型シンセサイザーがより強力な言語構成を使うことができることを示す。
論文 参考訳（メタデータ） (2020-12-23T20:40:18Z) - Graphs for deep learning representations [1.0152838128195467]
グラフ信号処理(GSP)の最近の進歩に基づくグラフ形式化について紹介します。
すなわち、ディープニューラルネットワークの潜在空間を表すためにグラフを使用します。
このグラフ形式化によって,頑健性の確保,学習プロセスの設計における任意の選択量の削減,入力に付加された小さな一般化の改善,計算複雑性の低減など,さまざまな質問に答えることができることが示されています。
論文 参考訳（メタデータ） (2020-12-14T11:51:23Z) - Learned Greedy Method (LGM): A Novel Neural Architecture for Sparse
Coding and Beyond [24.160276545294288]
同じ目的のために,欲求追従アルゴリズムの展開版を提案する。
Learned Greedy Method(LGM)のキーとなる特徴は、動的に展開された複数のレイヤに対応する能力である。
論文 参考訳（メタデータ） (2020-10-14T13:17:02Z) - Synbols: Probing Learning Algorithms with Synthetic Datasets [112.45883250213272]
Synbolsは、低解像度画像にレンダリングされた潜在機能のリッチな構成で、新しいデータセットを高速に生成するツールである。
ツールの高レベルインターフェースは、潜在機能で新しいディストリビューションを高速に生成するための言語を提供する。
Synbolsの汎用性を示すために,各種学習環境における標準学習アルゴリズムの限界と欠陥を識別するために,本手法を用いる。
論文 参考訳（メタデータ） (2020-09-14T13:03:27Z) - Learning from Few Samples: A Survey [1.4146420810689422]
コンピュータビジョン領域における既存の数ショットメタ学習手法について,その手法と評価指標に基づいて検討する。
我々は、これらの技術のための分類法を提供し、それらをデータ拡張、埋め込み、最適化、セマンティクスに基づく学習に分類する。
論文 参考訳（メタデータ） (2020-07-30T14:28:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。