論文の概要: Lobster: A GPU-Accelerated Framework for Neurosymbolic Programming
- arxiv url: http://arxiv.org/abs/2503.21937v1
- Date: Thu, 27 Mar 2025 19:32:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-31 15:31:55.938247
- Title: Lobster: A GPU-Accelerated Framework for Neurosymbolic Programming
- Title(参考訳): Lobster: ニューロシンボリックプログラミングのためのGPUアクセラレーションフレームワーク
- Authors: Paul Biberstein, Ziyang Li, Joseph Devietti, Mayur Naik,
- Abstract要約: ニューロシンボリックプログラムは、より優れたデータ効率、解釈可能性、一般化可能性を達成するために、ディープラーニングとシンボリック推論を組み合わせる。
既存のニューロシンボリック学習フレームワークは、CPU上で動作するスローシンボリックコンポーネントを備えた、高度にスケーラブルでGPUを加速するニューラルコンポーネント間の不安定な結合を実装している。
ニューロシンボリック学習のために,GPUをエンドツーエンドに活用するための統一フレームワークであるLobsterを提案する。
- 参考スコア(独自算出の注目度): 10.129565359989044
- License:
- Abstract: Neurosymbolic programs combine deep learning with symbolic reasoning to achieve better data efficiency, interpretability, and generalizability compared to standalone deep learning approaches. However, existing neurosymbolic learning frameworks implement an uneasy marriage between a highly scalable, GPU-accelerated neural component with a slower symbolic component that runs on CPUs. We propose Lobster, a unified framework for harnessing GPUs in an end-to-end manner for neurosymbolic learning. Lobster maps a general neurosymbolic language based on Datalog to the GPU programming paradigm. This mapping is implemented via compilation to a new intermediate language called APM. The extra abstraction provided by APM allows Lobster to be both flexible, supporting discrete, probabilistic, and differentiable modes of reasoning on GPU hardware with a library of provenance semirings, and performant, implementing new optimization passes. We demonstrate that Lobster programs can solve interesting problems spanning the domains of natural language processing, image processing, program reasoning, bioinformatics, and planning. On a suite of 8 applications, Lobster achieves an average speedup of 5.3x over Scallop, a state-of-the-art neurosymbolic framework, and enables scaling of neurosymbolic solutions to previously infeasible tasks.
- Abstract(参考訳): ニューロシンボリックプログラムは、ディープラーニングとシンボリック推論を組み合わせることで、スタンドアロンのディープラーニングアプローチと比較して、データ効率、解釈可能性、一般化性を向上する。
しかし、既存のニューロシンボリック学習フレームワークは、CPU上で動作するスローシンボリックコンポーネントを備えた、高度にスケーラブルでGPUアクセラレーションされたニューラルコンポーネント間の不安定な結合を実装している。
ニューロシンボリック学習のために,GPUをエンドツーエンドに活用するための統一的なフレームワークであるLobsterを提案する。
Lobsterは、Datalogに基づく一般的なニューロシンボリック言語をGPUプログラミングパラダイムにマップする。
このマッピングはコンパイルによってAPMと呼ばれる新しい中間言語に実装される。
APMが提供する余分な抽象化により、Lobsterはフレキシブルで、離散的、確率的、微分可能な推論モードをGPUハードウェア上でサポートし、証明されたセミリングのライブラリと、新しい最適化パスを実装したパフォーマンスを実現することができる。
Lobsterプログラムは、自然言語処理、画像処理、プログラム推論、バイオインフォマティクス、計画といった分野にまたがる興味深い問題を解くことができる。
8種類のアプリケーションで、ロブスターは最先端のニューロシンボリック・フレームワークであるScallop上で平均5.3倍のスピードアップを達成する。
関連論文リスト
- Compositional Generalization Across Distributional Shifts with Sparse Tree Operations [77.5742801509364]
我々は、微分可能木機械と呼ばれる統合されたニューロシンボリックアーキテクチャを導入する。
シンボル構造の疎ベクトル表現を用いることで,モデルの効率を大幅に向上する。
より一般的なseq2seq問題に制限されたtree2tree問題以外の適用を可能にする。
論文 参考訳(メタデータ) (2024-12-18T17:20:19Z) - Dolphin: A Programmable Framework for Scalable Neurosymbolic Learning [17.61843819105099]
我々はPythonでニューロシンボリックプログラムをサポートするフレームワークであるDolphinを紹介した。
13のベンチマークでテキスト、画像、ビデオデータにまたがるタスクを網羅し、Dolphinは最先端のアキュラシーに収束する。
論文 参考訳(メタデータ) (2024-10-04T12:12:36Z) - Deep Symbolic Optimization for Combinatorial Optimization: Accelerating Node Selection by Discovering Potential Heuristics [10.22111332588471]
本稿では,その利点を生かした,新しい記号的最適化学習フレームワークを提案する。
Dso4NSは高次元離散記号空間内の数学的表現の探索をガイドし、最高性能の数学的表現を解法に組み込む。
実験では、Dso4NSが高品質な表現の学習に有効であることを示し、CPUマシンにおける既存のアプローチよりも優れていた。
論文 参考訳(メタデータ) (2024-06-14T06:02:14Z) - The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。
ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。
新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
論文 参考訳(メタデータ) (2024-02-02T20:33:14Z) - Scallop: A Language for Neurosymbolic Programming [14.148819428748597]
Scallopは、ディープラーニングと論理的推論の利点を組み合わせた言語である。
アルゴリズム推論を多様で困難なAIタスクで表現することができる。
機械学習プログラマが論理的なドメイン知識を統合するための簡潔なインターフェースを提供する。
論文 参考訳(メタデータ) (2023-04-10T18:46:53Z) - SLASH: Embracing Probabilistic Circuits into Neural Answer Set
Programming [15.814914345000574]
SLASH(Deep Probabilistic Language:DPPL)を紹介します。
SLASHのコアとなるのは、NPP(Neural-Probabilistic Predicates)と、応答セットプログラミングを通じて統合された論理プログラムである。
我々は,MNIST加算のベンチマークデータとDPPLの欠落データ予測や最先端性能のセット予測といった新しいタスクに基づいてSLASHを評価する。
論文 参考訳(メタデータ) (2021-10-07T12:35:55Z) - Neuromorphic scaling advantages for energy-efficient random walk
computation [0.28144129864580447]
ニューロモルフィックコンピューティングは、人間のハードウェアで脳の計算構造とアーキテクチャを再現することを目的としている。
スパイキングニューロモルフィックアーキテクチャの高次並列性と構成性は、離散時間チェーンを介してランダムウォークを実装するのに適していることを示す。
NMCプラットフォームは十分な規模で,高性能コンピューティングプラットフォームのエネルギー需要を大幅に削減できることがわかった。
論文 参考訳(メタデータ) (2021-07-27T19:44:33Z) - High-performance symbolic-numerics via multiple dispatch [52.77024349608834]
Symbolics.jlは拡張可能なシンボルシステムで、動的多重ディスパッチを使用してドメインのニーズに応じて振る舞いを変更する。
実装に依存しないアクションでジェネリックapiを形式化することで、システムに最適化されたデータ構造を遡及的に追加できることを示します。
従来の用語書き換えシンプリファイアと電子グラフベースの用語書き換えシンプリファイアをスワップする機能を実証する。
論文 参考訳(メタデータ) (2021-05-09T14:22:43Z) - GradInit: Learning to Initialize Neural Networks for Stable and
Efficient Training [59.160154997555956]
ニューラルネットワークを初期化するための自動化およびアーキテクチャ手法であるgradinitを提案する。
各ネットワーク層の分散は、SGDまたはAdamの単一ステップが最小の損失値をもたらすように調整される。
また、学習率のウォームアップを伴わずに、オリジナルのPost-LN Transformerを機械翻訳用にトレーニングすることもできる。
論文 参考訳(メタデータ) (2021-02-16T11:45:35Z) - Closed Loop Neural-Symbolic Learning via Integrating Neural Perception,
Grammar Parsing, and Symbolic Reasoning [134.77207192945053]
従来の手法は強化学習アプローチを用いてニューラルシンボリックモデルを学ぶ。
我々は,脳神経知覚と記号的推論を橋渡しする前に,textbfgrammarモデルをテキストシンボリックとして導入する。
本稿では,トップダウンのヒューマンライクな学習手順を模倣して誤りを伝播する新しいtextbfback-searchアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-11T17:42:49Z) - MPLP++: Fast, Parallel Dual Block-Coordinate Ascent for Dense Graphical
Models [96.1052289276254]
この研究は、人気のあるDual Block-Coordinate Ascent原則に基づく新しいMAP-solverを導入している。
驚いたことに、性能の低い解法に小さな変更を加えることで、既存の解法を大きなマージンで大幅に上回る新しい解法MPLP++を導出します。
論文 参考訳(メタデータ) (2020-04-16T16:20:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。