論文の概要: CTSketch: Compositional Tensor Sketching for Scalable Neurosymbolic Learning

• arxiv url: http://arxiv.org/abs/2503.24123v1
• Date: Mon, 31 Mar 2025 14:08:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-01 14:34:09.025969
• Title: CTSketch: Compositional Tensor Sketching for Scalable Neurosymbolic Learning
• Title（参考訳）: CTSketch: スケーラブルなニューロシンボリックラーニングのための構成的テンソルスケッチ
• Authors: Seewon Choi, Alaia Solko-Breslin, Rajeev Alur, Eric Wong,
• Abstract要約: 我々は、新しいスケーラブルなニューロシンボリック学習アルゴリズムであるCTSketchを紹介する。 CTSketchは, これまで達成できなかった新しい尺度に, ニューロシンボリックラーニングを推し進めている。
• 参考スコア（独自算出の注目度）: 9.509171667627491
• License:
• Abstract: Many computational tasks benefit from being formulated as the composition of neural networks followed by a discrete symbolic program. The goal of neurosymbolic learning is to train the neural networks using only end-to-end input-output labels of the composite. We introduce CTSketch, a novel, scalable neurosymbolic learning algorithm. CTSketch uses two techniques to improve the scalability of neurosymbolic inference: decompose the symbolic program into sub-programs and summarize each sub-program with a sketched tensor. This strategy allows us to approximate the output distribution of the program with simple tensor operations over the input distributions and summaries. We provide theoretical insight into the maximum error of the approximation. Furthermore, we evaluate CTSketch on many benchmarks from the neurosymbolic literature, including some designed for evaluating scalability. Our results show that CTSketch pushes neurosymbolic learning to new scales that have previously been unattainable by obtaining high accuracy on tasks involving over one thousand inputs.
• Abstract（参考訳）: 多くの計算タスクは、ニューラルネットワークの合成として定式化され、その後離散的な記号プログラムが続く。 ニューロシンボリックラーニングの目標は、複合体のエンドツーエンドの入力出力ラベルのみを使用してニューラルネットワークをトレーニングすることである。 我々は、新しいスケーラブルなニューロシンボリック学習アルゴリズムであるCTSketchを紹介する。 CTSketchは2つの手法を用いて、ニューロシンボリック推論のスケーラビリティを向上させる。 この戦略により、入力分布と要約に対する単純なテンソル演算でプログラムの出力分布を近似することができる。 近似の最大誤差に関する理論的知見を提供する。 さらに、我々はCTSketchを神経象徴的な文献から多くのベンチマークで評価し、その中にはスケーラビリティを評価するために設計されたものもある。 以上の結果から,CTSketchは,1000以上の入力を含むタスクにおいて,従来達成不可能であった新たな尺度に神経記号学習を推し進めることが示唆された。

関連論文リスト

• Compositional Generalization Across Distributional Shifts with Sparse Tree Operations [77.5742801509364]
  我々は、微分可能木機械と呼ばれる統合されたニューロシンボリックアーキテクチャを導入する。 シンボル構造の疎ベクトル表現を用いることで,モデルの効率を大幅に向上する。 より一般的なseq2seq問題に制限されたtree2tree問題以外の適用を可能にする。
  論文  参考訳（メタデータ） (2024-12-18T17:20:19Z)
• GLL: A Differentiable Graph Learning Layer for Neural Networks [8.149825561954607]
  グラフベースの学習技術、すなわちLaplace Learningは、教師付きおよび半教師付き学習(SSL)タスクのニューラルネットワークと組み合わせられている。 本研究では,一般的なグラフ学習層をニューラルネットワークに組み込むために,アジョイント法を用いてバックプロパゲーション方程式を導出する。 これにより、グラフラプラシアンベースのラベル伝搬をニューラルネットワーク層に正確に統合し、プロジェクションヘッドとソフトマックスアクティベーション関数を置き換えることができる。
  論文  参考訳（メタデータ） (2024-12-11T01:54:29Z)
• Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
  この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。 これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。 それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。 本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
  論文  参考訳（メタデータ） (2024-02-21T15:51:01Z)
• The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
  Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。 ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。 新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
  論文  参考訳（メタデータ） (2024-02-02T20:33:14Z)
• Learning Signal Temporal Logic through Neural Network for Interpretable Classification [13.829082181692872]
  本稿では時系列行動の分類のための説明可能なニューラルネットワーク・シンボリック・フレームワークを提案する。 提案手法の計算効率, コンパクト性, 解釈可能性について, シナリオの駆動と海軍の監視事例研究を通じて実証する。
  論文  参考訳（メタデータ） (2022-10-04T21:11:54Z)
• Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
  Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。 本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。 NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-05-25T12:41:59Z)
• Scaling Neural Tangent Kernels via Sketching and Random Features [53.57615759435126]
  最近の研究報告では、NTKレグレッションは、小規模データセットでトレーニングされた有限範囲のニューラルネットワークより優れている。 我々は、アークコサインカーネルの拡張をスケッチして、NTKの近距離入力スパーシティ時間近似アルゴリズムを設計する。 CNTKの特徴をトレーニングした線形回帰器が,CIFAR-10データセット上での正確なCNTKの精度と150倍の高速化を実現していることを示す。
  論文  参考訳（メタデータ） (2021-06-15T04:44:52Z)
• Closed Loop Neural-Symbolic Learning via Integrating Neural Perception, Grammar Parsing, and Symbolic Reasoning [134.77207192945053]
  従来の手法は強化学習アプローチを用いてニューラルシンボリックモデルを学ぶ。 我々は,脳神経知覚と記号的推論を橋渡しする前に,textbfgrammarモデルをテキストシンボリックとして導入する。 本稿では,トップダウンのヒューマンライクな学習手順を模倣して誤りを伝播する新しいtextbfback-searchアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-11T17:42:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。