論文の概要: Vehicle: Bridging the Embedding Gap in the Verification of Neuro-Symbolic Programs

• arxiv url: http://arxiv.org/abs/2401.06379v1
• Date: Fri, 12 Jan 2024 05:01:47 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-15 20:18:46.758694
• Title: Vehicle: Bridging the Embedding Gap in the Verification of Neuro-Symbolic Programs
• Title（参考訳）: vehicle: 神経シンボリックプログラムの検証における埋め込みギャップの橋渡し
• Authors: Matthew L. Daggitt, Wen Kokke, Robert Atkey, Natalia Slusarz, Luca Arnaboldi, Ekaterina Komendantskaya
• Abstract要約: Vehicleは、モジュラー方式でニューラルシンボリックプログラムのエンドツーエンドの検証を容易にするために設計されたツールである。 我々は、ニューラルネットワークコントローラを備えた単純な自律走行車の安全性を正式に検証するために、Vineの実用性を実証する。
• 参考スコア（独自算出の注目度）: 3.320484236699228
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neuro-symbolic programs -- programs containing both machine learning components and traditional symbolic code -- are becoming increasingly widespread. However, we believe that there is still a lack of a general methodology for verifying these programs whose correctness depends on the behaviour of the machine learning components. In this paper, we identify the ``embedding gap'' -- the lack of techniques for linking semantically-meaningful ``problem-space'' properties to equivalent ``embedding-space'' properties -- as one of the key issues, and describe Vehicle, a tool designed to facilitate the end-to-end verification of neural-symbolic programs in a modular fashion. Vehicle provides a convenient language for specifying ``problem-space'' properties of neural networks and declaring their relationship to the ``embedding-space", and a powerful compiler that automates interpretation of these properties in the language of a chosen machine-learning training environment, neural network verifier, and interactive theorem prover. We demonstrate Vehicle's utility by using it to formally verify the safety of a simple autonomous car equipped with a neural network controller.
• Abstract（参考訳）: 機械学習コンポーネントと伝統的なシンボリックコードの両方を含むニューロシンボリックプログラムがますます普及している。 しかし、機械学習コンポーネントの振る舞いに正確性が依存するこれらのプログラムを検証する一般的な方法がまだ存在しないと信じている。 本稿では,<embedding-space' プロパティに意味論的に有意な ``problem-space''' プロパティをリンクするテクニックが欠如していることが主要な問題の一つであり,モジュラー方式でニューラルシンボリックプログラムのエンドツーエンド検証を容易にするために設計された Vehicle について述べる。 vehicleは、ニューラルネットワークの``problem-space'特性を特定し、```embedding-space'との関係を宣言する便利な言語と、選択された機械学習トレーニング環境、ニューラルネットワーク検証者、対話的定理証明者の言語でこれらの特性の解釈を自動化する強力なコンパイラを提供する。 我々は、ニューラルネットワークコントローラを備えた単純な自律走行車の安全性を正式に検証するために、Vineの実用性を実証する。

関連論文リスト

• Disentangling Dense Embeddings with Sparse Autoencoders [0.0]
  スパースオートエンコーダ(SAE)は、複雑なニューラルネットワークから解釈可能な特徴を抽出する可能性を示している。 大規模言語モデルからの高密度テキスト埋め込みに対するSAEの最初の応用の1つを提示する。 その結果,解釈可能性を提供しながら意味的忠実さを保っていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-08-01T15:46:22Z)
• Semantic Loss Functions for Neuro-Symbolic Structured Prediction [74.18322585177832]
  このような構造に関する知識を象徴的に定義した意味的損失をトレーニングに注入する。 記号の配置に非依存であり、それによって表現される意味論にのみ依存する。 識別型ニューラルモデルと生成型ニューラルモデルの両方と組み合わせることができる。
  論文  参考訳（メタデータ） (2024-05-12T22:18:25Z)
• Exploring Latent Pathways: Enhancing the Interpretability of Autonomous Driving with a Variational Autoencoder [79.70947339175572]
  バイオインスパイアされたニューラルサーキットポリシーモデルが革新的な制御モジュールとして登場した。 我々は、変分オートエンコーダとニューラルネットワークポリシーコントローラを統合することで、飛躍的に前進する。 本研究は,変分オートエンコーダへのアーキテクチャシフトに加えて,自動潜時摂動ツールを導入する。
  論文  参考訳（メタデータ） (2024-04-02T09:05:47Z)
• The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
  Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。 ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。 新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
  論文  参考訳（メタデータ） (2024-02-02T20:33:14Z)
• Sparse Autoencoders Find Highly Interpretable Features in Language Models [0.0]
  多意味性は、ニューラルネットワークが内部で何をしているのかについて、簡潔で理解しやすい説明を見つけるのを妨げます。 スパースオートエンコーダを用いて言語モデルの内部アクティベーションを再構築する。 我々の手法は将来の機械的解釈可能性の基盤となるかもしれない。
  論文  参考訳（メタデータ） (2023-09-15T17:56:55Z)
• Towards Vision-Language Mechanistic Interpretability: A Causal Tracing Tool for BLIP [27.51318030253248]
  我々は、画像条件付きテキスト生成の基礎となる神経機構の研究を可能にするために、一方向因果追跡ツールをBLIPに適用した。 我々はBLIP因果追跡ツールをオープンソースとしてリリースし、視覚言語による機械的解釈のさらなる実験を可能にする。
  論文  参考訳（メタデータ） (2023-08-27T18:46:47Z)
• Automated mapping of virtual environments with visual predictive coding [0.9591674293850556]
  本稿では,エージェントが視覚的予測コーディングをしながら仮想環境をナビゲートするフレームワークを提案する。 次の画像予測タスクを学習しながら、エージェントは、距離を定量的に反映する環境の内部表現を自動的に構築する。 内部マップにより、エージェントは視覚情報のみを使用してランドマークに対して位置を特定できる。
  論文  参考訳（メタデータ） (2023-08-20T22:29:16Z)
• Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
  予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。 PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
  論文  参考訳（メタデータ） (2023-08-15T16:37:16Z)
• Neuro-Symbolic Causal Reasoning Meets Signaling Game for Emergent Semantic Communications [71.63189900803623]
  創発的SCシステムフレームワークを提案し,創発的言語設計のためのシグナリングゲームと因果推論のためのニューロシンボリック(NeSy)人工知能(AI)アプローチで構成されている。 ESCシステムは、意味情報、信頼性、歪み、類似性の新たな指標を強化するように設計されている。
  論文  参考訳（メタデータ） (2022-10-21T15:33:37Z)
• Improving Compositionality of Neural Networks by Decoding Representations to Inputs [83.97012077202882]
  我々は、ニューラルネットワークのアクティベーションを制約し、入力に"デコード"するように生成モデルを共同で訓練することで、従来のディープラーニングプログラムの利点を橋渡しする。 本稿では,デオード可能な表現の分布外検出,逆例,校正,公平性への応用を実証する。
  論文  参考訳（メタデータ） (2021-06-01T20:07:16Z)
• A Memory-Augmented Neural Network Model of Abstract Rule Learning [2.3562267625320352]
  任意のロールフィラーバインディングのためのニューラルネットワークの能力に焦点を当てる。 本稿では,外部メモリを結合機構として使用することを学習するリカレントニューラルネットワークモデルであるEmergent Symbol Binding Network (ESBN)を紹介する。 このメカニズムにより、ESBNのトレーニングプロセスを通じて、明示的なシンボル処理機械を必要とせずに、シンボルのような変数表現が出現する。
  論文  参考訳（メタデータ） (2020-12-13T22:40:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。