論文の概要: Vehicle: Bridging the Embedding Gap in the Verification of Neuro-Symbolic Programs
- arxiv url: http://arxiv.org/abs/2401.06379v2
- Date: Fri, 06 Jun 2025 00:25:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-09 17:28:42.578549
- Title: Vehicle: Bridging the Embedding Gap in the Verification of Neuro-Symbolic Programs
- Title（参考訳）: 自動車:ニューロ・シンボリック・プログラムの検証における埋め込みギャップのブリッジ
- Authors: Matthew L. Daggitt, Wen Kokke, Robert Atkey, Ekaterina Komendantskaya, Natalia Slusarz, Luca Arnaboldi,
- Abstract要約: 本稿では, ニューロシンボリックな検証問題を部品に分解する。
次に、検証条件言語のための略語として、Vabyを紹介します。
- 参考スコア（独自算出の注目度）: 3.13366804259509
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neuro-symbolic programs, i.e. programs containing both machine learning components and traditional symbolic code, are becoming increasingly widespread. Finding a general methodology for verifying such programs is challenging due to both the number of different tools involved and the intricate interface between the ``neural'' and ``symbolic'' program components. In this paper we present a general decomposition of the neuro-symbolic verification problem into parts, and examine the problem of the embedding gap that occurs when one tries to combine proofs about the neural and symbolic components. To address this problem we then introduce Vehicle -- standing as an abbreviation for a ``verification condition language'' -- an intermediate programming language interface between machine learning frameworks, automated theorem provers, and dependently-typed formalisations of neuro-symbolic programs. Vehicle allows users to specify the properties of the neural components of neuro-symbolic programs once, and then safely compile the specification to each interface using a tailored typing and compilation procedure. We give a high-level overview of Vehicle's overall design, its interfaces and compilation & type-checking procedures, and then demonstrate its utility by formally verifying the safety of a simple autonomous car controlled by a neural network, operating in a stochastic environment with imperfect information.
- Abstract（参考訳）: ニューロシンボリックプログラム、すなわち、機械学習コンポーネントと伝統的なシンボリックコードの両方を含むプログラムは、ますます広まりつつある。
このようなプログラムを検証するための一般的な方法論を見つけることは、関連するさまざまなツールの数と、‘neural’と‘symbolic’のプログラムコンポーネント間の複雑なインターフェースの両方により困難である。
本稿では, ニューラルシンボリック検証問題を部分分解し, ニューラルネットワークとシンボリックコンポーネントの証明を組み合わせようとする場合に発生する埋め込みギャップの問題について検討する。
この問題を解決するために,我々は,機械学習フレームワーク,自動定理証明器,およびニューロシンボリックプログラムの依存型形式化(Dependedly-typed formalizations of neuro-symbolic program)という,‘verification condition language’(検証条件言語)’の略としてVineを紹介した。
Vehicleでは、ニューロシンボリックプログラムのニューラルコンポーネントのプロパティを一度指定し、カスタマイズされたタイピングとコンパイル手順を使用して、各インターフェースに安全に仕様をコンパイルすることができる。
車両の全体的な設計、インターフェース、およびコンパイルおよび型チェック手順について概観し、ニューラルネットワークによって制御される単純な自律自動車の安全性を正式に検証し、不完全な情報を持つ確率的環境で動作させることにより、その実用性を実証する。
関連論文リスト
- A Generalised Framework for Property-Driven Machine Learning [1.0485739694839669]
プロパティ駆動機械学習のための1つのフレームワークに2つの補完的アプローチを統合する方法を示す。
文献からよく知られた性質は、この一般的なアプローチのサブケースであることを示す。
私たちのフレームワークはhttps://github.com/tflinkow/property-driven-mlで公開されています。
論文 参考訳（メタデータ） (2025-05-01T11:33:38Z) - Meta-Representational Predictive Coding: Biomimetic Self-Supervised Learning [51.22185316175418]
メタ表現予測符号化(MPC)と呼ばれる新しい予測符号化方式を提案する。
MPCは、並列ストリームにまたがる感覚入力の表現を予測することを学ぶことによって、感覚入力の生成モデルを学ぶ必要性を助長する。
論文 参考訳（メタデータ） (2025-03-22T22:13:14Z) - Disentangling Dense Embeddings with Sparse Autoencoders [0.0]
スパースオートエンコーダ(SAE)は、複雑なニューラルネットワークから解釈可能な特徴を抽出する可能性を示している。
大規模言語モデルからの高密度テキスト埋め込みに対するSAEの最初の応用の1つを提示する。
その結果,解釈可能性を提供しながら意味的忠実さを保っていることが明らかとなった。
論文 参考訳（メタデータ） (2024-08-01T15:46:22Z) - Semantic Loss Functions for Neuro-Symbolic Structured Prediction [74.18322585177832]
このような構造に関する知識を象徴的に定義した意味的損失をトレーニングに注入する。
記号の配置に非依存であり、それによって表現される意味論にのみ依存する。
識別型ニューラルモデルと生成型ニューラルモデルの両方と組み合わせることができる。
論文 参考訳（メタデータ） (2024-05-12T22:18:25Z) - Exploring Latent Pathways: Enhancing the Interpretability of Autonomous Driving with a Variational Autoencoder [79.70947339175572]
バイオインスパイアされたニューラルサーキットポリシーモデルが革新的な制御モジュールとして登場した。
我々は、変分オートエンコーダとニューラルネットワークポリシーコントローラを統合することで、飛躍的に前進する。
本研究は,変分オートエンコーダへのアーキテクチャシフトに加えて,自動潜時摂動ツールを導入する。
論文 参考訳（メタデータ） (2024-04-02T09:05:47Z) - The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。
ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。
新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
論文 参考訳（メタデータ） (2024-02-02T20:33:14Z) - Sparse Autoencoders Find Highly Interpretable Features in Language
Models [0.0]
多意味性は、ニューラルネットワークが内部で何をしているのかについて、簡潔で理解しやすい説明を見つけるのを妨げます。
スパースオートエンコーダを用いて言語モデルの内部アクティベーションを再構築する。
我々の手法は将来の機械的解釈可能性の基盤となるかもしれない。
論文 参考訳（メタデータ） (2023-09-15T17:56:55Z) - Towards Vision-Language Mechanistic Interpretability: A Causal Tracing
Tool for BLIP [27.51318030253248]
我々は、画像条件付きテキスト生成の基礎となる神経機構の研究を可能にするために、一方向因果追跡ツールをBLIPに適用した。
我々はBLIP因果追跡ツールをオープンソースとしてリリースし、視覚言語による機械的解釈のさらなる実験を可能にする。
論文 参考訳（メタデータ） (2023-08-27T18:46:47Z) - Automated mapping of virtual environments with visual predictive coding [0.9591674293850556]
本稿では,エージェントが視覚的予測コーディングをしながら仮想環境をナビゲートするフレームワークを提案する。
次の画像予測タスクを学習しながら、エージェントは、距離を定量的に反映する環境の内部表現を自動的に構築する。
内部マップにより、エージェントは視覚情報のみを使用してランドマークに対して位置を特定できる。
論文 参考訳（メタデータ） (2023-08-20T22:29:16Z) - Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。
PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
論文 参考訳（メタデータ） (2023-08-15T16:37:16Z) - Neuro-Symbolic Causal Reasoning Meets Signaling Game for Emergent
Semantic Communications [71.63189900803623]
創発的SCシステムフレームワークを提案し,創発的言語設計のためのシグナリングゲームと因果推論のためのニューロシンボリック(NeSy)人工知能(AI)アプローチで構成されている。
ESCシステムは、意味情報、信頼性、歪み、類似性の新たな指標を強化するように設計されている。
論文 参考訳（メタデータ） (2022-10-21T15:33:37Z) - Improving Compositionality of Neural Networks by Decoding
Representations to Inputs [83.97012077202882]
我々は、ニューラルネットワークのアクティベーションを制約し、入力に"デコード"するように生成モデルを共同で訓練することで、従来のディープラーニングプログラムの利点を橋渡しする。
本稿では,デオード可能な表現の分布外検出,逆例,校正,公平性への応用を実証する。
論文 参考訳（メタデータ） (2021-06-01T20:07:16Z) - A Memory-Augmented Neural Network Model of Abstract Rule Learning [2.3562267625320352]
任意のロールフィラーバインディングのためのニューラルネットワークの能力に焦点を当てる。
本稿では,外部メモリを結合機構として使用することを学習するリカレントニューラルネットワークモデルであるEmergent Symbol Binding Network (ESBN)を紹介する。
このメカニズムにより、ESBNのトレーニングプロセスを通じて、明示的なシンボル処理機械を必要とせずに、シンボルのような変数表現が出現する。
論文 参考訳（メタデータ） (2020-12-13T22:40:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。