論文の概要: Vehicle: Bridging the Embedding Gap in the Verification of Neuro-Symbolic Programs

• arxiv url: http://arxiv.org/abs/2401.06379v1
• Date: Fri, 12 Jan 2024 05:01:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-01-15 20:18:46.758694
• Title: Vehicle: Bridging the Embedding Gap in the Verification of Neuro-Symbolic Programs
• Title（参考訳）: vehicle: 神経シンボリックプログラムの検証における埋め込みギャップの橋渡し
• Authors: Matthew L. Daggitt, Wen Kokke, Robert Atkey, Natalia Slusarz, Luca Arnaboldi, Ekaterina Komendantskaya
• Abstract要約: Vehicleは、モジュラー方式でニューラルシンボリックプログラムのエンドツーエンドの検証を容易にするために設計されたツールである。 我々は、ニューラルネットワークコントローラを備えた単純な自律走行車の安全性を正式に検証するために、Vineの実用性を実証する。
• 参考スコア（独自算出の注目度）: 3.320484236699228
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neuro-symbolic programs -- programs containing both machine learning components and traditional symbolic code -- are becoming increasingly widespread. However, we believe that there is still a lack of a general methodology for verifying these programs whose correctness depends on the behaviour of the machine learning components. In this paper, we identify the ``embedding gap'' -- the lack of techniques for linking semantically-meaningful ``problem-space'' properties to equivalent ``embedding-space'' properties -- as one of the key issues, and describe Vehicle, a tool designed to facilitate the end-to-end verification of neural-symbolic programs in a modular fashion. Vehicle provides a convenient language for specifying ``problem-space'' properties of neural networks and declaring their relationship to the ``embedding-space", and a powerful compiler that automates interpretation of these properties in the language of a chosen machine-learning training environment, neural network verifier, and interactive theorem prover. We demonstrate Vehicle's utility by using it to formally verify the safety of a simple autonomous car equipped with a neural network controller.
• Abstract（参考訳）: 機械学習コンポーネントと伝統的なシンボリックコードの両方を含むニューロシンボリックプログラムがますます普及している。 しかし、機械学習コンポーネントの振る舞いに正確性が依存するこれらのプログラムを検証する一般的な方法がまだ存在しないと信じている。 本稿では,<embedding-space' プロパティに意味論的に有意な ``problem-space''' プロパティをリンクするテクニックが欠如していることが主要な問題の一つであり,モジュラー方式でニューラルシンボリックプログラムのエンドツーエンド検証を容易にするために設計された Vehicle について述べる。 vehicleは、ニューラルネットワークの``problem-space'特性を特定し、```embedding-space'との関係を宣言する便利な言語と、選択された機械学習トレーニング環境、ニューラルネットワーク検証者、対話的定理証明者の言語でこれらの特性の解釈を自動化する強力なコンパイラを提供する。 我々は、ニューラルネットワークコントローラを備えた単純な自律走行車の安全性を正式に検証するために、Vineの実用性を実証する。

関連論文リスト

• Machine-Learning-Powered Neural Interfaces for Smart Prosthetics and Diagnostics [3.975510977962636]
  我々は、AI駆動型デコーディングアルゴリズムと次世代小型ニューラルデバイスのためのエネルギー効率の高いSystem-on-Chipプラットフォームの最近の進歩についてレビューする。 これらのイノベーションは、インテリジェントなニューラルネットワークの開発の可能性を強調し、スケーラビリティ、信頼性、解釈可能性、ユーザ適応性といった重要な課題に対処する。
  論文  参考訳（メタデータ） (2025-05-05T09:49:13Z)
• A Generalised Framework for Property-Driven Machine Learning [1.0485739694839669]
  プロパティ駆動機械学習のための1つのフレームワークに2つの補完的アプローチを統合する方法を示す。 文献からよく知られた性質は、この一般的なアプローチのサブケースであることを示す。 私たちのフレームワークはhttps://github.com/tflinkow/property-driven-mlで公開されています。
  論文  参考訳（メタデータ） (2025-05-01T11:33:38Z)
• Meta-Representational Predictive Coding: Biomimetic Self-Supervised Learning [51.22185316175418]
  メタ表現予測符号化(MPC)と呼ばれる新しい予測符号化方式を提案する。 MPCは、並列ストリームにまたがる感覚入力の表現を予測することを学ぶことによって、感覚入力の生成モデルを学ぶ必要性を助長する。
  論文  参考訳（メタデータ） (2025-03-22T22:13:14Z)
• Compositional Generalization Across Distributional Shifts with Sparse Tree Operations [77.5742801509364]
  我々は、微分可能木機械と呼ばれる統合されたニューロシンボリックアーキテクチャを導入する。 シンボル構造の疎ベクトル表現を用いることで,モデルの効率を大幅に向上する。 より一般的なseq2seq問題に制限されたtree2tree問題以外の適用を可能にする。
  論文  参考訳（メタデータ） (2024-12-18T17:20:19Z)
• Unexpected but informative: What fixation-related potentials tell us about the processing of confusing program code [15.510640091254887]
  我々はプログラマに不明瞭なプログラムコードパターンのオンライン処理を解析するが、コンピュータではない。 プログラムコードにおける曖昧なものと対照的に、混乱の原子は400msから700msの時間で前頭葉の後期陽性を引き起こす。 これらのデータは、プログラムコードや自然言語における予期せぬ情報入力に応答して、脳が同様の神経認知機構を担っていることを示唆するものである。
  論文  参考訳（メタデータ） (2024-12-13T12:38:10Z)
• Disentangling Dense Embeddings with Sparse Autoencoders [0.0]
  スパースオートエンコーダ(SAE)は、複雑なニューラルネットワークから解釈可能な特徴を抽出する可能性を示している。 大規模言語モデルからの高密度テキスト埋め込みに対するSAEの最初の応用の1つを提示する。 その結果,解釈可能性を提供しながら意味的忠実さを保っていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-08-01T15:46:22Z)
• Semantic Loss Functions for Neuro-Symbolic Structured Prediction [74.18322585177832]
  このような構造に関する知識を象徴的に定義した意味的損失をトレーニングに注入する。 記号の配置に非依存であり、それによって表現される意味論にのみ依存する。 識別型ニューラルモデルと生成型ニューラルモデルの両方と組み合わせることができる。
  論文  参考訳（メタデータ） (2024-05-12T22:18:25Z)
• Exploring Latent Pathways: Enhancing the Interpretability of Autonomous Driving with a Variational Autoencoder [79.70947339175572]
  バイオインスパイアされたニューラルサーキットポリシーモデルが革新的な制御モジュールとして登場した。 我々は、変分オートエンコーダとニューラルネットワークポリシーコントローラを統合することで、飛躍的に前進する。 本研究は,変分オートエンコーダへのアーキテクチャシフトに加えて,自動潜時摂動ツールを導入する。
  論文  参考訳（メタデータ） (2024-04-02T09:05:47Z)
• The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
  Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。 ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。 新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
  論文  参考訳（メタデータ） (2024-02-02T20:33:14Z)
• Guess & Sketch: Language Model Guided Transpilation [59.02147255276078]
  学習されたトランスパイレーションは、手作業による書き直しやエンジニアリングの取り組みに代わるものだ。 確率的ニューラルネットワークモデル(LM)は、入力毎に可塑性出力を生成するが、正確性を保証するコストがかかる。 Guess & Sketch は LM の特徴からアライメントと信頼性情報を抽出し、意味的等価性を解決するためにシンボリック・ソルバに渡す。
  論文  参考訳（メタデータ） (2023-09-25T15:42:18Z)
• Sparse Autoencoders Find Highly Interpretable Features in Language Models [0.0]
  多意味性は、ニューラルネットワークが内部で何をしているのかについて、簡潔で理解しやすい説明を見つけるのを妨げます。 スパースオートエンコーダを用いて言語モデルの内部アクティベーションを再構築する。 我々の手法は将来の機械的解釈可能性の基盤となるかもしれない。
  論文  参考訳（メタデータ） (2023-09-15T17:56:55Z)
• Towards Vision-Language Mechanistic Interpretability: A Causal Tracing Tool for BLIP [27.51318030253248]
  我々は、画像条件付きテキスト生成の基礎となる神経機構の研究を可能にするために、一方向因果追跡ツールをBLIPに適用した。 我々はBLIP因果追跡ツールをオープンソースとしてリリースし、視覚言語による機械的解釈のさらなる実験を可能にする。
  論文  参考訳（メタデータ） (2023-08-27T18:46:47Z)
• Automated mapping of virtual environments with visual predictive coding [0.9591674293850556]
  本稿では,エージェントが視覚的予測コーディングをしながら仮想環境をナビゲートするフレームワークを提案する。 次の画像予測タスクを学習しながら、エージェントは、距離を定量的に反映する環境の内部表現を自動的に構築する。 内部マップにより、エージェントは視覚情報のみを使用してランドマークに対して位置を特定できる。
  論文  参考訳（メタデータ） (2023-08-20T22:29:16Z)
• Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
  予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。 PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
  論文  参考訳（メタデータ） (2023-08-15T16:37:16Z)
• Neuro-Symbolic Causal Reasoning Meets Signaling Game for Emergent Semantic Communications [71.63189900803623]
  創発的SCシステムフレームワークを提案し,創発的言語設計のためのシグナリングゲームと因果推論のためのニューロシンボリック(NeSy)人工知能(AI)アプローチで構成されている。 ESCシステムは、意味情報、信頼性、歪み、類似性の新たな指標を強化するように設計されている。
  論文  参考訳（メタデータ） (2022-10-21T15:33:37Z)
• Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
  Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。 本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。 NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-05-25T12:41:59Z)
• Improving Compositionality of Neural Networks by Decoding Representations to Inputs [83.97012077202882]
  我々は、ニューラルネットワークのアクティベーションを制約し、入力に"デコード"するように生成モデルを共同で訓練することで、従来のディープラーニングプログラムの利点を橋渡しする。 本稿では,デオード可能な表現の分布外検出,逆例,校正,公平性への応用を実証する。
  論文  参考訳（メタデータ） (2021-06-01T20:07:16Z)
• BF++: a language for general-purpose program synthesis [0.483420384410068]
  強化学習(RL)に基づく技術決定システムのほとんどの状態は、データ駆動型ブラックボックスニューラルモデルである。 我々は,部分可観測マルコフ決定過程におけるエージェントの自動プログラミング用に設計された新しいプログラミング言語bf++を提案する。
  論文  参考訳（メタデータ） (2021-01-23T19:44:44Z)
• Representing Partial Programs with Blended Abstract Semantics [62.20775388513027]
  プログラム合成エンジンにおける部分的なプログラム表現手法について紹介する。 モジュラーニューラルネットワークとして実装された近似実行モデルを学ぶ。 これらのハイブリッドニューロシンボリック表現は、実行誘導型シンセサイザーがより強力な言語構成を使うことができることを示す。
  論文  参考訳（メタデータ） (2020-12-23T20:40:18Z)
• A Memory-Augmented Neural Network Model of Abstract Rule Learning [2.3562267625320352]
  任意のロールフィラーバインディングのためのニューラルネットワークの能力に焦点を当てる。 本稿では,外部メモリを結合機構として使用することを学習するリカレントニューラルネットワークモデルであるEmergent Symbol Binding Network (ESBN)を紹介する。 このメカニズムにより、ESBNのトレーニングプロセスを通じて、明示的なシンボル処理機械を必要とせずに、シンボルのような変数表現が出現する。
  論文  参考訳（メタデータ） (2020-12-13T22:40:07Z)
• Type-driven Neural Programming by Example [0.0]
  我々は、与えられた入力を与えられた出力にマッピングするプログラムを見つけることを目的とした、例によるプログラミング(PBE)について考察する。 本稿では,プログラム型をPBEのためのニューラルプログラム合成手法に組み込む方法を提案する。
  論文  参考訳（メタデータ） (2020-08-28T12:30:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。