論文の概要: Neurosymbolic AI approach to Attribution in Large Language Models

• arxiv url: http://arxiv.org/abs/2410.03726v1
• Date: Mon, 30 Sep 2024 02:20:36 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-02 20:28:28.220887
• Title: Neurosymbolic AI approach to Attribution in Large Language Models
• Title（参考訳）: 大規模言語モデルにおけるニューロシンボリックAIアプローチ
• Authors: Deepa Tilwani, Revathy Venkataramanan, Amit P. Sheth,
• Abstract要約: ニューロシンボリックAI(NesyAI)は、ニューラルネットワークの強みと構造化されたシンボリック推論を組み合わせる。 本稿では、NesyAIフレームワークが既存の属性モデルをどのように拡張し、より信頼性が高く、解釈可能で、適応可能なシステムを提供するかを検討する。
• 参考スコア（独自算出の注目度）: 5.3454230926797734
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Attribution in large language models (LLMs) remains a significant challenge, particularly in ensuring the factual accuracy and reliability of the generated outputs. Current methods for citation or attribution, such as those employed by tools like Perplexity.ai and Bing Search-integrated LLMs, attempt to ground responses by providing real-time search results and citations. However, so far, these approaches suffer from issues such as hallucinations, biases, surface-level relevance matching, and the complexity of managing vast, unfiltered knowledge sources. While tools like Perplexity.ai dynamically integrate web-based information and citations, they often rely on inconsistent sources such as blog posts or unreliable sources, which limits their overall reliability. We present that these challenges can be mitigated by integrating Neurosymbolic AI (NesyAI), which combines the strengths of neural networks with structured symbolic reasoning. NesyAI offers transparent, interpretable, and dynamic reasoning processes, addressing the limitations of current attribution methods by incorporating structured symbolic knowledge with flexible, neural-based learning. This paper explores how NesyAI frameworks can enhance existing attribution models, offering more reliable, interpretable, and adaptable systems for LLMs.
• Abstract（参考訳）: 大規模言語モデル(LLM)の属性は、特に生成した出力の事実的正確さと信頼性を保証する上で重要な課題である。 Perplexity.ai や Bing Search-Integrated LLM などのツールが採用している、引用や帰属のための現在の手法は、リアルタイムな検索結果と引用を提供することで、応答の接地を試みるものである。 しかし、これらのアプローチは、幻覚、偏見、表面レベルの関連性マッチング、そして膨大な、フィルタされていない知識ソースを管理する複雑さといった問題に悩まされている。 Perplexity.aiのようなツールは、Webベースの情報や引用を動的に統合するが、ブログ投稿や信頼性の低いソースのような一貫性の低いソースに依存していることが多い。 ニューラルネットワークの強みと構造的シンボリック推論を組み合わせたニューロシンボリックAI(NesyAI)を統合することで,これらの課題を軽減することができる。 NesyAIは透過的、解釈可能、動的推論プロセスを提供し、構造化されたシンボル知識を柔軟で神経ベースの学習に組み込むことによって、現在の帰属法の限界に対処する。 本稿では,NesyAIフレームワークが既存の属性モデルをどのように拡張し,より信頼性が高く,解釈可能,適応可能なシステムを実現するかを検討する。

関連論文リスト

• DLBacktrace: A Model Agnostic Explainability for any Deep Learning Models [1.747623282473278]
  ディープラーニングモデルは、意思決定プロセスにおける透明性が制限された不透明な'ブラックボックス'として機能する。 この研究は、AIシステムにおける解釈可能性の押し付けの必要性に対処し、信頼の育成、説明責任の確保、ミッションクリティカルな分野における責任あるデプロイメントの促進におけるその役割を強調した。 DLBacktraceは、AryaXAIチームが開発し、幅広い領域にわたるモデル決定を照らす革新的なテクニックです。
  論文  参考訳（メタデータ） (2024-11-19T16:54:30Z)
• GIVE: Structured Reasoning with Knowledge Graph Inspired Veracity Extrapolation [108.2008975785364]
  Graph Inspired Veracity Extrapolation (GIVE)は、パラメトリックメモリと非パラメトリックメモリを統合する新しい推論フレームワークである。 本手法は,ゴールド回答検索ではなく,専門家の問題解決に類似した論理的・段階的推論手法を提案する。
  論文  参考訳（メタデータ） (2024-10-11T03:05:06Z)
• Converging Paradigms: The Synergy of Symbolic and Connectionist AI in LLM-Empowered Autonomous Agents [55.63497537202751]
  コネクショニストと象徴的人工知能(AI)の収束を探求する記事 従来、コネクショナリストAIはニューラルネットワークにフォーカスし、シンボリックAIはシンボリック表現とロジックを強調していた。 大型言語モデル(LLM)の最近の進歩は、人間の言語をシンボルとして扱う際のコネクショナリストアーキテクチャの可能性を強調している。
  論文  参考訳（メタデータ） (2024-07-11T14:00:53Z)
• Verbalized Probabilistic Graphical Modeling with Large Language Models [8.961720262676195]
  この研究は、大規模言語モデルによる学習自由ベイズ推論を促進する新しいベイズ急進的アプローチを導入している。 本研究は,AI言語理解システムの改善の可能性を示すとともに,信頼性評価とテキスト生成品質を効果的に向上させることを示唆する。
  論文  参考訳（メタデータ） (2024-06-08T16:35:31Z)
• Building Trustworthy NeuroSymbolic AI Systems: Consistency, Reliability, Explainability, and Safety [11.933469815219544]
  我々は、NeuroSymbolicメソッド上で、一貫性、信頼性、ユーザレベルの説明可能性、安全性がどのように構築されているかを示すCRESTフレームワークを紹介します。 この記事では、CRESTフレームワーク内で選択されたAIシステムとして、Large Language Models(LLM)に焦点を当てる。
  論文  参考訳（メタデータ） (2023-12-05T06:13:55Z)
• DIVKNOWQA: Assessing the Reasoning Ability of LLMs via Open-Domain Question Answering over Knowledge Base and Text [73.68051228972024]
  大きな言語モデル(LLM)は印象的な生成能力を示すが、内部知識に依存すると幻覚に悩まされる。 検索拡張LDMは、外部知識においてLLMを基盤とする潜在的な解決策として出現している。
  論文  参考訳（メタデータ） (2023-10-31T04:37:57Z)
• A Novel Neural-symbolic System under Statistical Relational Learning [50.747658038910565]
  本稿では,GBPGRと呼ばれる2段階の確率的グラフィカル推論フレームワークを提案する。 GBPGRでは、シンボル推論の結果を用いて、ディープラーニングモデルによる予測を洗練し、修正する。 提案手法は高い性能を示し, 帰納的タスクと帰納的タスクの両方において効果的な一般化を示す。
  論文  参考訳（メタデータ） (2023-09-16T09:15:37Z)
• Large Language Models for Information Retrieval: A Survey [58.30439850203101]
  情報検索は、項ベースの手法から高度なニューラルモデルとの統合へと進化してきた。 近年の研究では、大規模言語モデル(LLM)を活用してIRシステムの改善が試みられている。 LLMとIRシステムの合流点を探索し、クエリリライト、リトリバー、リランカー、リーダーといった重要な側面を含む。
  論文  参考訳（メタデータ） (2023-08-14T12:47:22Z)
• Interpretable Multimodal Misinformation Detection with Logic Reasoning [40.851213962307206]
  本稿では,多モーダル誤情報検出のための論理モデルを提案する。 本稿では,意味のある論理節の自動生成と評価を容易にするニューラル表現を用いた記号論理要素のパラメータ化を行う。 3つの公開データセットの結果は、我々のモデルの有効性と汎用性を示している。
  論文  参考訳（メタデータ） (2023-05-10T08:16:36Z)
• Principled Knowledge Extrapolation with GANs [92.62635018136476]
  我々は,知識外挿の新たな視点から,対実合成を研究する。 本稿では, 知識外挿問題に対処するために, クローズド形式判別器を用いた対角ゲームが利用可能であることを示す。 提案手法は,多くのシナリオにおいて,エレガントな理論的保証と優れた性能の両方を享受する。
  論文  参考訳（メタデータ） (2022-05-21T08:39:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。