論文の概要: Handling Ontology Gaps in Semantic Parsing

• arxiv url: http://arxiv.org/abs/2406.19537v1
• Date: Thu, 27 Jun 2024 21:21:22 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-01 18:22:04.930910
• Title: Handling Ontology Gaps in Semantic Parsing
• Title（参考訳）: 意味的パーシングにおけるオントロジーギャップの扱い
• Authors: Andrea Bacciu, Marco Damonte, Marco Basaldella, Emilio Monti,
• Abstract要約: 幻覚は、ユーザに対する誤った、あるいは潜在的に攻撃的な反応を引き起こす可能性がある。 本研究では,NSPモデル幻覚を刺激し解析するための一般的な設定である幻覚シミュレーションフレームワーク(HSF)を提案する。 本研究では,NSPモデルの計算グラフを利用して,ギャップや領域外発話の存在下での幻覚を検知し,NSPの誤りを認識する新しい幻覚検出手法を提案する。
• 参考スコア（独自算出の注目度）: 4.333232389677947
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The majority of Neural Semantic Parsing (NSP) models are developed with the assumption that there are no concepts outside the ones such models can represent with their target symbols (closed-world assumption). This assumption leads to generate hallucinated outputs rather than admitting their lack of knowledge. Hallucinations can lead to wrong or potentially offensive responses to users. Hence, a mechanism to prevent this behavior is crucial to build trusted NSP-based Question Answering agents. To that end, we propose the Hallucination Simulation Framework (HSF), a general setting for stimulating and analyzing NSP model hallucinations. The framework can be applied to any NSP task with a closed-ontology. Using the proposed framework and KQA Pro as the benchmark dataset, we assess state-of-the-art techniques for hallucination detection. We then present a novel hallucination detection strategy that exploits the computational graph of the NSP model to detect the NSP hallucinations in the presence of ontology gaps, out-of-domain utterances, and to recognize NSP errors, improving the F1-Score respectively by ~21, ~24% and ~1%. This is the first work in closed-ontology NSP that addresses the problem of recognizing ontology gaps. We release our code and checkpoints at https://github.com/amazon-science/handling-ontology-gaps-in-semantic-parsing.
• Abstract（参考訳）: ニューラルセマンティックパーシング(NSP)モデルの大多数は、そのようなモデルがターゲットシンボル(クローズドワールドの仮定)で表現できる概念以外は存在しないと仮定して開発されている。 この仮定は、知識の欠如を認めるのではなく、幻覚的なアウトプットを生成する。 幻覚は、ユーザに対する誤った、あるいは潜在的に攻撃的な反応を引き起こす可能性がある。 したがって、信頼できるNSPベースの質問応答エージェントを構築するには、この行動を防ぐメカニズムが不可欠である。 そこで我々は,NSPモデル幻覚を刺激し解析するための一般的な設定であるHalucination Simulation Framework (HSF)を提案する。 このフレームワークは任意の NSP タスクにクローズドオントロジーで適用することができる。 提案するフレームワークとKQA Proをベンチマークデータセットとして,幻覚検出のための最先端技術を評価する。 次に、NSPモデルの計算グラフを利用して、オントロジーギャップやドメイン外発話の存在下でのNSP幻覚を検出し、NSPエラーを認識し、F1スコアを約21、約24%、約1%改善する新しい幻覚検出戦略を提案する。 これは、オントロジーギャップを認識する問題に対処する閉オントロジー NSP における最初の研究である。 コードとチェックポイントはhttps://github.com/amazon-science/handling-ontology-gaps-in-semantic-parsingで公開しています。

関連論文リスト

• Semantic Entropy Probes: Robust and Cheap Hallucination Detection in LLMs [32.901839335074676]
  幻覚は、大規模言語モデルの導入において大きな課題となる。 Farquhar et al. (2024) による最近の研究はセマンティックエントロピー (SE) を提案している。 本稿では, 単一世代の隠蔽状態から直接SEを近似するSEPを提案する。
  論文  参考訳（メタデータ） (2024-06-22T19:46:06Z)
• Reducing Hallucinations in Neural Machine Translation with Feature Attribution [54.46113444757899]
  本研究は,NMTにおける幻覚の軽減を目的としたモデル理解と正規化に着目したケーススタディである。 まず,幻覚を発生させるNMTモデルの振る舞いを研究するために,特徴帰属法を用いる。 次に、これらの手法を利用して、幻覚の低減に大きく貢献し、ゼロからモデルを再訓練する必要のない新しい損失関数を提案する。
  論文  参考訳（メタデータ） (2022-11-17T20:33:56Z)
• Mutual Information Alleviates Hallucinations in Abstractive Summarization [73.48162198041884]
  モデルが生成中の幻覚コンテンツにより多くの確率を割り当てる可能性が著しく高いという単純な基準を見いだす。 この発見は幻覚の潜在的な説明を提供する:モデルは、継続について不確実な場合には、高い限界確率のテキストを好むことをデフォルトとする。 そこで本研究では,ターゲットトークンの正当性ではなく,ソースとターゲットトークンのポイントワイドな相互情報の最適化に切り替える復号手法を提案する。
  論文  参考訳（メタデータ） (2022-10-24T13:30:54Z)
• STSC-SNN: Spatio-Temporal Synaptic Connection with Temporal Convolution and Attention for Spiking Neural Networks [7.422913384086416]
  ニューロモルフィックコンピューティングのアルゴリズムモデルの一つであるスパイキングニューラルネットワーク(SNN)は、時間的処理能力のために多くの研究注目を集めている。 SNNの既存のシナプス構造は、ほぼ完全な接続や空間的2次元畳み込みであり、どちらも時間的依存関係を適切に抽出できない。 生体シナプスからインスピレーションを得てシナプス接続SNNモデルを提案し,シナプス接続の時間的受容場を強化する。 時間的依存を伴うシナプスモデルの提供は、分類タスクにおけるSNNの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2022-10-11T08:13:22Z)
• Looking for a Needle in a Haystack: A Comprehensive Study of Hallucinations in Neural Machine Translation [17.102338932907294]
  我々はNMT幻覚研究の基礎を設定した。 テスト時に幻覚を緩和する簡単な方法であるDeHallucinatorを提案する。
  論文  参考訳（メタデータ） (2022-08-10T12:44:13Z)
• Training Feedback Spiking Neural Networks by Implicit Differentiation on the Equilibrium State [66.2457134675891]
  スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする脳にインスパイアされたモデルである。 既存のほとんどの手法は、人工ニューラルネットワークのバックプロパゲーションフレームワークとフィードフォワードアーキテクチャを模倣している。 本稿では,フォワード計算の正逆性に依存しない新しいトレーニング手法を提案する。
  論文  参考訳（メタデータ） (2021-09-29T07:46:54Z)
• The Causal Neural Connection: Expressiveness, Learnability, and Inference [125.57815987218756]
  構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。 本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。 我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
  論文  参考訳（メタデータ） (2021-07-02T01:55:18Z)
• Convergence and Alignment of Gradient Descentwith Random Back propagation Weights [6.338178373376447]
  バックプロパゲーションによる勾配降下は 人工ニューラルネットワークの 働き方です Lillicrapらは、ランダムなバックプロパゲーションと固定されたバックプロパゲーションの重みを利用する、生物学的にもっともらしい「フィードバックアライメント」アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-10T20:58:05Z)
• Neural Path Hunter: Reducing Hallucination in Dialogue Systems via Path Grounding [15.62141731259161]
  知識グラフ(KG)による既知の事実に対するニューラルダイアログシステムの忠実度向上の課題に焦点をあてる。 KG の k-hop サブグラフを用いて生成した応答を修正する生成・再定義戦略に従ったニューラルパスハンターを提案する。 提案モデルは,モデルを再トレーニングすることなく,任意の対話生成応答に容易に適用できる。
  論文  参考訳（メタデータ） (2021-04-17T05:23:44Z)
• Neural Networks with Recurrent Generative Feedback [61.90658210112138]
  畳み込みニューラルネットワーク(CNN)でこの設計をインスタンス化する 実験では、標準ベンチマーク上の従来のフィードフォワードCNNに対して、CNN-Fは敵のロバスト性を大幅に改善した。
  論文  参考訳（メタデータ） (2020-07-17T19:32:48Z)
• Rectified Linear Postsynaptic Potential Function for Backpropagation in Deep Spiking Neural Networks [55.0627904986664]
  スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。 本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
  論文  参考訳（メタデータ） (2020-03-26T11:13:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。