Fugu-MT 論文翻訳(概要): Dialogue Ontology Relation Extraction via Constrained Chain-of-Thought Decoding

論文の概要: Dialogue Ontology Relation Extraction via Constrained Chain-of-Thought Decoding

arxiv url: http://arxiv.org/abs/2408.02361v1
Date: Mon, 5 Aug 2024 10:10:01 GMT
ステータス: 処理完了
システム内更新日: 2024-08-06 13:56:46.263315
Title: Dialogue Ontology Relation Extraction via Constrained Chain-of-Thought Decoding
Title（参考訳）: 制約付きチェーン・オブ・ソートデコーディングによる対話オントロジー関係抽出
Authors: Renato Vukovic, David Arps, Carel van Niekerk, Benjamin Matthias Ruppik, Hsien-Chin Lin, Michael Heck, Milica Gašić,
Abstract要約: 本研究では,伝達学習における関係抽出に焦点をあてる。我々は最近、推論問題のために開発されたChain-of-Thoughtデコーディングを生成的関係抽出に適用した。
参考スコア（独自算出の注目度）: 4.531390381842394
License: http://creativecommons.org/licenses/by/4.0/
Abstract: State-of-the-art task-oriented dialogue systems typically rely on task-specific ontologies for fulfilling user queries. The majority of task-oriented dialogue data, such as customer service recordings, comes without ontology and annotation. Such ontologies are normally built manually, limiting the application of specialised systems. Dialogue ontology construction is an approach for automating that process and typically consists of two steps: term extraction and relation extraction. In this work, we focus on relation extraction in a transfer learning set-up. To improve the generalisation, we propose an extension to the decoding mechanism of large language models. We adapt Chain-of-Thought (CoT) decoding, recently developed for reasoning problems, to generative relation extraction. Here, we generate multiple branches in the decoding space and select the relations based on a confidence threshold. By constraining the decoding to ontology terms and relations, we aim to decrease the risk of hallucination. We conduct extensive experimentation on two widely used datasets and find improvements in performance on target ontology for source fine-tuned and one-shot prompted large language models.
Abstract（参考訳）: 最先端のタスク指向対話システムは、通常、ユーザクエリを満たすためにタスク固有のオントロジーに依存している。顧客サービス記録のようなタスク指向の対話データの大部分は、オントロジーやアノテーションを伴わない。このようなオントロジーは通常手動で構築され、特殊なシステムの適用を制限する。対話オントロジー構築は、そのプロセスを自動化するアプローチであり、通常、項抽出と関係抽出という2つのステップから構成される。本研究では,伝達学習における関係抽出に焦点をあてる。一般化を改善するため,大規模言語モデルの復号化機構の拡張を提案する。我々は最近、推論問題のために開発されたChain-of-Thought(CoT)デコーディングを生成的関係抽出に適用した。ここでは、復号空間に複数の分岐を生成し、信頼しきい値に基づいて関係を選択する。オントロジーの用語や関係に復号を拘束することで、幻覚のリスクを減らしたいと考えている。広範に使われている2つのデータセットに対して広範囲に実験を行い、ソースの微調整とワンショットによる大きな言語モデルに対するターゲットオントロジーの性能改善を見出した。

関連論文リスト

Large Language Models as Analogical Reasoners [155.9617224350088]
CoT(Chain-of- Thought)は、言語モデルのプロンプトとして、推論タスク全体で素晴らしいパフォーマンスを示す。そこで本稿では,大規模言語モデルの推論プロセスを自動的にガイドする,新たなプロンプト手法であるアナログプロンプトを導入する。
論文参考訳（メタデータ） (2023-10-03T00:57:26Z)
Comparative Analysis of Contextual Relation Extraction based on Deep Learning Models [0.0]
バイオメディカル産業におけるドメイン知識の創出には, 効率的かつ正確なCREシステムが必要である。深層学習技術は、複数の文からコンテキストに基づいて適切な意味関係を識別するために用いられてきた。本稿では,関係抽出に使用される様々な深層学習モデルの解析について述べる。
論文参考訳（メタデータ） (2023-09-13T09:05:09Z)
Enhancing Retrieval-Augmented Large Language Models with Iterative Retrieval-Generation Synergy [164.83371924650294]
検索と生成を反復的に同期させるIter-RetGenと呼ばれる手法により,高い性能が得られることを示す。モデル出力は、タスクを完了するために必要なものを示し、より関連する知識を取得するための情報的コンテキストを提供する。 Iter-RetGenプロセスは、すべての知識を全体として取得し、構造的な制約なしに生成時の柔軟性をほとんど保持します。
論文参考訳（メタデータ） (2023-05-24T16:17:36Z)
DAMO-NLP at SemEval-2023 Task 2: A Unified Retrieval-augmented System for Multilingual Named Entity Recognition [94.90258603217008]
MultiCoNER RNum2共有タスクは、細粒度でノイズの多いシナリオにおいて、多言語の名前付きエンティティ認識(NER)に取り組むことを目的としている。 MultiCoNER RNum1の以前のトップシステムは、ナレッジベースまたはガゼッタを組み込んでいる。細粒度多言語NERのための統一検索拡張システム(U-RaNER)を提案する。
論文参考訳（メタデータ） (2023-05-05T16:59:26Z)
Commonsense and Named Entity Aware Knowledge Grounded Dialogue Generation [20.283091595536835]
大規模コモンセンスと名前付きエンティティベース知識を効果的に活用するオープンドメイン対話生成モデルを提案する。提案モデルでは,対話履歴と関連する知識の最も正確かつ重要な部分を保存するために,マルチホップアテンション層を利用する。 2つのベンチマークデータセットの実証結果は、我々のモデルが自動評価指標と人的判断の両方で最先端の手法を大幅に上回っていることを示している。
論文参考訳（メタデータ） (2022-05-27T12:11:40Z)
TAGPRIME: A Unified Framework for Relational Structure Extraction [71.88926365652034]
TAGPRIMEは、与えられた条件に関する情報を入力テキストに追加するシーケンスタグ付けモデルである。事前学習された言語モデルにおける自己認識機構により、プライミングワードは、出力された文脈化された表現に、与えられた条件に関するより多くの情報を含む。 5つの異なる言語にまたがる10のデータセットをカバーする3つのタスクに関する大規模な実験と分析は、TAGPRIMEの汎用性と有効性を示している。
論文参考訳（メタデータ） (2022-05-25T08:57:46Z)
A combined approach to the analysis of speech conversations in a contact center domain [2.575030923243061]
本稿では, インバウンドフローやアウトバウンドフローから抽出した通話記録を扱う, イタリアのコンタクトセンターにおける音声分析プロセスの実験について述べる。まず,Kaldi フレームワークをベースとした社内音声合成ソリューションの開発について詳述する。そこで我々は,コールトランスクリプトのセマンティックタグ付けに対する異なるアプローチの評価と比較を行った。最後に、タグ付け問題にJ48Sと呼ばれる決定木インデューサを適用する。
論文参考訳（メタデータ） (2022-03-12T10:03:20Z)
A Template-guided Hybrid Pointer Network for Knowledge-basedTask-oriented Dialogue Systems [15.654119998970499]
本稿では,知識に基づくタスク指向対話システムのためのテンプレート誘導型ハイブリッドポインタネットワークを提案する。本研究では,ゲーティング機構を備えたメモリポインタネットワークモデルを設計し,検索した回答と接地トラス応答とのセマンティックな相関関係をフル活用する。
論文参考訳（メタデータ） (2021-06-10T15:49:26Z)
Reasoning in Dialog: Improving Response Generation by Context Reading Comprehension [49.92173751203827]
マルチターンダイアログでは、発話が文の完全な形を取るとは限らない。読み解きの質問に答えるモデルの能力を検討し、応答生成性能の向上を提案する。
論文参考訳（メタデータ） (2020-12-14T10:58:01Z)
RH-Net: Improving Neural Relation Extraction via Reinforcement Learning and Hierarchical Relational Searching [2.1828601975620257]
本稿では、強化学習と階層型関係探索モジュールを用いて関係抽出を改善するRH-Netという新しいフレームワークを提案する。次に、データリッチクラスとデータポーアクラス間の相関インスタンスのセマンティクスを共有する階層的関係探索モジュールを提案する。
論文参考訳（メタデータ） (2020-10-27T12:50:27Z)
Probing Linguistic Features of Sentence-Level Representations in Neural Relation Extraction [80.38130122127882]
ニューラルリレーション抽出(RE)に関連する言語特性を対象とした14の探索タスクを導入する。私たちは、40以上の異なるエンコーダアーキテクチャと2つのデータセットでトレーニングされた言語的特徴の組み合わせによって学習された表現を研究するためにそれらを使用します。アーキテクチャによって引き起こされるバイアスと言語的特徴の含意は、探索タスクのパフォーマンスにおいて明らかに表現されている。
論文参考訳（メタデータ） (2020-04-17T09:17:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。