論文の概要: Drafting Event Schemas using Language Models
- arxiv url: http://arxiv.org/abs/2305.14847v1
- Date: Wed, 24 May 2023 07:57:04 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-25 18:33:38.530057
- Title: Drafting Event Schemas using Language Models
- Title(参考訳): 言語モデルを用いたドラフトイベントスキーマ
- Authors: Anisha Gunjal, Greg Durrett
- Abstract要約: 複雑なイベントを記述するためにこのようなスキーマを作成するプロセスに注目します。
私たちの焦点は、十分な多様性と重要なイベントのリコールを達成できるかどうかにあります。
大規模言語モデルは、2つの異なるデータセットから取り出されたスキーマに対して適度なリコールを達成することができることを示す。
- 参考スコア(独自算出の注目度): 48.81285141287434
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Past work has studied event prediction and event language modeling, sometimes
mediated through structured representations of knowledge in the form of event
schemas. Such schemas can lead to explainable predictions and forecasting of
unseen events given incomplete information. In this work, we look at the
process of creating such schemas to describe complex events. We use large
language models (LLMs) to draft schemas directly in natural language, which can
be further refined by human curators as necessary. Our focus is on whether we
can achieve sufficient diversity and recall of key events and whether we can
produce the schemas in a sufficiently descriptive style. We show that large
language models are able to achieve moderate recall against schemas taken from
two different datasets, with even better results when multiple prompts and
multiple samples are combined. Moreover, we show that textual entailment
methods can be used for both matching schemas to instances of events as well as
evaluating overlap between gold and predicted schemas. Our method paves the way
for easier distillation of event knowledge from large language model into
schemas.
- Abstract(参考訳): 過去の研究は、イベント予測とイベント言語モデリングを研究しており、時にはイベントスキーマの形式で知識の構造的表現を介する。
このようなスキーマは、説明可能な予測と、不完全な情報が与えられた見えない事象の予測につながる可能性がある。
本稿では、複雑なイベントを記述するためのスキーマを作成するプロセスについて考察する。
我々は、大きな言語モデル(LLM)を使用して、自然言語でスキーマを直接ドラフトします。
私たちの焦点は、キーイベントの十分な多様性とリコール、スキーマを十分に記述的なスタイルで生成できるかどうかにあります。
大規模言語モデルは、2つの異なるデータセットから抽出したスキーマに対して適度なリコールを達成することができ、複数のプロンプトと複数のサンプルを組み合わせると、さらによい結果が得られることを示す。
さらに,イベントのインスタンスに対するスキーマのマッチングや,金と予測スキーマの重複評価にも,テキストによる補間手法が有効であることを示す。
提案手法は,大規模言語モデルからスキーマへのイベント知識の蒸留を容易にする方法である。
関連論文リスト
- Matchmaker: Self-Improving Large Language Model Programs for Schema Matching [60.23571456538149]
本稿では,スキーママッチングのための合成言語モデルプログラムを提案する。
Matchmakerは、ラベル付きデモを必要とせずに、ゼロショットで自己改善する。
実証的に、Matchmakerが以前のMLベースのアプローチより優れている実世界の医療スキーママッチングベンチマークを実証する。
論文 参考訳(メタデータ) (2024-10-31T16:34:03Z) - Prompt-based Graph Model for Joint Liberal Event Extraction and Event Schema Induction [1.3154296174423619]
イベントは、エンティティの状態の変化を記述する、スピーチとテキストの不可欠なコンポーネントである。
イベント抽出タスクは、イベントを特定して分類し、イベントスキーマに従って参加者を見つけることを目的としている。
研究者らは、イベント抽出とイベントスキーマの同時発見を目的とした、リベラルイベント抽出(LEE)を提案する。
論文 参考訳(メタデータ) (2024-03-19T07:56:42Z) - Open-Domain Hierarchical Event Schema Induction by Incremental Prompting
and Verification [81.17473088621209]
イベントスキーマを,大規模言語モデル(LLM)から導出可能なコモンセンス知識の一形態として扱う。
複雑なイベントグラフの構築を3段階に分割するインクリメンタルなプロンプトおよび検証手法を設計する。
線形化グラフを生成するのにLLMを直接使用するのに比べ、時間関係が7.2%F1、階層関係が31.0%F1の大規模かつ複雑なスキーマを生成することができる。
論文 参考訳(メタデータ) (2023-07-05T01:00:44Z) - Harvesting Event Schemas from Large Language Models [38.56772862516626]
イベントスキーマは、イベントを表現し、世界イベントの知識をモデル化するための概念的、構造的、フォーマルな言語を提供する。
実世界のイベントのオープンな性質、イベント表現の多様性、イベント知識の広さにより、高品質で高カバレッジなイベントスキーマを自動生成することは困難である。
本稿では,大規模な事前学習型言語モデルから得られた知識を,イベントスキーマ誘導のための新しいパラダイムとして提案する。
論文 参考訳(メタデータ) (2023-05-12T06:51:05Z) - Zero-Shot On-the-Fly Event Schema Induction [61.91468909200566]
本稿では,大規模な言語モデルを用いて,高レベルなイベント定義,特定のイベント,引数,それらの関係を予測・付与するソースドキュメントを生成する手法を提案する。
我々のモデルを用いて、任意のトピックに関する完全なスキーマを、手動のデータ収集、すなわちゼロショットの方法で、オンザフライで生成することができる。
論文 参考訳(メタデータ) (2022-10-12T14:37:00Z) - Language Model Cascades [72.18809575261498]
テスト時に1つのモデルで繰り返し対話する、あるいは複数のモデルの合成は、さらに機能を拡張する。
制御フローと動的構造を持つ場合、確率的プログラミングのテクニックが必要となる。
この観点から、スクラッチパッド/思考連鎖、検証器、STaR、選択推論、ツール利用など、いくつかの既存のテクニックを定式化します。
論文 参考訳(メタデータ) (2022-07-21T07:35:18Z) - Mining Logical Event Schemas From Pre-Trained Language Models [0.0]
NESL(Neuro-Episodic Learner)は,大規模な言語モデル,FrameNet解析,単純な行動スキーマのセットを組み合わせたイベントスキーマ学習システムである。
言語モデルからの注意深いサンプリングは、状況のステレオタイプ的特性を強調し、無関係な詳細を強調するのに役立つことを示す。
論文 参考訳(メタデータ) (2022-04-12T16:41:18Z) - Future is not One-dimensional: Graph Modeling based Complex Event Schema
Induction for Event Prediction [90.75260063651763]
本稿では、イベント、引数、時間的接続、引数関係を含むグラフベースのスキーマ表現であるテンポラル複合イベントの概念を紹介する。
イベントグラフを伴う6,399のドキュメントを含む新しいスキーマ学習コーパスをリリースし,手動でゴールドスキーマを構築した。
論文 参考訳(メタデータ) (2021-04-13T16:41:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。