論文の概要: FrameEOL: Semantic Frame Induction using Causal Language Models
- arxiv url: http://arxiv.org/abs/2510.09097v1
- Date: Fri, 10 Oct 2025 07:52:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-14 00:38:48.39291
- Title: FrameEOL: Semantic Frame Induction using Causal Language Models
- Title(参考訳): FrameEOL:因果言語モデルを用いた意味的フレーム誘導
- Authors: Chihiro Yano, Kosuke Yamada, Hayato Tsukagoshi, Ryohei Sasano, Koichi Takeda,
- Abstract要約: 因果的言語モデル(CLM)に基づく意味的フレーム帰納法を提案する。
In-context Learning(ICL)とDeep Metric Learning(DML)を活用し、フレーム誘導に適した埋め込みを得る。
提案手法が既存のフレーム帰納法より優れていることを示す。
- 参考スコア(独自算出の注目度): 18.542847631796725
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Semantic frame induction is the task of clustering frame-evoking words according to the semantic frames they evoke. In recent years, leveraging embeddings of frame-evoking words that are obtained using masked language models (MLMs) such as BERT has led to high-performance semantic frame induction. Although causal language models (CLMs) such as the GPT and Llama series succeed in a wide range of language comprehension tasks and can engage in dialogue as if they understood frames, they have not yet been applied to semantic frame induction. We propose a new method for semantic frame induction based on CLMs. Specifically, we introduce FrameEOL, a prompt-based method for obtaining Frame Embeddings that outputs One frame-name as a Label representing the given situation. To obtain embeddings more suitable for frame induction, we leverage in-context learning (ICL) and deep metric learning (DML). Frame induction is then performed by clustering the resulting embeddings. Experimental results on the English and Japanese FrameNet datasets demonstrate that the proposed methods outperform existing frame induction methods. In particular, for Japanese, which lacks extensive frame resources, the CLM-based method using only 5 ICL examples achieved comparable performance to the MLM-based method fine-tuned with DML.
- Abstract(参考訳): 意味的フレーム誘導は、それらが引き起こす意味的フレームに従って単語をクラスタリングするタスクである。
近年,BERT などのマスキング言語モデル (MLM) を用いたフレーム呼出単語の埋め込みを利用して,高性能なセマンティックフレーム生成を実現している。
GPTやLlamaシリーズのような因果言語モデル(CLM)は、幅広い言語理解タスクに成功し、まるでフレームを理解しているかのように対話を行うことができるが、セマンティックフレームの帰納には適用されていない。
CLMに基づく意味的フレーム帰納法を提案する。
具体的には、与えられた状況を表すラベルとして1つのフレーム名を出力するフレーム埋め込みを得るためのプロンプトベースの方法であるFrameEOLを紹介する。
フレーム誘導に適した埋め込みを実現するために,インコンテキスト学習(ICL)とディープメトリック学習(DML)を利用する。
フレーム誘導は、その結果の埋め込みをクラスタリングすることで実行される。
英語と日本語のFrameNetデータセットに対する実験結果から,提案手法が既存のフレーム帰納法より優れていることが示された。
特に, フレームリソースの豊富な日本語では, 5例のICLを用いたCLM法が, DMLで微調整したMLM法に匹敵する性能を示した。
関連論文リスト
- FrameMind: Frame-Interleaved Video Reasoning via Reinforcement Learning [65.42201665046505]
現在のビデオ理解モデルは、各質問の特定の推論条件にかかわらず、固定されたフレームサンプリング戦略に依存し、所定の視覚入力を処理する。
この静的アプローチは、視覚的エビデンスを適応的に収集する能力を制限し、広範囲の時間的カバレッジやきめ細かい空間的詳細を必要とするタスクにおいて、最適以下のパフォーマンスをもたらす。
Frame-Interleaved Chain-of-Thought (FiCOT)を通して、モデルが推論中に視覚情報を動的に要求することを可能にする強化学習で訓練されたエンドツーエンドフレームワークであるFrameMindを紹介する。
従来のアプローチとは異なり、FrameMindは複数のターンで動作し、モデルがテキスト推論とアクティブな視覚知覚を交互に切り替え、ツールを使って抽出する。
論文 参考訳(メタデータ) (2025-09-28T17:59:43Z) - Do LLMs Encode Frame Semantics? Evidence from Frame Identification [4.508786802660182]
大規模言語モデルがフレームセマンティクスの潜在知識を符号化するかどうかを,フレーム識別に焦点をあてて検討する。
我々は,プロンプトベース推論に基づくモデルの評価を行い,明示的な監督なしにフレーム識別を効果的に行うことができることを示した。
論文 参考訳(メタデータ) (2025-09-23T20:09:32Z) - Exploring In-Context Learning for Frame-Semantic Parsing [0.8192907805418581]
フレーム識別(FI)とフレーム意味的役割ラベル付け(FSRL)のサブタスク固有のプロンプトを自動的に生成する手法を提案する。
F1スコアはFIが94.3%、FSRLが77.4%である。
その結果,ICLはドメイン固有のFSPタスクに対して,従来の微調整に代わる実用的で効果的な代替手段を提供することがわかった。
論文 参考訳(メタデータ) (2025-07-30T20:29:17Z) - ULLME: A Unified Framework for Large Language Model Embeddings with Generation-Augmented Learning [72.90823351726374]
我々は,LLM間の双方向の注目を可能にする,柔軟でプラグアンドプレイな実装であるLULME(Unified framework for Large Language Model Embedding)を紹介した。
また,テキスト埋め込みタスクのLLMを向上する新しい微調整手法であるGRL(Generation-augmented Representation Learning)を提案する。
フレームワークの柔軟性と有効性を示すために、異なるバックボーンアーキテクチャを持つULLMEから事前訓練された3つのモデルをリリースする。
論文 参考訳(メタデータ) (2024-08-06T18:53:54Z) - RAR: Retrieving And Ranking Augmented MLLMs for Visual Recognition [78.97487780589574]
MLLM(Multimodal Large Language Models)は、細粒度カテゴリの分類において優れている。
本稿では,MLLMの検索とランク付けのための拡張手法を提案する。
提案手法は, 微粒化認識における固有の限界に対処するだけでなく, モデルの包括的知識基盤も維持する。
論文 参考訳(メタデータ) (2024-03-20T17:59:55Z) - Learning Referring Video Object Segmentation from Weak Annotation [78.45828085350936]
RVOS(Referring Video Object segmentation)は、対象物を記述する文に基づいて、対象物をすべてのビデオフレームにセグメント化することを目的としたタスクである。
そこで本研究では, RVOS に対する十分な監視を提供しながら, アノテーションの労力を 8 倍に削減する新たなアノテーション方式を提案する。
私たちのスキームは、最初にオブジェクトが現れるフレームのマスクと、残りのフレームのバウンディングボックスのみを必要とする。
論文 参考訳(メタデータ) (2023-08-04T06:50:52Z) - Acquiring Frame Element Knowledge with Deep Metric Learning for Semantic
Frame Induction [24.486546938073907]
本稿では,ディープラーニングを意味的フレーム帰納タスクに適用する手法を提案する。
事前訓練された言語モデルは、フレーム要素の役割を区別するのに適するように微調整される。
FrameNetの実験結果から,本手法は既存手法よりも大幅に性能が向上することが示された。
論文 参考訳(メタデータ) (2023-05-23T11:02:28Z) - Semantic Frame Induction with Deep Metric Learning [24.486546938073907]
本研究では,深層学習を用いて文脈的埋め込みモデルを微調整するモデルを提案する。
セマンティック・フレーム・インダクションを実行するために、微調整されたコンテキスト適応型埋め込みを適用した。
論文 参考訳(メタデータ) (2023-04-27T15:46:09Z) - Knowledge-augmented Frame Semantic Parsing with Hybrid Prompt-tuning [17.6573121083417]
本稿では,意味表現を強化するための知識強化フレーム意味解析アーキテクチャ(KAF-SPA)を提案する。
メモリベースの知識抽出モジュール(MKEM)は、正確なフレーム知識を選択し、連続的なテンプレートを構築するために考案された。
我々はまた、選択した知識をPLMに組み込むハイブリッドプロンプトを用いてタスク指向知識探索モジュール(TKPM)を設計し、フレームおよび引数識別のタスクにPLMを適用する。
論文 参考訳(メタデータ) (2023-03-25T06:41:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。