論文の概要: BvSP: Broad-view Soft Prompting for Few-Shot Aspect Sentiment Quad Prediction
- arxiv url: http://arxiv.org/abs/2406.07365v1
- Date: Tue, 11 Jun 2024 15:32:32 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-12 15:15:04.863922
- Title: BvSP: Broad-view Soft Prompting for Few-Shot Aspect Sentiment Quad Prediction
- Title(参考訳): BvSP:広視野ソフト・プロンプティングによる感性4次予測
- Authors: Yinhao Bai, Yalan Xie, Xiaoyi Liu, Yuhua Zhao, Zhixin Han, Mengting Hu, Hang Gao, Renhong Cheng,
- Abstract要約: アスペクト感情クワッド予測(ASQP)は、アスペクト項、意見項、アスペクトカテゴリー、感情極性を含む4つのアスペクトベースの要素を予測することを目的としている。
この研究はASQPを数ショットのシナリオに定式化し、実際のアプリケーションで高速に適応することを目的としている。
- 参考スコア(独自算出の注目度): 10.313467662221319
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Aspect sentiment quad prediction (ASQP) aims to predict four aspect-based elements, including aspect term, opinion term, aspect category, and sentiment polarity. In practice, unseen aspects, due to distinct data distribution, impose many challenges for a trained neural model. Motivated by this, this work formulates ASQP into the few-shot scenario, which aims for fast adaptation in real applications. Therefore, we first construct a few-shot ASQP dataset (FSQP) that contains richer categories and is more balanced for the few-shot study. Moreover, recent methods extract quads through a generation paradigm, which involves converting the input sentence into a templated target sequence. However, they primarily focus on the utilization of a single template or the consideration of different template orders, thereby overlooking the correlations among various templates. To tackle this issue, we further propose a Broadview Soft Prompting (BvSP) method that aggregates multiple templates with a broader view by taking into account the correlation between the different templates. Specifically, BvSP uses the pre-trained language model to select the most relevant k templates with Jensen-Shannon divergence. BvSP further introduces soft prompts to guide the pre-trained language model using the selected templates. Then, we aggregate the results of multi-templates by voting mechanism. Empirical results demonstrate that BvSP significantly outperforms the stateof-the-art methods under four few-shot settings and other public datasets. Our code and dataset are available at https://github.com/byinhao/BvSP.
- Abstract(参考訳): アスペクト感情クワッド予測(ASQP)は、アスペクト項、意見項、アスペクトカテゴリ、感情極性を含む4つのアスペクトベースの要素を予測することを目的としている。
実際には、異なるデータ分散のために、トレーニングされたニューラルネットワークに対して多くの課題が課される。
この研究は、ASQPを数ショットのシナリオに定式化し、実際のアプリケーションで高速に適応することを目的としている。
そこで我々はまず,よりリッチなカテゴリを含む数ショットASQPデータセット(FSQP)を構築する。
さらに、最近の手法では、入力文をテンプレート化されたターゲットシーケンスに変換するような生成パラダイムを通じてクワッドを抽出する。
しかし、それらは主に、単一のテンプレートの利用や異なるテンプレート順序の考慮に焦点を当てており、それによって、さまざまなテンプレート間の相関を見越すことになる。
この問題に対処するために,異なるテンプレート間の相関を考慮し,より広い視点で複数のテンプレートを集約するBroadview Soft Prompting (BvSP)法を提案する。
具体的には、BvSPはトレーニング済みの言語モデルを使用して、Jensen-Shannonの発散で最も関連性の高いkテンプレートを選択する。
BvSPはさらに、選択されたテンプレートを使用して事前訓練された言語モデルをガイドするソフトプロンプトも導入している。
次に,投票機構による多面的評価結果の集計を行う。
実証的な結果から、BvSPは4つのショット設定やその他の公開データセットの下で最先端のメソッドを大幅に上回っていることが示されている。
私たちのコードとデータセットはhttps://github.com/byinhao/BvSP.comで公開されています。
関連論文リスト
- FreeSeg-Diff: Training-Free Open-Vocabulary Segmentation with Diffusion Models [56.71672127740099]
我々は,閉鎖語彙データセットのトレーニングモデルによって伝統的に解決されるイメージセグメンテーションの課題に焦点をあてる。
我々は、ゼロショットのオープン語彙セグメンテーションのために、異なる、比較的小さなオープンソース基盤モデルを活用している。
当社のアプローチ(別名FreeSeg-Diff)は、トレーニングに依存しないもので、Pascal VOCとCOCOデータセットの両方で多くのトレーニングベースのアプローチより優れています。
論文 参考訳(メタデータ) (2024-03-29T10:38:25Z) - Rethinking Few-shot 3D Point Cloud Semantic Segmentation [62.80639841429669]
本稿では,FS-PCSによる3Dポイント・クラウドセマンティックセマンティックセグメンテーションについて再検討する。
我々は、最先端の2つの重要な問題、前景の漏洩とスパースポイントの分布に焦点をあてる。
これらの問題に対処するために、新しいベンチマークを構築するための標準化されたFS-PCS設定を導入する。
論文 参考訳(メタデータ) (2024-03-01T15:14:47Z) - Comparing Template-based and Template-free Language Model Probing [0.0]
16の異なるクローゼタスク言語モデル (LM) を10の英語データセット上で評価した。
テンプレートのない、テンプレートベースのアプローチは、上位ドメイン固有のモデルを除いて、モデルが異なるランク付けをすることが多い。
論文 参考訳(メタデータ) (2024-01-31T19:07:37Z) - Mind Your Format: Towards Consistent Evaluation of In-Context Learning Improvements [10.687101698324897]
大規模な言語モデルは、いくつかの例から新しいタスクを解くための驚くべき能力を示している。
プロンプトテンプレート、あるいはインプット例をフォーマットしてプロンプトを取得する方法は、コンテキスト内学習の重要な側面であるが、見過ごされがちである。
テンプレートの貧弱な選択は、最強モデルと推論手法の性能をランダムな推測レベルに低下させることができることを示す。
論文 参考訳(メタデータ) (2024-01-12T18:58:26Z) - Self-Supervised Open-Ended Classification with Small Visual Language
Models [60.23212389067007]
我々は、小さな視覚言語モデルを用いたオープンエンド分類のための数ショットの能力を解放する自己教師型アプローチであるSeCAtを提案する。
約1Bパラメータを持つモデルを使用することで、FrozenやBrobAGeといった、はるかに大きなモデルの少数ショット能力より優れています。
論文 参考訳(メタデータ) (2023-09-30T21:41:21Z) - Single-Stage Visual Relationship Learning using Conditional Queries [60.90880759475021]
TraCQは、マルチタスク学習問題とエンティティペアの分布を回避する、シーングラフ生成の新しい定式化である。
我々は,DETRをベースとしたエンコーダ-デコーダ条件付きクエリを用いて,エンティティラベル空間を大幅に削減する。
実験結果から、TraCQは既存のシングルステージシーングラフ生成法よりも優れており、Visual Genomeデータセットの最先端の2段階メソッドを多く上回っていることがわかった。
論文 参考訳(メタデータ) (2023-06-09T06:02:01Z) - PAMI: partition input and aggregate outputs for model interpretation [69.42924964776766]
本研究では、深層学習モデルが局所的な特徴を集約してモデル予測を行うという観察に基づいて、PAMIと呼ばれるシンプルで効果的な可視化フレームワークを提案する。
基本的な考え方は、入力の大多数を隠蔽し、元のモデル予測に対する保存された入力部の相対的な寄与として対応するモデル出力を使用することである。
複数のタスクに対する大規模な実験により,提案手法は,クラス固有の入力領域をより正確に見つけるために,既存の可視化手法よりも優れていることを確認した。
論文 参考訳(メタデータ) (2023-02-07T08:48:34Z) - Model ensemble instead of prompt fusion: a sample-specific knowledge
transfer method for few-shot prompt tuning [85.55727213502402]
我々は、ソースタスクのソフトプロンプトから知識を伝達することで、プロンプトチューニングにおける数ショットのパフォーマンスを改善することに集中する。
我々はソースモデル(SESoM)のサンプル固有アンサンブルを提案する。
SESoMは、ソースモデルが出力されるときに、ターゲットの各サンプルに対するソースモデルのコントリビューションを個別に調整することを学ぶ。
論文 参考訳(メタデータ) (2022-10-23T01:33:16Z) - Improving Aspect Sentiment Quad Prediction via Template-Order Data
Augmentation [14.962445913454747]
アスペクトレベルの感情分析の分野では,アスペクト感情クワッド予測(ASQP)が一般的な課題となっている。
以前の作業では、定義済みのテンプレートを使用して、元の文を構造的ターゲットシーケンスに言い換える。
テンプレートオーダの効果について検討し,いくつかのオーダが生成モデルの性能向上に有効であることを示す。
論文 参考訳(メタデータ) (2022-10-19T04:31:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。