論文の概要: SAPPHIRE: Approaches for Enhanced Concept-to-Text Generation
- arxiv url: http://arxiv.org/abs/2108.06643v1
- Date: Sun, 15 Aug 2021 01:58:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-17 15:31:35.072500
- Title: SAPPHIRE: Approaches for Enhanced Concept-to-Text Generation
- Title(参考訳): SAPPHIRE: 概念テキスト生成の高度化へのアプローチ
- Authors: Steven Y. Feng, Jessica Huynh, Chaitanya Narisetty, Eduard Hovy, Varun
Gangal
- Abstract要約: 我々は,SAPPHIREと呼ばれるコンセプト・トゥ・テキスト生成のための,シンプルで効果的な改善セットを提案し,提案する。
BARTモデルとT5モデルの両方を用いた実験により、CommonGenタスクと呼ばれる生成コモンセンス推論の有効性を実証する。
- 参考スコア(独自算出の注目度): 9.827636064788695
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We motivate and propose a suite of simple but effective improvements for
concept-to-text generation called SAPPHIRE: Set Augmentation and Post-hoc
PHrase Infilling and REcombination. We demonstrate their effectiveness on
generative commonsense reasoning, a.k.a. the CommonGen task, through
experiments using both BART and T5 models. Through extensive automatic and
human evaluation, we show that SAPPHIRE noticeably improves model performance.
An in-depth qualitative analysis illustrates that SAPPHIRE effectively
addresses many issues of the baseline model generations, including lack of
commonsense, insufficient specificity, and poor fluency.
- Abstract(参考訳): サファイア(sapphire)と呼ばれる概念対テキスト生成のための、単純かつ効果的な一連の改善を動機付け、提案する。
生成コモンセンス推論においての有効性を示す。
CommonGenタスクは、BARTモデルとT5モデルの両方を使用した実験を通じて行われる。
広範囲な自動評価と人間評価により,サファイアのモデル性能が顕著に向上することを示す。
詳細な質的分析では、SAPPHIREはコモンセンスの欠如、特異性の欠如、フラレンシの低さなど、ベースラインモデル世代における多くの問題に効果的に対処していることを示している。
関連論文リスト
- Expressive and Generalizable Low-rank Adaptation for Large Models via Slow Cascaded Learning [55.5715496559514]
LoRA Slow Cascade Learning (LoRASC)は、LoRAの表現性と一般化能力を高めるために設計された革新的な技術である。
提案手法は,混合低ランク適応を可能にするカスケード学習戦略により表現性を増強し,複雑なパターンをキャプチャするモデルの能力を高める。
論文 参考訳(メタデータ) (2024-07-01T17:28:59Z) - Simplified Diffusion Schrödinger Bridge [24.492662903341966]
本稿では,拡散シュル「オーディンガー橋 (DSB) の新規な簡易化について紹介する。
これは複雑なデータ生成におけるDSBの限界に対処し、より高速な収束と性能向上を可能にする。
論文 参考訳(メタデータ) (2024-03-21T17:59:41Z) - A Critical Evaluation of AI Feedback for Aligning Large Language Models [60.42291111149438]
教師が既存のRLAIFパイプラインより優れていることを示す。
より一般的には、RLAIFの利得は、ベースモデルファミリ、テスト時間評価プロトコル、批判モデルによって大きく異なることが分かる。
論文 参考訳(メタデータ) (2024-02-19T18:53:54Z) - Large Language Models Are Also Good Prototypical Commonsense Reasoners [11.108562540123387]
従来の微調整アプローチはリソース集約的であり、モデルの一般化能力を損なう可能性がある。
我々は、調整されたタスクのための大規模モデルの出力からインスピレーションを受け、半自動で新しいプロンプトのセットを開発した。
より優れた設計のプロンプトによって、ProtoQAのリーダーボードで新しい最先端(SOTA)を達成することができます。
論文 参考訳(メタデータ) (2023-09-22T20:07:24Z) - Adaptive Contextual Perception: How to Generalize to New Backgrounds and
Ambiguous Objects [75.15563723169234]
本研究では,視覚モデルが分布外一般化の文脈をどのように適応的に利用するかを検討する。
1つの設定で優れているモデルは、もう1つの設定で苦労する傾向があります。
生物学的視覚の一般化能力を再現するためには、コンピュータビジョンモデルは背景表現に対して分解対象を持つ必要がある。
論文 参考訳(メタデータ) (2023-06-09T15:29:54Z) - SimOAP: Improve Coherence and Consistency in Persona-based Dialogue
Generation via Over-sampling and Post-evaluation [54.66399120084227]
大規模コーパスで訓練された言語モデルは、オープンドメイン対話において驚くほど流動的な結果を生み出すことができる。
ペルソナに基づく対話生成タスクでは、一貫性と一貫性が言語モデルにとって大きな課題である。
オーバーサンプリングとポスト評価という2段階のSimOAP戦略が提案されている。
論文 参考訳(メタデータ) (2023-05-18T17:23:00Z) - On the Robustness of Aspect-based Sentiment Analysis: Rethinking Model,
Data, and Training [109.9218185711916]
アスペクトベースの感情分析(ABSA)は、ソーシャルメディアのテキストやレビューの背後にある製品やサービスの特定の側面に対して、特定の感情の極性を自動的に推測することを目的としている。
我々は、モデル、データ、トレーニングを含むあらゆる可能な角度からボトルネックを体系的に再考することで、ABSAの堅牢性を高めることを提案する。
論文 参考訳(メタデータ) (2023-04-19T11:07:43Z) - A Generic Approach for Enhancing GANs by Regularized Latent Optimization [79.00740660219256]
本稿では,事前学習したGANを効果的かつシームレスに拡張できる,エミュレーティブモデル推論と呼ばれる汎用フレームワークを提案する。
我々の基本的な考え方は、ワッサーシュタイン勾配流法を用いて与えられた要求に対する最適潜時分布を効率的に推算することである。
論文 参考訳(メタデータ) (2021-12-07T05:22:50Z) - Non-Autoregressive Text Generation with Pre-trained Language Models [40.50508206201288]
BERTはNAGモデルのバックボーンとして利用でき、性能を大幅に向上できることを示す。
バニラNAGモデルの2つの共通問題を緩和するメカニズムを考案する。
本稿では,出力長を事前に推定できる新しいデコード戦略である ratio-first を提案する。
論文 参考訳(メタデータ) (2021-02-16T15:30:33Z) - A Review of the Family of Artificial Fish Swarm Algorithms: Recent
Advances and Applications [17.831214677737478]
人工魚群アルゴリズム(AFSA)は、自然界における魚の教育の生態的行動にインスパイアされている。
AFSAのファミリーは、実世界の最適化問題を解決するために広く応用された効果的なSwarm Intelligence(SI)方法論として登場した。
論文 参考訳(メタデータ) (2020-11-11T11:10:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。