論文の概要: Made of Steel? Learning Plausible Materials for Components in the
Vehicle Repair Domain
- arxiv url: http://arxiv.org/abs/2304.14745v1
- Date: Fri, 28 Apr 2023 10:39:44 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-01 14:37:27.610261
- Title: Made of Steel? Learning Plausible Materials for Components in the
Vehicle Repair Domain
- Title(参考訳): 鋼製?
車両補修領域における部品の学習可能な材料
- Authors: Annerose Eichel, Helena Schlipf, and Sabine Schulte im Walde
- Abstract要約: そこで本稿では, 車両修理領域の部品について, 事前学習言語モデル (PLM) をクローズタスクスタイルで探索することにより, ドメイン固有の可塑性材料を学習する手法を提案する。
我々は,一連のクローゼクエリテンプレートから有能な予測を集約する新しい手法を考案し,小さ,高品質,カスタマイズされたウィキペディアコーパスによるドメイン適応が性能を向上させることを示す。
- 参考スコア(独自算出の注目度): 10.068810595932591
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a novel approach to learn domain-specific plausible materials for
components in the vehicle repair domain by probing Pretrained Language Models
(PLMs) in a cloze task style setting to overcome the lack of annotated
datasets. We devise a new method to aggregate salient predictions from a set of
cloze query templates and show that domain-adaptation using either a small,
high-quality or a customized Wikipedia corpus boosts performance. When
exploring resource-lean alternatives, we find a distilled PLM clearly
outperforming a classic pattern-based algorithm. Further, given that 98% of our
domain-specific components are multiword expressions, we successfully exploit
the compositionality assumption as a way to address data sparsity.
- Abstract(参考訳): 注記データセットの欠如を克服するために,事前学習言語モデル (PLM) をクローズタスク方式で探索することにより,車両修理領域の部品に対するドメイン固有の可塑性材料を学習する手法を提案する。
我々は,一連のクローゼクエリテンプレートから有能な予測を集約する新しい手法を考案し,小型で高品質なウィキペディアコーパスを用いたドメイン適応が性能を向上させることを示す。
リソース指向の選択肢を検討すると、蒸留されたplmが古典的なパターンベースのアルゴリズムよりも明らかに優れています。
さらに、ドメイン固有のコンポーネントの98%がマルチワード表現であることを考えると、データの疎さに対処する方法として構成性の仮定をうまく利用しています。
関連論文リスト
- Reinforcement Learning with Generative Models for Compact Support Sets [10.041289551532804]
基礎モデルの制御手段として強化学習を利用する枠組みを提案する。
我々のフレームワークは優れた結果をもたらし、追加のラベル付けやデータコストを使わずにかなりのマージンで分類精度を向上した。
論文 参考訳(メタデータ) (2024-04-25T02:48:16Z) - Learning to Extract Structured Entities Using Language Models [52.281701191329]
機械学習の最近の進歩は、情報抽出の分野に大きな影響を与えている。
タスクをエンティティ中心にすることで、さまざまなメトリクスの使用を可能にします。
我々は、Structured Entity extractを導入し、Adroximate Entity Set OverlaPメトリックを提案し、この分野にコントリビュートします。
論文 参考訳(メタデータ) (2024-02-06T22:15:09Z) - Improving Meta-learning for Low-resource Text Classification and
Generation via Memory Imitation [87.98063273826702]
本稿では,メモリ模倣メタラーニング(MemIML)手法を提案する。
本手法の有効性を証明するために理論的解析を行った。
論文 参考訳(メタデータ) (2022-03-22T12:41:55Z) - DSGPT: Domain-Specific Generative Pre-Training of Transformers for Text
Generation in E-commerce Title and Review Summarization [14.414693156937782]
テキスト生成のための新しいドメイン固有生成事前学習法(DS-GPT)を提案する。
電子商取引モバイルディスプレイにおける製品タイトルと要約問題に応用する。
論文 参考訳(メタデータ) (2021-12-15T19:02:49Z) - RETRONLU: Retrieval Augmented Task-Oriented Semantic Parsing [11.157958012672202]
マルチドメインタスク指向のセマンティックパーシングの問題に対して,検索に基づくモデリングのアイデアを適用している。
我々のアプローチであるRetroNLUは、シーケンス・ツー・シーケンス・モデルアーキテクチャを検索コンポーネントで拡張する。
近隣の検索コンポーネントの品質、モデルの感度を分析し、発話の複雑さの異なる意味解析の性能を分解する。
論文 参考訳(メタデータ) (2021-09-21T19:30:30Z) - Learning to Synthesize Data for Semantic Parsing [57.190817162674875]
本稿では,プログラムの構成をモデル化し,プログラムを発話にマップする生成モデルを提案する。
PCFGと事前学習されたBARTの簡易性により,既存のデータから効率的に生成モデルを学習することができる。
GeoQuery と Spider の標準ベンチマークで解析する text-to-Query の in-domain と out-of-domain の両方で、この手法を評価します。
論文 参考訳(メタデータ) (2021-04-12T21:24:02Z) - Unsupervised Domain Adaptation of a Pretrained Cross-Lingual Language
Model [58.27176041092891]
最近の研究は、大規模未ラベルテキストに対する言語間言語モデルの事前学習が、大幅な性能向上をもたらすことを示唆している。
本稿では,絡み合った事前学習した言語間表現からドメイン固有の特徴を自動的に抽出する,教師なし特徴分解手法を提案する。
提案モデルでは、相互情報推定を利用して、言語間モデルによって計算された表現をドメイン不変部分とドメイン固有部分に分解する。
論文 参考訳(メタデータ) (2020-11-23T16:00:42Z) - Low-Resource Domain Adaptation for Compositional Task-Oriented Semantic
Parsing [85.35582118010608]
タスク指向のセマンティックパーシングは仮想アシスタントの重要なコンポーネントである。
近年のディープラーニングの進歩は、より複雑なクエリを解析するいくつかのアプローチを可能にしている。
そこで本研究では,教師付きニューラルネットワークを10倍の精度で高速化する手法を提案する。
論文 参考訳(メタデータ) (2020-10-07T17:47:53Z) - Grounded Compositional Outputs for Adaptive Language Modeling [59.02706635250856]
言語モデルの語彙$-$典型的にはトレーニング前に選択され、後で永久に固定される$-$は、そのサイズに影響します。
言語モデルのための完全合成出力埋め込み層を提案する。
我々の知る限り、この結果はトレーニング語彙に依存しないサイズを持つ最初の単語レベル言語モデルである。
論文 参考訳(メタデータ) (2020-09-24T07:21:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。