Fugu-MT 論文翻訳(概要): Cross-Domain Reasoning via Template Filling

論文の概要: Cross-Domain Reasoning via Template Filling

arxiv url: http://arxiv.org/abs/2111.00539v1
Date: Sun, 31 Oct 2021 16:35:36 GMT
ステータス: 処理完了
システム内更新日: 2021-11-02 13:22:36.881655
Title: Cross-Domain Reasoning via Template Filling
Title（参考訳）: テンプレートフィリングによるクロスドメイン推論
Authors: Dheeraj Rajagopal, Vivek Khetan, Bogdan Sacaleanu, Anatole Gershman, Andrew Fano, Eduard Hovy
Abstract要約: 本稿では,シーケンスモデルによるドメイン間推論を実現するために,プロンプト・テンプレート・フィル方式を提案する。また,プロンプト・テンプレート・フィリングにより,ドメイン間のシーケンスモデルに事前訓練を施す方法についても検討する。
参考スコア（独自算出の注目度）: 2.0671664906552807
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this paper, we explore the ability of sequence to sequence models to perform cross-domain reasoning. Towards this, we present a prompt-template-filling approach to enable sequence to sequence models to perform cross-domain reasoning. We also present a case-study with commonsense and health and well-being domains, where we study how prompt-template-filling enables pretrained sequence to sequence models across domains. Our experiments across several pretrained encoder-decoder models show that cross-domain reasoning is challenging for current models. We also show an in-depth error analysis and avenues for future research for reasoning across domains
Abstract（参考訳）: 本稿では,シーケンスモデルがクロスドメイン推論を行う能力について検討する。そこで本研究では,シーケンシャル・ツー・シーケンシャル・モデルによるクロスドメイン推論を実現するためのプロンプト・テンプレート・フィルング・アプローチを提案する。また,コモンセンスと健康および幸福なドメインに関するケーススタディを提示し,プロンプト・テンプレート・フィルが事前学習されたシーケンスをドメイン間のシーケンスモデルにどのように適用するかについて検討する。事前学習したエンコーダ・デコーダモデルによる実験により,現在のモデルではクロスドメイン推論が難しいことが示された。ドメイン間推論のための詳細な誤り解析と今後の研究への道筋を示す。

関連論文リスト

Derivative-Free Guidance in Continuous and Discrete Diffusion Models with Soft Value-Based Decoding [84.3224556294803]
拡散モデルは、画像、分子、DNA、RNA、タンパク質配列の自然なデザイン空間を捉えるのに優れている。これらの設計空間の自然性を保ちながら、下流の報酬関数を最適化することを目指している。提案アルゴリズムは,中間雑音状態が将来高い報酬をもたらすことの先駆けとして,ソフトバリュー関数を統合する。
論文参考訳（メタデータ） (2024-08-15T16:47:59Z)
Hybrid diffusion models: combining supervised and generative pretraining for label-efficient fine-tuning of segmentation models [55.2480439325792]
そこで本研究では,第1領域における画像のデノベーションとマスク予測を同時に行うことを目的とした,新しいプレテキストタスクを提案する。提案手法を用いて事前学習したモデルを微調整すると、教師なしまたは教師なしの事前学習を用いて訓練した類似モデルの微調整よりも優れた結果が得られることを示す。
論文参考訳（メタデータ） (2024-08-06T20:19:06Z)
Diffusion Forcing: Next-token Prediction Meets Full-Sequence Diffusion [61.03681839276652]
拡散強制(Diffusion Forcing)は、拡散モデルをトレーニングし、トークンの集合に独立した音レベルを付与する、新たなトレーニングパラダイムである。因果的次トーケン予測モデルを訓練して1つまたは複数の未来のトークンを生成することで、シーケンス生成モデルに拡散強制を適用する。
論文参考訳（メタデータ） (2024-07-01T15:43:25Z)
Domain Generalization via Causal Adjustment for Cross-Domain Sentiment Analysis [59.73582306457387]
クロスドメイン感情分析における領域一般化の問題に焦点をあてる。本稿では,ドメイン固有表現とドメイン不変表現をアンタングル化するバックドア調整に基づく因果モデルを提案する。一連の実験は、我々のモデルの優れたパフォーマンスと堅牢性を示しています。
論文参考訳（メタデータ） (2024-02-22T13:26:56Z)
Cross Contrasting Feature Perturbation for Domain Generalization [11.863319505696184]
ドメインの一般化は、目に見えないターゲットドメインをうまく一般化するソースドメインから堅牢なモデルを学ぶことを目的としています。近年の研究では、ソースドメインに相補的な分布を多様化するための新しいドメインサンプルや特徴の生成に焦点が当てられている。ドメインシフトをシミュレートするオンラインワンステージクロスコントラスト機能摂動フレームワークを提案する。
論文参考訳（メタデータ） (2023-07-24T03:27:41Z)
A New cross-domain strategy based XAI models for fake news detection [0.0]
クロスドメインテキスト分類は、ソースドメインの知識を用いて、ターゲットドメインを採用するモデルのタスクである。ファインチューンBERTモデルは、異なるドメインのデータセットを使用して、いくつかの実験でクロスドメイン分類を行うために使用される。 Anchor、ELI5、LIME、SHAPなどの説明モデルは、クロスドメインレベルに対する新しい説明可能なアプローチを設計するために使用される。
論文参考訳（メタデータ） (2023-02-04T07:36:17Z)
Learning to Reason With Relational Abstractions [65.89553417442049]
関係抽象化の考え方を用いて,言語モデルにおいてより強力な推論能力を構築する方法について検討する。このようなシーケンスをプロンプトとして提供したモデルでは,タスクの精度が大幅に向上することがわかった。
論文参考訳（メタデータ） (2022-10-06T00:27:50Z)
Symbolic Music Generation with Diffusion Models [4.817429789586127]
本論文では,前訓練された可変オートエンコーダの連続潜空間における離散領域をパラメータ化することにより,連続データに対する拡散モデルを訓練する手法を提案する。同じ連続埋め込み上で動作する自己回帰型言語モデルと比較して,強い無条件生成とポストホック条件付インフィル結果を示す。
論文参考訳（メタデータ） (2021-03-30T05:48:05Z)
Continual Adaptation of Visual Representations via Domain Randomization and Meta-learning [21.50683576864347]
ほとんどの標準的な学習アプローチは、異なる性質のサンプルを逐次訓練すると、漂流しにくい脆弱なモデルにつながる。忘れることに対して本質的により堅牢なモデルを学ぶ方法の1つは、ドメインのランダム化である。正規化子は、現在のドメインから異なる"副次的"メタドメインへのモデル転送に関連する損失を明示的に罰するメタラーニング戦略を考案する。
論文参考訳（メタデータ） (2020-12-08T09:54:51Z)
Coach: A Coarse-to-Fine Approach for Cross-domain Slot Filling [65.09621991654745]
クロスドメインスロットフィリングはタスク指向ダイアログシステムにおいて重要なタスクである。クロスドメインスロットフィリングのための粗粒度アプローチ(Coach)を提案する。実験結果から,本モデルはスロット充填における最先端手法よりも優れていた。
論文参考訳（メタデータ） (2020-04-24T13:07:12Z)
Incremental Unsupervised Domain-Adversarial Training of Neural Networks [17.91571291302582]
教師付き統計学習の文脈では通常、トレーニングセットはテストサンプルを描画する同じ分布から来ていると仮定される。ここでは、モデルが新しいドメインに反復的に適応される段階的な視点から、別の道を選び、問題にアプローチします。その結果,いくつかのデータセットにおける非増加事例に対する明らかな改善が報告され,他の最先端のドメイン適応アルゴリズムよりも優れていた。
論文参考訳（メタデータ） (2020-01-13T09:54:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。