論文の概要: NLPBK at VLSP-2020 shared task: Compose transformer pretrained models
for Reliable Intelligence Identification on Social network
- arxiv url: http://arxiv.org/abs/2101.12672v1
- Date: Fri, 29 Jan 2021 16:19:28 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-01 12:53:45.340368
- Title: NLPBK at VLSP-2020 shared task: Compose transformer pretrained models
for Reliable Intelligence Identification on Social network
- Title(参考訳): nlpbk at vlsp-2020 shared task: compose transformer pretrained models for reliable intelligence identification on social network
- Authors: Thanh Chinh Nguyen, Van Nha Nguyen
- Abstract要約: 本稿では,ベトナムのSNS問題に対して,トランスフォーマーをベースとした事前訓練モデルを用いて,信頼度の高いインテリジェンス同定を適応させる手法について述べる。
また、bert-base事前学習モデルと、コメント数、いいね!数、SNS文書の画像などのメタデータ機能を組み合わせたモデルも提案した。
適切なトレーニング手法により,本モデルはパブリックテストセットで0.9392 ROC-AUCを達成でき,最終バージョンはプライベートテストセットでトップ2 ROC-AUC (0.9513) に収まる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper describes our method for tuning a transformer-based pretrained
model, to adaptation with Reliable Intelligence Identification on Vietnamese
SNSs problem. We also proposed a model that combines bert-base pretrained
models with some metadata features, such as the number of comments, number of
likes, images of SNS documents,... to improved results for VLSP shared task:
Reliable Intelligence Identification on Vietnamese SNSs. With appropriate
training techniques, our model is able to achieve 0.9392 ROC-AUC on public test
set and the final version settles at top 2 ROC-AUC (0.9513) on private test
set.
- Abstract(参考訳): 本論文では,ベトナムのSNS問題に対する信頼性情報同定による適応のためのトランスベースプリトレーニングモデルのチューニング手法について述べる。
我々はまた、コメント数、いいねの数、SNS文書の画像など、いくつかのメタデータ機能とbert-baseプリトレーニングモデルを組み合わせたモデルを提案し、VLSP共有タスクの結果を改善するために...ベトナムのSNS上の信頼性インテリジェンス識別。
適切なトレーニング手法により,本モデルはパブリックテストセットで0.9392 ROC-AUCを達成でき,最終バージョンはプライベートテストセットでトップ2 ROC-AUC (0.9513) に収まる。
関連論文リスト
- Fantastic Gains and Where to Find Them: On the Existence and Prospect of
General Knowledge Transfer between Any Pretrained Model [74.62272538148245]
事前訓練されたモデルの任意のペアリングに対して、一方のモデルは他方では利用できない重要なデータコンテキストを抽出する。
このような「補的」な知識を,性能劣化を伴わずに,あるモデルから別のモデルへ伝達できるかどうかを検討する。
論文 参考訳(メタデータ) (2023-10-26T17:59:46Z) - Architecture, Dataset and Model-Scale Agnostic Data-free Meta-Learning [119.70303730341938]
データフリーメタトレーニングにおけるePisode cUrriculum inversion(ECI)と、内部ループ後のinvErsion calibRation(ICFIL)を提案する。
ECIは、メタモデルのリアルタイムフィードバックに応じて、擬似エピソードの難易度を適応的に増加させる。
本稿では,ECIを用いたメタトレーニングの最適化過程を,エンド・ツー・エンド方式で近似形式として定式化する。
論文 参考訳(メタデータ) (2023-03-20T15:10:41Z) - Decoupled Mixup for Generalized Visual Recognition [71.13734761715472]
視覚認識のためのCNNモデルを学習するための新しい「デカップリング・ミクスアップ」手法を提案する。
本手法は,各画像を識別領域と雑音発生領域に分離し,これらの領域を均一に組み合わせてCNNモデルを訓練する。
実験結果から,未知のコンテキストからなるデータに対する本手法の高一般化性能を示す。
論文 参考訳(メタデータ) (2022-10-26T15:21:39Z) - A Modified PINN Approach for Identifiable Compartmental Models in
Epidemiology with Applications to COVID-19 [0.0]
我々は,Covid-19の米国開発における「物理情報ニューラルネットワーク」のバリエーションを用いたアクセス可能なデータ分析へのアプローチを提案する。
モデルパラメータの識別可能性の側面も評価し、ウェーブレット変換を用いて利用可能なデータを識別する方法も評価する。
論文 参考訳(メタデータ) (2022-08-01T23:09:32Z) - CONVIQT: Contrastive Video Quality Estimator [63.749184706461826]
知覚ビデオ品質評価(VQA)は、多くのストリーミングおよびビデオ共有プラットフォームにおいて不可欠な要素である。
本稿では,視覚的に関連のある映像品質表現を自己指導的に学習する問題について考察する。
本研究は, 自己教師型学習を用いて, 知覚力による説得力のある表現が得られることを示す。
論文 参考訳(メタデータ) (2022-06-29T15:22:01Z) - Robust Binary Models by Pruning Randomly-initialized Networks [57.03100916030444]
ランダムな二元ネットワークから敵攻撃に対して頑健なモデルを得る方法を提案する。
ランダムな二元ネットワークを切断することにより、ロバストモデルの構造を学習する。
本手法は, 敵攻撃の有無で, 強力な抽選券仮説を立証する。
論文 参考訳(メタデータ) (2022-02-03T00:05:08Z) - ReINTEL Challenge 2020: A Comparative Study of Hybrid Deep Neural
Network for Reliable Intelligence Identification on Vietnamese SNSs [0.9697877942346906]
膨大な量のデータが誤報の危機を引き起こしている。
本稿では,タスクの表メタデータとポストコンテンツの両方を効果的に活用できるマルチインプットモデルを提案する。
VLSPのプライベートテストセットで0.9462ROCスコアを達成した。
論文 参考訳(メタデータ) (2021-09-27T03:40:28Z) - Siamese Neural Network with Joint Bayesian Model Structure for Speaker
Verification [54.96267179988487]
本稿では,話者検証のための新しいサイムズニューラルネットワーク(SiamNN)を提案する。
サンプルの結合分布は、JB(Joint Bayesian)に基づく生成モデルに基づいて最初に定式化される。
話者照合のための二項識別タスクとして,ペアワイズしたサンプルを用いてモデルパラメータを訓練する。
論文 参考訳(メタデータ) (2021-04-07T09:17:29Z) - ReINTEL Challenge 2020: A Multimodal Ensemble Model for Detecting
Unreliable Information on Vietnamese SNS [0.0]
2つのマルチモーダルモデルを組み合わせて課題を解決する新しいマルチモーダルアンサンブルモデルを提案する。
実験の結果, ROC AUCスコアでは, 単一モデルに対するマルチモーダルアンサンブルモデルが改善された。
論文 参考訳(メタデータ) (2020-12-18T14:33:08Z) - Leveraging Transfer Learning for Reliable Intelligence Identification on
Vietnamese SNSs (ReINTEL) [0.8602553195689513]
単言語モデルと多言語事前学習モデルの両方を利用する。
我々のチームはプライベートテストセットのROC-AUC測定値で0.9378を達成しました。
論文 参考訳(メタデータ) (2020-12-10T15:43:50Z) - Gradient-Based Adversarial Training on Transformer Networks for
Detecting Check-Worthy Factual Claims [3.7543966923106438]
本稿では,最初の逆正則変換型クレームスポッタモデルを提案する。
現在の最先端モデルよりもF1スコアが4.70ポイント向上した。
本稿では,変換器モデルに逆学習を適用する手法を提案する。
論文 参考訳(メタデータ) (2020-02-18T16:51:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。