論文の概要: On-Device Emoji Classifier Trained with GPT-based Data Augmentation for a Mobile Keyboard
- arxiv url: http://arxiv.org/abs/2411.05031v1
- Date: Wed, 06 Nov 2024 09:52:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-11 14:54:55.718257
- Title: On-Device Emoji Classifier Trained with GPT-based Data Augmentation for a Mobile Keyboard
- Title（参考訳）: GPTを用いたモバイルキーボード用オンデバイス絵文字分類器
- Authors: Hossam Amer, Joe Osborne, Michael Zaki, Mohamed Afify,
- Abstract要約: 本稿では,SwiftKey用のMobileBertに基づくオンデバイス絵文字分類器を提案する。
データ不均衡を考慮するために、広く使われているGPTを使用して、各絵文字クラスに1つ以上のタグを生成する。
各絵文字と対応するタグに対して、元のセットにGPT生成文をマージし、この絵文字でラベル付けします。
推論時には、絵文字の出力とユーザ履歴を補間し、より良い絵文字分類を行う。
- 参考スコア（独自算出の注目度）: 2.6624014064407717
- License:
- Abstract: Emojis improve communication quality among smart-phone users that use mobile keyboards to exchange text. To predict emojis for users based on input text, we should consider the on-device low memory and time constraints, ensure that the on-device emoji classifier covers a wide range of emoji classes even though the emoji dataset is typically imbalanced, and adapt the emoji classifier output to user favorites. This paper proposes an on-device emoji classifier based on MobileBert with reasonable memory and latency requirements for SwiftKey. To account for the data imbalance, we utilize the widely used GPT to generate one or more tags for each emoji class. For each emoji and corresponding tags, we merge the original set with GPT-generated sentences and label them with this emoji without human intervention to alleviate the data imbalance. At inference time, we interpolate the emoji output with the user history for emojis for better emoji classifications. Results show that the proposed on-device emoji classifier deployed for SwiftKey increases the accuracy performance of emoji prediction particularly on rare emojis and emoji engagement.
- Abstract（参考訳）: 絵文字は、モバイルキーボードを使ってテキストを交換するスマートフォンユーザーのコミュニケーション品質を向上させる。
入力テキストに基づいてユーザの絵文字を予測するためには、オンデバイスでの低メモリと時間の制約を考慮し、オンデバイスでの絵文字分類器が、通常、絵文字データセットが不均衡であるにもかかわらず、幅広い絵文字クラスをカバーすることを保証し、絵文字分類器をユーザのお気に入りに適応させる必要がある。
本稿では,SwiftKey に適切なメモリとレイテンシを必要とする,MobileBert に基づくオンデバイス絵文字分類器を提案する。
データ不均衡を考慮するために、広く使われているGPTを使用して、各絵文字クラスに1つ以上のタグを生成する。
各絵文字と対応するタグに対して、元のセットにGPT生成文をマージし、人間の介入なしにこの絵文字にラベルを付けることで、データの不均衡を緩和する。
推論時には、絵文字分類を改善するために、絵文字の出力とユーザ履歴を補間する。
結果から,SwiftKeyに実装したオンデバイス絵文字分類器では,特に稀な絵文字や絵文字のエンゲージメントにおいて,絵文字予測の精度が向上した。
関連論文リスト
- Semantics Preserving Emoji Recommendation with Large Language Models [47.94761630160614]
既存の絵文字レコメンデーションメソッドは、ユーザーが元のテキストで選択した正確な絵文字にマッチする能力に基づいて、主に評価される。
本稿では,ユーザのテキストとのセマンティックな整合性を維持する絵文字を推薦するモデルの能力を計測する,絵文字推薦のための新しいセマンティックス保存フレームワークを提案する。
論文 参考訳（メタデータ） (2024-09-16T22:27:46Z) - EmojiLM: Modeling the New Emoji Language [44.23076273155259]
我々は,大規模言語モデルからテキスト絵文字並列コーパスであるText2Emojiを開発した。
並列コーパスに基づいて,テキスト・絵文字双方向翻訳に特化したシーケンス・ツー・シーケンス・モデルである絵文字LMを蒸留する。
提案モデルでは,強いベースラインを上回り,平行コーパスは絵文字関連下流タスクに有効である。
論文 参考訳（メタデータ） (2023-11-03T07:06:51Z) - Emoji Prediction in Tweets using BERT [0.0]
本稿では,広く使われている事前学習型言語モデルであるBERTを用いた絵文字予測のためのトランスフォーマーに基づく手法を提案する。
我々はBERTをテキストと絵文字の両方を含む大量のテキスト(つぶやき)のコーパスで微調整し、与えられたテキストに対して最も適切な絵文字を予測する。
実験の結果,提案手法は,75%以上の精度で絵文字の予測において,最先端のモデルよりも優れていることが示された。
論文 参考訳（メタデータ） (2023-07-05T06:38:52Z) - A Federated Approach to Predicting Emojis in Hindi Tweets [1.979158763744267]
我々はヒンディー語で絵文字予測のために、新しい18ドルのツイート(25ドルのユニークなツイートから追加)のデータセットを導入しました。
本稿では,モデル性能とユーザプライバシのバランスをとることを目的とした,連合学習アルゴリズムCausalFedGSDの修正を提案する。
論文 参考訳（メタデータ） (2022-11-11T18:37:33Z) - Emojich -- zero-shot emoji generation using Russian language: a
technical report [52.77024349608834]
エモジッチ(Emojich)は、ロシア語の字幕を条件として絵文字を生成するテキスト・画像ニューラルネットワークである。
我々は,事前訓練された大型モデルruDALL-E Malevich(XL) 1.3Bパラメータの微調整段階における一般化能力を維持することを目的としている。
論文 参考訳（メタデータ） (2021-12-04T23:37:32Z) - Emoji-aware Co-attention Network with EmoGraph2vec Model for Sentiment
Anaylsis [9.447106020795292]
我々はEmoGraph2vecと呼ばれる絵文字表現を学習し、絵文字対応のコアテンションネットワークを設計する手法を提案する。
我々のモデルは、テキストと絵文字を組み込むコアテンション機構を設計し、圧縮と励起ブロックを畳み込みニューラルネットワークに統合する。
実験結果から,提案モデルは,ベンチマークデータセットの感情分析において,いくつかのベースラインを上回り得ることが示された。
論文 参考訳（メタデータ） (2021-10-27T08:01:10Z) - Black or White but never neutral: How readers perceive identity from
yellow or skin-toned emoji [90.14874935843544]
近年の研究は、ソーシャルメディア上でのアイデンティティ表現と絵文字利用の関係を確立した。
この研究は、言語と同様に、読者がそのような自己表現の行為に敏感かどうかを問うもので、著者のアイデンティティを理解するために使用する。
論文 参考訳（メタデータ） (2021-05-12T18:23:51Z) - Semantic Journeys: Quantifying Change in Emoji Meaning from 2012-2018 [66.28665205489845]
絵文字のセマンティクスが時間とともにどのように変化するかに関する最初の縦断的研究を行い、計算言語学から6年間のtwitterデータに適用した。
絵文字のセマンティックな発達において5つのパターンを識別し、抽象的な絵文字がより少ないほど意味的変化を起こす可能性が高くなることを示す。
絵文字とセマンティクスに関する今後の作業を支援するために、私たちは、絵文字のセマンティックな変化を調べるために誰でも使用できるウェブベースのインターフェイスとともに、データを公開します。
論文 参考訳（メタデータ） (2021-05-03T13:35:10Z) - A `Sourceful' Twist: Emoji Prediction Based on Sentiment, Hashtags and
Application Source [1.6818451361240172]
モデルが関係する感情を理解し、テキストに最適な絵文字を予測するのを助けるためにTwitterの機能を使用することの重要性を紹介します。
データ分析とニューラルネットワークモデルのパフォーマンス評価は、ハッシュタグとアプリケーションソースを特徴として使用することで、異なる情報をエンコードすることができ、絵文字の予測に有効であることを示している。
論文 参考訳（メタデータ） (2021-03-14T03:05:04Z) - Emoji Prediction: Extensions and Benchmarking [30.642840676899734]
絵文字予測タスクは、テキストに関連付けられた適切な絵文字セットを予測することを目的としている。
我々は、絵文字予測タスクの既存の設定を拡張し、よりリッチな絵文字セットを含め、複数ラベルの分類を可能にする。
トランスフォーマーネットワークに基づくマルチクラス・マルチラベル絵文字予測のための新しいモデルを提案する。
論文 参考訳（メタデータ） (2020-07-14T22:41:20Z) - Are Emojis Emotional? A Study to Understand the Association between
Emojis and Emotions [37.86739837901986]
絵文字と感情の関連性について,人間同士の関連付けによる新たなデータセットを用いて検討する。
また,類似の関連がより大きな絵文字集合に対して予測できるような,既存のデータからそのような関連がどの程度推測できるかを評価する実験も行なっている。
論文 参考訳（メタデータ） (2020-05-02T04:04:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。