論文の概要: MLEM: Generative and Contrastive Learning as Distinct Modalities for Event Sequences

• arxiv url: http://arxiv.org/abs/2401.15935v3
• Date: Tue, 18 Jun 2024 09:26:41 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-20 04:34:53.948259
• Title: MLEM: Generative and Contrastive Learning as Distinct Modalities for Event Sequences
• Title（参考訳）: MLEM:イベントシーケンスの個別モダリティとしての生成的・コントラスト学習
• Authors: Viktor Moskvoretskii, Dmitry Osin, Egor Shvetsov, Igor Udovichenko, Maxim Zhelnin, Andrey Dukhovny, Anna Zhimerikina, Evgeny Burnaev,
• Abstract要約: 本研究では,イベントシーケンスに対する自己教師付き学習手法の適用について検討する。 これは、銀行、eコマース、ヘルスケアといった様々なアプリケーションにおいて重要なモダリティである。 MLEM(Multimodal-Learning Event Model)と呼ばれる新しい手法を開発した。
• 参考スコア（独自算出の注目度）: 14.885714704999799
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This study explores the application of self-supervised learning techniques for event sequences. It is a key modality in various applications such as banking, e-commerce, and healthcare. However, there is limited research on self-supervised learning for event sequences, and methods from other domains like images, texts, and speech may not easily transfer. To determine the most suitable approach, we conduct a detailed comparative analysis of previously identified best-performing methods. We find that neither the contrastive nor generative method is superior. Our assessment includes classifying event sequences, predicting the next event, and evaluating embedding quality. These results further highlight the potential benefits of combining both methods. Given the lack of research on hybrid models in this domain, we initially adapt the baseline model from another domain. However, upon observing its underperformance, we develop a novel method called the Multimodal-Learning Event Model (MLEM). MLEM treats contrastive learning and generative modeling as distinct yet complementary modalities, aligning their embeddings. The results of our study demonstrate that combining contrastive and generative approaches into one procedure with MLEM achieves superior performance across multiple metrics.
• Abstract（参考訳）: 本研究では,イベントシーケンスに対する自己教師付き学習手法の適用について検討する。 これは、銀行、eコマース、ヘルスケアといった様々なアプリケーションにおいて重要なモダリティである。 しかし、イベントシーケンスの自己教師型学習についての研究は限られており、画像、テキスト、音声などの他の領域からの手法は容易には伝達できない可能性がある。 最適手法を決定するために,これまで同定されたベストパフォーマンス手法の詳細な比較分析を行う。 コントラスト法もジェネレーティブ法も優れていないことが判明した。 我々の評価には、イベントシーケンスの分類、次のイベントの予測、埋め込み品質の評価が含まれる。 これらの結果は、両方の方法を組み合わせることの潜在的な利点をさらに浮き彫りにする。 このドメインにおけるハイブリッドモデルの研究の欠如を考えると、まずは別のドメインのベースラインモデルに適応します。 しかし,その過小評価を観察し,MLEM(Multimodal-Learning Event Model)と呼ばれる新しい手法を開発した。 MLEMは、対照的な学習と生成モデリングを異なるが相補的なモダリティとして扱い、それらの埋め込みを整列させる。 本研究は, コントラスト法と生成法を1つの手順に組み合わせることで, 複数の指標において優れた性能が得られることを示した。

関連論文リスト

• Unified Generative and Discriminative Training for Multi-modal Large Language Models [88.84491005030316]
  生成的トレーニングにより、視覚言語モデル(VLM)は様々な複雑なタスクに取り組むことができる。 CLIPのようなモデルで実証された差別的トレーニングは、ゼロショットイメージテキストの分類と検索に優れています。 本稿では,両パラダイムの強みを統合する統一的アプローチを提案する。
  論文  参考訳（メタデータ） (2024-11-01T01:51:31Z)
• Cross-Modal Few-Shot Learning: a Generative Transfer Learning Framework [58.362064122489166]
  本稿では,複数モーダルからインスタンスを識別するクロスモーダルなFew-Shot Learningタスクを提案する。 本稿では,1つの段階からなる生成的転帰学習フレームワークを提案する。1つは豊富な一助データに対する学習を伴い,もう1つは新しいデータに適応するための転帰学習に焦点を当てる。 以上の結果から,GTLは4つの異なるマルチモーダルデータセット間の最先端手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2024-10-14T16:09:38Z)
• Multimodal Representation Learning by Alternating Unimodal Adaptation [73.15829571740866]
  MLA(Multimodal Learning with Alternating Unimodal Adaptation)を提案する。 MLAは、それを交互に一助学習プロセスに変換することで、従来の共同マルチモーダル学習プロセスを再構築する。 共有ヘッドを通じてモーダル間相互作用をキャプチャし、異なるモーダル間で連続的な最適化を行う。 実験は5つの多様なデータセットで行われ、完全なモダリティを持つシナリオと、欠落したモダリティを持つシナリオを含む。
  論文  参考訳（メタデータ） (2023-11-17T18:57:40Z)
• Active Learning Principles for In-Context Learning with Large Language Models [65.09970281795769]
  本稿では,アクティブ・ラーニング・アルゴリズムが,文脈内学習における効果的な実演選択手法としてどのように機能するかを検討する。 ALによる文脈内サンプル選択は,不確実性の低い高品質な事例を優先し,試験例と類似性を有することを示す。
  論文  参考訳（メタデータ） (2023-05-23T17:16:04Z)
• Iterative Forward Tuning Boosts In-Context Learning in Language Models [88.25013390669845]
  本研究では,大規模言語モデル(LLM)における文脈内学習を促進する新しい2段階フレームワークを提案する。 具体的には、当社のフレームワークでは、ICLプロセスをDeep-ThinkingとTest Stageの2つの別々のステージに分類しています。 ディープシンキング段階にはユニークな注意機構、すなわち反復的な注意強化機構が組み込まれており、複数の情報の蓄積を可能にしている。
  論文  参考訳（メタデータ） (2023-05-22T13:18:17Z)
• Offline Reinforcement Learning via High-Fidelity Generative Behavior Modeling [34.88897402357158]
  政策モデルの分布表現性に制限があるため,従来の手法はトレーニング中にも見つからない行動を選択する可能性がある。 我々は,学習方針を表現的生成行動モデルと行動評価モデルという2つの部分に分解して生成的アプローチを採用する。 提案手法は,最先端のオフラインRL法と比較して,競争力や優れた性能を実現する。
  論文  参考訳（メタデータ） (2022-09-29T04:36:23Z)
• Model-Agnostic Few-Shot Open-Set Recognition [36.97433312193586]
  我々はFew-Shot Open-Set Recognition (FSOSR) 問題に取り組む。 既存のモデルにプラグイン可能なモデルに依存しない推論手法の開発に注力する。 オープン・セット・トランスダクティブ・インフォメーション・最大化手法OSTIMを提案する。
  論文  参考訳（メタデータ） (2022-06-18T16:27:59Z)
• Towards Domain-Agnostic Contrastive Learning [103.40783553846751]
  そこで本研究では,DACLという対照的学習に対するドメインに依存しない新しいアプローチを提案する。 このアプローチの鍵となるのは、Mixupノイズを使用して、入力レベルと隠された状態レベルの両方で異なるデータサンプルを混合することで、類似した、異種なサンプルを作成することです。 以上の結果から,DACLはガウスノイズなどの他のドメインに依存しないノイズ発生手法よりも優れるだけでなく,SimCLRのようなドメイン固有の手法とうまく結合していることがわかった。
  論文  参考訳（メタデータ） (2020-11-09T13:41:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。