論文の概要: Mirror Gradient: Towards Robust Multimodal Recommender Systems via
Exploring Flat Local Minima
- arxiv url: http://arxiv.org/abs/2402.11262v1
- Date: Sat, 17 Feb 2024 12:27:30 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-20 22:08:58.719258
- Title: Mirror Gradient: Towards Robust Multimodal Recommender Systems via
Exploring Flat Local Minima
- Title(参考訳): ミラーグラディエント:フラット局所最小値探索によるロバストなマルチモーダルレコメンダシステムを目指して
- Authors: Shanshan Zhong, Zhongzhan Huang, Daifeng Li, Wushao Wen, Jinghui Qin,
Liang Lin
- Abstract要約: フラットローカルミニマの新しい視点からマルチモーダルリコメンデータシステムの解析を行う。
我々はミラーグラディエント(MG)と呼ばれる簡潔で効果的な勾配戦略を提案する。
提案したMGは、既存の堅牢なトレーニング手法を補完し、多様な高度なレコメンデーションモデルに容易に拡張できることが判明した。
- 参考スコア(独自算出の注目度): 54.06000767038741
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multimodal recommender systems utilize various types of information to model
user preferences and item features, helping users discover items aligned with
their interests. The integration of multimodal information mitigates the
inherent challenges in recommender systems, e.g., the data sparsity problem and
cold-start issues. However, it simultaneously magnifies certain risks from
multimodal information inputs, such as information adjustment risk and inherent
noise risk. These risks pose crucial challenges to the robustness of
recommendation models. In this paper, we analyze multimodal recommender systems
from the novel perspective of flat local minima and propose a concise yet
effective gradient strategy called Mirror Gradient (MG). This strategy can
implicitly enhance the model's robustness during the optimization process,
mitigating instability risks arising from multimodal information inputs. We
also provide strong theoretical evidence and conduct extensive empirical
experiments to show the superiority of MG across various multimodal
recommendation models and benchmarks. Furthermore, we find that the proposed MG
can complement existing robust training methods and be easily extended to
diverse advanced recommendation models, making it a promising new and
fundamental paradigm for training multimodal recommender systems. The code is
released at https://github.com/Qrange-group/Mirror-Gradient.
- Abstract(参考訳): マルチモーダルレコメンデータシステムは、ユーザの好みやアイテムの特徴をモデル化するために様々な種類の情報を利用する。
マルチモーダル情報の統合は、データ空間の問題やコールドスタート問題といったレコメンデーションシステムにおける固有の課題を軽減する。
しかし、情報調整リスクや固有ノイズリスクといったマルチモーダル情報入力から特定のリスクを同時に拡大する。
これらのリスクは、レコメンデーションモデルの堅牢性に重要な課題をもたらす。
本稿では,平坦な局所ミニマの新たな視点からマルチモーダルレコメンデータシステムを分析し,ミラーグラディエント(MG)と呼ばれる簡潔で効果的な勾配戦略を提案する。
この戦略は、最適化プロセス中のモデルの堅牢性を暗黙的に強化し、マルチモーダル情報入力から生じる不安定性リスクを軽減する。
また,様々なマルチモーダルレコメンデーションモデルとベンチマークにおいてmgが優れていることを示すために,強い理論的証拠を提供し,広範な実験を行った。
さらに,提案するmgは既存のロバストなトレーニング手法を補完し,多様な先進的レコメンデーションモデルに容易に拡張できることを見いだし,マルチモーダルレコメンデータシステムをトレーニングするための新たな基本的パラダイムとして有望である。
コードはhttps://github.com/qrange-group/mirror-gradientでリリースされる。
関連論文リスト
- RA-BLIP: Multimodal Adaptive Retrieval-Augmented Bootstrapping Language-Image Pre-training [55.54020926284334]
近年,MLLM (Multimodal Large Language Models) が注目されている。
検索拡張技術はLLMとMLLMの両方に有効なプラグインであることが証明されている。
本研究では,MLLMの新しい検索支援フレームワークであるRA-BLIP(Retrieval-Augmented Bootstrapping Language-Image Pre-training)を提案する。
論文 参考訳(メタデータ) (2024-10-18T03:45:19Z) - Mitigating Propensity Bias of Large Language Models for Recommender Systems [20.823461673845756]
我々は,CLLMR(Counterfactual LLM Recommendation)という新しいフレームワークを紹介する。
本稿では,歴史的相互作用から得られた構造情報をサイド情報表現に暗黙的に埋め込むスペクトルベースのサイド情報エンコーダを提案する。
我々の CLLMR アプローチは LLM ベースのレコメンデータシステムに固有の因果関係を探索する。
論文 参考訳(メタデータ) (2024-09-30T07:57:13Z) - Large Language Model Empowered Embedding Generator for Sequential Recommendation [57.49045064294086]
大言語モデル(LLM)は、その人気に関係なく、項目間の意味的関係を理解する能力を持つ。
LLMEmbは、LCMを利用してアイテム埋め込みを作成し、シークエンシャル・レコメンダ・システムの性能を高める革新的な技術である。
論文 参考訳(メタデータ) (2024-09-30T03:59:06Z) - MMREC: LLM Based Multi-Modal Recommender System [2.3113916776957635]
本稿では,Large Language Models(LLM)とディープラーニング技術を活用して,レコメンデータシステムを強化する新しい手法を提案する。
提案フレームワークは,マルチモーダル情報処理を取り入れたレコメンデーションの精度と妥当性を,統一された潜在空間表現を用いて向上することを目的としている。
論文 参考訳(メタデータ) (2024-08-08T04:31:29Z) - LANE: Logic Alignment of Non-tuning Large Language Models and Online Recommendation Systems for Explainable Reason Generation [15.972926854420619]
大きな言語モデル(LLM)を活用することで、包括的なレコメンデーションロジック生成の新しい機会を提供する。
レコメンデーションタスクのための微調整LDMモデルは、計算コストと既存のシステムとのアライメントの問題を引き起こす。
本研究は,LLMとオンラインレコメンデーションシステムとの連携を,LLMのチューニングを伴わない効果的戦略LANEを提案する。
論文 参考訳(メタデータ) (2024-07-03T06:20:31Z) - Multimodal Recommender Systems: A Survey [50.23505070348051]
マルチモーダル・レコメンダ・システム(MRS)は近年,学界と産業の両方から注目を集めている。
本稿では,主に技術的観点から,MSSモデルに関する総合的な調査を行う。
実装コードなど、調査された論文の詳細にアクセスするために、リポジトリをオープンソース化します。
論文 参考訳(メタデータ) (2023-02-08T05:12:54Z) - RGRecSys: A Toolkit for Robustness Evaluation of Recommender Systems [100.54655931138444]
複数の次元を包含するレコメンダシステムに対して,ロバスト性に関するより包括的視点を提案する。
本稿では、RecSys用のロバストネス評価ツールキットRobustness Gymを紹介し、リコメンダシステムモデルのロバストネスを迅速かつ均一に評価できるようにする。
論文 参考訳(メタデータ) (2022-01-12T10:32:53Z) - MultiHead MultiModal Deep Interest Recommendation Network [0.0]
本稿ではDINciteAuthors01モデルにマルチヘッドおよびマルチモーダルモジュールを追加する。
実験により、マルチヘッドマルチモーダルDINは推奨予測効果を向上し、様々な包括的指標において最先端の手法より優れていることが示された。
論文 参考訳(メタデータ) (2021-10-19T18:59:02Z) - Sample-Rank: Weak Multi-Objective Recommendations Using Rejection
Sampling [0.5156484100374059]
本稿では,マルチゴールサンプリングとユーザ関連度(Sample-Rank)のランク付けによるマーケットプレースの多目的目標への推薦手法を提案する。
提案手法の新規性は,望まれるマルチゴール分布からサンプリングするMOレコメンデーション問題を低減し,プロダクションフレンドリーな学習-ランクモデルを構築することである。
論文 参考訳(メタデータ) (2020-08-24T09:17:18Z) - Sequential Recommendation with Self-Attentive Multi-Adversarial Network [101.25533520688654]
逐次レコメンデーションにおける文脈情報の影響を明示的にモデル化するためのMFGAN(Multi-Factor Generative Adversarial Network)を提案する。
当社のフレームワークは,複数種類の因子情報を組み込むことが柔軟であり,各因子が推奨決定にどのように貢献するかを時間とともに追跡することができる。
論文 参考訳(メタデータ) (2020-05-21T12:28:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。