論文の概要: Monosemanticity in Recommender Systems

• arxiv url: http://arxiv.org/abs/2606.29341v1
• Date: Sun, 28 Jun 2026 11:16:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.893608
• Title: Monosemanticity in Recommender Systems
• Title（参考訳）: レコメンダシステムにおける単意味性
• Abstract要約: 本研究では,Amazon Fashionデータセット上に大規模な行列分解推薦システムをトレーニングし,Materyoshka Sparse Autoencoderを学習した埋め込みに適用する。 メタデータアライメントとLCMラベリングによって得られた潜在特徴を分析し,セマンティックコヒーレンスとアンタングルメントを評価する。 以上の結果から, 協調フィルタリングは階層構造が復元可能であることが示唆され, マットリシカトレーニングは, 解釈可能な潜伏因子を明らかにするための原則的メカニズムが示唆された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Latent factor models such as matrix factorization are widely used in recommender systems, yet the learned embedding dimensions typically lack explicit semantic interpretation. This opacity limits transparency, explainability, and principled intervention in recommendation behavior. While sparse autoencoders (SAEs) have recently been used to extract monosemantic features from dense neural representations, standard SAEs suffer from scaling pathologies including feature splitting, feature absorption, and feature composition, which degrade interpretability as dictionary size increases. In this work, we investigate whether hierarchical sparse representations can reveal interpretable structure in collaborative filtering embeddings. We train a large-scale matrix factorization recommender system on the Amazon Fashion dataset and apply a Matryoshka Sparse Autoencoder (MSAE) to the learned embeddings. We analyze the resulting latent features through metadata alignment and LLM-generated labeling to assess semantic coherence and disentanglement. Finally, we show an intervention on a subset of gender associated latent neurons that emerged from the analysis. Our findings suggest that collaborative filtering embeddings contain recoverable hierarchical structure, and that Matryoshka training provides a principled mechanism for exposing interpretable latent factors in interaction-driven recommendation models.
• Abstract（参考訳）: 行列分解のような潜在因子モデルは推薦システムで広く使われているが、学習された埋め込み次元は典型的には明示的な意味解釈を欠いている。 この不透明さは、透明性、説明可能性、および推奨行動への原則的な介入を制限する。 スパースオートエンコーダ(SAE)は、最近、高密度神経表現から単意味的特徴を抽出するために使用されているが、標準のSAEは、特徴分割、特徴吸収、特徴合成などのスケーリング病理に悩まされており、辞書サイズが増加するにつれて解釈可能性が低下する。 本研究では,階層的なスパース表現が協調フィルタリング埋め込みにおける解釈可能な構造を明らかにすることができるかを検討する。 本研究では,Amazon Fashionデータセット上の大規模行列分解推薦システムをトレーニングし,Materyoshka Sparse Autoencoder(MSAE)を学習した埋め込みに適用する。 メタデータアライメントとLCMラベリングによって得られた潜在特徴を分析し,セマンティックコヒーレンスとアンタングルメントを評価する。 最後に, 性別関連潜伏ニューロンのサブセットに対する介入について検討した。 本研究は, 協調フィルタリングの組込みには階層構造が組み込まれていることを示唆し, 相互作用駆動レコメンデーションモデルにおいて, 解釈可能な潜伏因子を明らかにするための基本的メカニズムを提供する。

関連論文リスト

• Structuring Semantic Embeddings for Principle Evaluation: A Prototype-Guided Contrastive Learning Approach [58.15427952222424]
  汎用的なテキスト埋め込みはそのようなタスクに広くデプロイされているが、意味的類似性は意味的に似ているがタスク固有の例を示すことができる。 本稿では,凍結したテキスト埋め込み上に構築された幾何正規化モジュールであるPGCL(Prototype-Guided Contrastive Learning)を紹介する。
  論文  参考訳（メタデータ） (2026-08-15T13:19:25Z)
• Influence-Guided Symbolic Regression: Scientific Discovery via LLM-Driven Equation Search with Granular Feedback [56.69850045068714]
  逐次的2段階プロセスとして方程式発見をフレーム化する方法である textitInfluence-Guided Regression (IGSR) を導入する。 LLM-SRBench, 薬理学的PKPDモデル, 疫学シミュレーション, 実世界のゲノムデータなど, IGSRの有効性を示す。
  論文  参考訳（メタデータ） (2026-05-27T23:48:01Z)
• K-Models: a Flexible and Interpretable Method for Ordinal Clustering with Application to Antigen-Antibody Interaction Profiles [65.21921642886367]
  K-Modelsは、順序的制約を統合し、観察された機能プロファイルを生成するランダムプロセスの基本的な要素を推定する新しいフレームワークである。 提案手法はシミュレーションと実世界の応用を通して評価する。
  論文  参考訳（メタデータ） (2026-05-14T13:35:44Z)
• Attention-Based Multimodal Survival Prediction with Cross-Modal Bilinear Fusion [1.4203297056262238]
  患者レベル生存予測のための新しいディープラーニングフレームワークを提案する。 全スライディング組織学の特徴、RNA-seq発現プロファイル、臨床変数を統合している。 我々のアーキテクチャは、スライドレベルの表現のためのAMMILモジュールciteilse2018アテンションと、RNAおよび臨床データのためのフィードフォワードエンコーダを組み合わせたものである。
  論文  参考訳（メタデータ） (2026-05-12T13:09:25Z)
• Weight-Informed Self-Explaining Clustering for Mixed-Type Tabular Data [63.62853416081748]
  WISEは表現、特徴重み付け、クラスタリング、解釈を統一するフレームワークである。 クラスタリングを駆動する同じプリミティブに根ざした、忠実で人間解釈可能な説明を生成する。
  論文  参考訳（メタデータ） (2026-04-07T13:18:31Z)
• SIGMA: Scalable Spectral Insights for LLM Collapse [51.863164847253366]
  SIGMA(Spectral Inequalities for Gram Matrix Analysis)は,モデル崩壊のための統一的なフレームワークである。 行列のスペクトル上の決定論的境界を導出するベンチマークを利用することで、SIGMAは表現空間の収縮を追跡するために数学的に基底化された計量を提供する。 我々は、SIGMAが状態への遷移を効果的に捉え、崩壊のメカニズムに関する理論的知見の両方を提供することを示した。
  論文  参考訳（メタデータ） (2026-01-06T19:47:11Z)
• POEMS: Product of Experts for Interpretable Multi-omic Integration using Sparse Decoding [10.520179127805187]
  スパースデコーディングを用いた解釈可能なマルチオミクス統合のためのエキスパート製品であるPOEMSを紹介する。 POEMSはネットワークのどの部分も線形化せずに解釈可能性を提供し、1)スパース接続を用いた潜在要因に特徴をマッピングする。 がん治療のケーススタディでは、POEMSは競合するクラスタリングと分類性能を達成する。
  論文  参考訳（メタデータ） (2025-11-05T13:39:28Z)
• Unveiling Decision-Making in LLMs for Text Classification : Extraction of influential and interpretable concepts with Sparse Autoencoders [0.0]
  本稿では,テキスト分類に適した新しいSAEアーキテクチャを提案する。 我々はこのアーキテクチャを、ConceptShap、Independent Component Analysis、その他のSAEベースの概念抽出技術といった確立した手法と比較した。 私たちのアーキテクチャは,抽出した特徴の因果性と解釈性の両方を改善している。
  論文  参考訳（メタデータ） (2025-06-30T15:18:50Z)
• The Complexity of Learning Sparse Superposed Features with Feedback [2.4140387101794283]
  モデルの基本となる学習特徴がエージェントからのフィードバックによって効率的に検索できるかどうかを検討する。 スパース設定で特徴行列を学習する際のフィードバックの複雑さを解析する。 この結果は,エージェントがアクティベーションを構築し,スパースシナリオにおいて強い上限を示すことを許された場合に,厳密な境界を確立する。
  論文  参考訳（メタデータ） (2025-02-08T01:54:23Z)
• Enhancing the conformal predictability of context-aware recommendation systems by using Deep Autoencoders [4.3012765978447565]
  本稿では,ニューラルネットワークとオートエンコーダを組み合わせることで,項目のユーザ評価を予測するフレームワークを提案する。 実世界の様々なデータセットの実験を行い、その結果を最先端のアプローチと比較する。
  論文  参考訳（メタデータ） (2024-11-30T18:24:42Z)
• Enhancing Interpretability in Deep Reinforcement Learning through Semantic Clustering [4.859171801301904]
  セマンティッククラスタリング(セマンティッククラスタリング)とは、ニューラルネットワークが特徴空間におけるセマンティックな類似性に基づいて入力をクラスタリングする能力である。 本稿では,特徴量削減とオンラインクラスタリングを組み合わせた新しいセマンティッククラスタリングモジュールを組み込んだDRLアーキテクチャを提案する。 提案モジュールの有効性を実験的に検証し,DRL内のセマンティッククラスタリング特性を明らかにする能力を示す。
  論文  参考訳（メタデータ） (2024-09-25T22:48:14Z)
• ER: Equivariance Regularizer for Knowledge Graph Completion [107.51609402963072]
  我々は、新しい正規化器、すなわち等分散正規化器(ER)を提案する。 ERは、頭と尾のエンティティ間の意味的等価性を利用することで、モデルの一般化能力を高めることができる。 実験結果から,最先端関係予測法よりも明確かつ実質的な改善が示された。
  論文  参考訳（メタデータ） (2022-06-24T08:18:05Z)
• Closed-Form Factorization of Latent Semantics in GANs [65.42778970898534]
  画像合成のために訓練されたGAN(Generative Adversarial Networks)の潜在空間に、解釈可能な次元の豊富なセットが出現することが示されている。 本研究では,GANが学習した内部表現について検討し,その基礎となる変動要因を教師なしで明らかにする。 本稿では,事前学習した重みを直接分解することで,潜在意味発見のためのクローズドフォーム因数分解アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-07-13T18:05:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。