論文の概要: BELT: Blockwise Missing Embedding Learning Transfomer
- arxiv url: http://arxiv.org/abs/2105.10360v1
- Date: Fri, 21 May 2021 13:55:30 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-25 03:30:11.863216
- Title: BELT: Blockwise Missing Embedding Learning Transfomer
- Title(参考訳): BELT: 埋め込み学習トランスフォーマーのブロックワイズ
- Authors: Doudou Zhou, and Tianxi Cai, and Junwei Lu
- Abstract要約: 本稿では,行単位/列単位の欠落を扱うために,ブロックワイドなbf埋め込みbf学習bf変換器(BELT)を提案する。
具体的には,複数の音源から各行列が重なり合う場合の行列回復を効率的に行う手法を提案する。
- 参考スコア(独自算出の注目度): 9.341699514447113
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Matrix completion has attracted a lot of attention in many fields including
statistics, applied mathematics and electrical engineering. Most of works focus
on the independent sampling models under which the individual observed entries
are sampled independently. Motivated by applications in the integration of
multiple (point-wise mutual information) PMI matrices, we propose the model
{\bf B}lockwise missing {\bf E}mbedding {\bf L}earning {\bf T}ransformer (BELT)
to treat row-wise/column-wise missingness. Specifically, our proposed method
aims at efficient matrix recovery when every pair of matrices from multiple
sources has an overlap. We provide theoretical justification for the proposed
BELT method. Simulation studies show that the method performs well in finite
sample under a variety of configurations. The method is applied to integrate
several PMI matrices built by EHR data and Chinese medical text data, which
enables us to construct a comprehensive embedding set for CUI and Chinese with
high quality.
- Abstract(参考訳): マトリックスの完成は統計学、応用数学、電気工学など多くの分野で注目を集めている。
ほとんどの作品は、個々の観察されたエントリが独立にサンプリングされる独立したサンプリングモデルに焦点を当てている。
複数(ポイントワイドな相互情報)PMI行列の統合への応用により、行ワイド/カラムワイドの欠如を扱うためのモデル {\bf B}lockwise missing {\bf E}mbedding {\bf L}earning {\bf T}ransformer (BELT)を提案する。
具体的には,複数の音源から各行列が重なり合う場合の行列回復を効率的に行う手法を提案する。
提案手法の理論的正当性について述べる。
シミュレーション研究によれば、この手法は有限サンプルでも様々な構成でうまく機能する。
EHRデータと中国の医療用テキストデータによって構築された複数のPMI行列を統合するために本手法を適用し,CUIと中国語の総合的な埋め込みセットを高品質に構築する。
関連論文リスト
- Synergistic eigenanalysis of covariance and Hessian matrices for
enhanced binary classification [75.90957645766676]
本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。
我々のアプローチは、クラス間の平均距離を最大化し、クラス内の分散を最小化する能力を確立する形式的な証明によって裏付けられている。
論文 参考訳(メタデータ) (2024-02-14T16:10:42Z) - Enhanced Latent Multi-view Subspace Clustering [27.685831645018528]
潜在空間表現を復元するための拡張潜在多視点サブスペースクラスタリング(ELMSC)手法を提案する。
提案するELMSCは,最先端のマルチビュークラスタリング手法よりも高いクラスタリング性能を実現することができる。
論文 参考訳(メタデータ) (2023-12-22T15:28:55Z) - Spectral Entry-wise Matrix Estimation for Low-Rank Reinforcement
Learning [53.445068584013896]
低ランク構造を持つ強化学習(RL)における行列推定問題について検討した。
低ランク帯では、回収される行列は期待される腕の報酬を指定し、低ランクマルコフ決定プロセス(MDP)では、例えばMDPの遷移カーネルを特徴付ける。
簡単なスペクトルベースの行列推定手法は,行列の特異部分空間を効率よく復元し,ほぼ最小の入力誤差を示すことを示す。
論文 参考訳(メタデータ) (2023-10-10T17:06:41Z) - Large-scale gradient-based training of Mixtures of Factor Analyzers [67.21722742907981]
本稿では,勾配降下による高次元学習を効果的に行うための理論解析と新しい手法の両立に寄与する。
MFAトレーニングと推論/サンプリングは,学習終了後の行列逆変換を必要としない精度行列に基づいて行うことができることを示す。
理論解析と行列の他に,SVHNやMNISTなどの画像データセットにMFAを適用し,サンプル生成と外乱検出を行う能力を示す。
論文 参考訳(メタデータ) (2023-08-26T06:12:33Z) - Multi-modal Multi-view Clustering based on Non-negative Matrix
Factorization [0.0]
本稿では,マルチモーダルクラスタリングアルゴリズムについて検討し,マルチモーダル・マルチビュー非負行列分解法を提案する。
実験の結果,様々なデータセットを用いて評価した提案手法の有効性が示された。
論文 参考訳(メタデータ) (2023-08-09T08:06:03Z) - MinT: Boosting Generalization in Mathematical Reasoning via Multi-View
Fine-Tuning [53.90744622542961]
数学領域における推論は、小言語モデル(LM)にとって重要な課題である。
多様なアノテーションスタイルで既存の数学的問題データセットを利用する新しい手法を提案する。
実験結果から,LLaMA-7Bモデルが先行手法より優れていることが示された。
論文 参考訳(メタデータ) (2023-07-16T05:41:53Z) - Multi-constrained Symmetric Nonnegative Latent Factor Analysis for
Accurately Representing Large-scale Undirected Weighted Networks [2.1797442801107056]
ビッグデータ関連アプリケーションでは、Undirected Weighted Network (UWN) が頻繁に発生する。
解析モデルは、UWNの固有対称性を記述するために、その対称性トポロジーを慎重に考慮する必要がある。
本稿では,2次元アイデアを用いた多制約対称性非負遅延要素分析モデルを提案する。
論文 参考訳(メタデータ) (2023-06-06T14:13:16Z) - Multi-view Data Visualisation via Manifold Learning [0.03222802562733786]
本論文は, 学生のT分散SNE, LLE, ISOMAPの拡張を提案し, 多視点データの次元的縮小と可視化を可能にする。
マルチビューマニホールド学習手法で得られた低次元埋め込みをK平均アルゴリズムに組み込むことにより、サンプルのクラスタを正確に特定できることを示した。
論文 参考訳(メタデータ) (2021-01-17T19:54:36Z) - Kernel learning approaches for summarising and combining posterior
similarity matrices [68.8204255655161]
我々は,ベイズクラスタリングモデルに対するMCMCアルゴリズムの出力を要約するための新しいアプローチを提案するために,後部類似性行列(PSM)の概念を構築した。
我々の研究の重要な貢献は、PSMが正の半定値であり、したがって確率的に動機付けられたカーネル行列を定義するのに使用できることである。
論文 参考訳(メタデータ) (2020-09-27T14:16:14Z) - Federated Multi-view Matrix Factorization for Personalized
Recommendations [53.74747022749739]
本稿では,フェデレートされた学習フレームワークを,複数のデータソースを用いた行列分解に拡張する,フェデレートされたマルチビュー行列分解手法を提案する。
本手法では,ユーザの個人情報を中央サーバに転送することなく,マルチビューモデルを学習することができる。
論文 参考訳(メタデータ) (2020-04-08T21:07:50Z) - Orthogonal Inductive Matrix Completion [25.03115399173275]
本稿では,正則な側情報項の和に基づいて,行列補完に対する解釈可能なアプローチを提案する。
提案手法は,確率的に収束するアルゴリズムにより最適化する。
我々は,OMICの性能を複数の合成および実データに対して解析する。
論文 参考訳(メタデータ) (2020-04-03T16:21:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。