Fugu-MT 論文翻訳(概要): Space Decomposition for Sentence Embedding

論文の概要: Space Decomposition for Sentence Embedding

arxiv url: http://arxiv.org/abs/2406.03125v1
Date: Wed, 5 Jun 2024 10:20:10 GMT
ステータス: 処理完了
システム内更新日: 2024-06-06 18:59:55.869908
Title: Space Decomposition for Sentence Embedding
Title（参考訳）: 文埋め込みのための空間分解
Authors: Wuttikorn Ponwitayarat, Peerat Limkonchotiwat, Ekapol Chuangsuwanich, Sarana Nutanong,
Abstract要約: 本稿では,MixSPと呼ばれる新しい埋め込み空間分解法を提案する。上位と下位のサンプルを正確に識別・ランク付けするように設計されている。実験の結果,MixSPは上位クラスと下位クラスの重複表現を著しく低減した。
参考スコア（独自算出の注目度）: 12.538707746802853
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Determining sentence pair similarity is crucial for various NLP tasks. A common technique to address this is typically evaluated on a continuous semantic textual similarity scale from 0 to 5. However, based on a linguistic observation in STS annotation guidelines, we found that the score in the range [4,5] indicates an upper-range sample, while the rest are lower-range samples. This necessitates a new approach to treating the upper-range and lower-range classes separately. In this paper, we introduce a novel embedding space decomposition method called MixSP utilizing a Mixture of Specialized Projectors, designed to distinguish and rank upper-range and lower-range samples accurately. The experimental results demonstrate that MixSP decreased the overlap representation between upper-range and lower-range classes significantly while outperforming competitors on STS and zero-shot benchmarks.
Abstract（参考訳）: 文対類似性の決定は様々なNLPタスクに不可欠である。この問題に対処する一般的な手法は、典型的には0から5までの連続的な意味的テキスト類似度尺度で評価される。しかし,STSガイドラインの言語学的観察から,[4,5]の範囲のスコアは上位のサンプルを示し,残りは下位のサンプルであることがわかった。これは、アッパーレンジクラスとローレンジクラスを別々に扱う新しいアプローチを必要とする。本稿では, 特殊プロジェクタの混合を利用したMixSPと呼ばれる新しい埋め込み空間分解手法を提案する。実験の結果,MixSPは,STSおよびゼロショットベンチマークにおいて,上位クラスと下位クラスとの重複表現を著しく低減し,ライバルよりも優れていた。

関連論文リスト

On high-dimensional modifications of the nearest neighbor classifier [0.0]
本稿では,これらの既存手法について考察し,新しい手法を提案する。提案手法の実証的性能と既存手法との比較を行うため,いくつかのシミュレーションおよびベンチマークデータセットを分析した。
論文参考訳（メタデータ） (2024-07-06T17:53:53Z)
Shrinking Class Space for Enhanced Certainty in Semi-Supervised Learning [59.44422468242455]
そこで我々はShrinkMatchと呼ばれる新しい手法を提案し、不確実なサンプルを学習する。それぞれの不確実なサンプルに対して、元の Top-1 クラスを単に含むスランク類空間を適応的に求める。次に、スランク空間における強と弱に強化された2つのサンプル間の整合正則化を課し、識別的表現を試みます。
論文参考訳（メタデータ） (2023-08-13T14:05:24Z)
Structured Voronoi Sampling [61.629198273926676]
本稿では,勾配に基づく手法を用いた言語モデルから抽出する原理的アプローチの構築に向けて重要な一歩を踏み出す。我々は勾配に基づく構造ヴォロノイサンプリング(Structured Voronoi Smpling, SVS)と呼ぶ。制御された生成タスクでは、SVSは流動的で多様なサンプルを生成できるが、制御対象は他の方法よりもはるかに優れている。
論文参考訳（メタデータ） (2023-06-05T17:32:35Z)
Deep Metric Learning Assisted by Intra-variance in A Semi-supervised View of Learning [0.0]
ディープ・メトリック・ラーニングは、異なるクラスのサンプルが互いに遠く離れているのに対して、同じクラスのサンプルが互いに近い埋め込み空間を構築することを目的としている。本稿では,従来の教師付き深度学習のためのクラス内分散学習スキームの半教師付きビューを提供する自己教師付き生成支援ランキングフレームワークを設計する。
論文参考訳（メタデータ） (2023-04-21T13:30:32Z)
Local overlap reduction procedure for dynamic ensemble selection [13.304462985219237]
クラス不均衡は、分類モデルにおいて学習をより困難にすることで知られる特徴である。分類過程における局所クラス重複の影響を最小限に抑えるDS手法を提案する。実験の結果,提案手法はベースラインを著しく上回ることがわかった。
論文参考訳（メタデータ） (2022-06-16T21:31:05Z)
Imbalanced Classification via a Tabular Translation GAN [4.864819846886142]
本稿では,多数のサンプルを対応する合成マイノリティ標本にマッピングするために,新たな正規化損失を用いたジェネレーティブ・アドバイサル・ネットワークに基づくモデルを提案する。提案手法は, 再加重法やオーバーサンプリング法と比較して, 平均精度を向上することを示す。
論文参考訳（メタデータ） (2022-04-19T06:02:53Z)
Minibatch vs Local SGD with Shuffling: Tight Convergence Bounds and Beyond [63.59034509960994]
シャッフルに基づく変種(ミニバッチと局所ランダムリシャッフル)について検討する。ポリアック・ロジャシエヴィチ条件を満たす滑らかな函数に対して、これらのシャッフル型不変量(英語版)(shuffling-based variants)がそれらの置換式よりも早く収束することを示す収束境界を得る。我々は, 同期シャッフル法と呼ばれるアルゴリズムの修正を提案し, ほぼ均一な条件下では, 下界よりも収束速度が速くなった。
論文参考訳（メタデータ） (2021-10-20T02:25:25Z)
A Novel Adaptive Minority Oversampling Technique for Improved Classification in Data Imbalanced Scenarios [23.257891827728827]
異なるクラスに属するトレーニングサンプルの割合の不均衡は、しばしば従来の分類器の性能低下を引き起こす。不均衡なデータに対処する新しい3ステップ手法を提案する。
論文参考訳（メタデータ） (2021-03-24T09:58:02Z)
Jo-SRC: A Contrastive Approach for Combating Noisy Labels [58.867237220886885]
Jo-SRC (Joint Sample Selection and Model Regularization based on Consistency) というノイズロバスト手法を提案する。具体的には、対照的な学習方法でネットワークをトレーニングする。各サンプルの2つの異なるビューからの予測は、クリーンまたは分布不足の「可能性」を推定するために使用されます。
論文参考訳（メタデータ） (2021-03-24T07:26:07Z)
Contrastive Prototype Learning with Augmented Embeddings for Few-Shot Learning [58.2091760793799]
拡張埋め込み(CPLAE)モデルを用いた新しいコントラスト型プロトタイプ学習を提案する。クラスプロトタイプをアンカーとして、CPLは、同じクラスのクエリサンプルを、異なるクラスのサンプルを、さらに遠くに引き出すことを目的としている。いくつかのベンチマークによる大規模な実験により,提案したCPLAEが新たな最先端を実現することが示された。
論文参考訳（メタデータ） (2021-01-23T13:22:44Z)
Multi-View Spectral Clustering Tailored Tensor Low-Rank Representation [105.33409035876691]
本稿では,テンソル低ランクモデルに基づくマルチビュースペクトルクラスタリング(MVSC)の問題について検討する。 MVSCに適合する新しい構造テンソル低ランクノルムを設計する。提案手法は最先端の手法よりもかなり優れていることを示す。
論文参考訳（メタデータ） (2020-04-30T11:52:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。