論文の概要: No Pairs Left Behind: Improving Metric Learning with Regularized Triplet
Objective
- arxiv url: http://arxiv.org/abs/2210.09506v1
- Date: Tue, 18 Oct 2022 00:56:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-19 13:27:17.811361
- Title: No Pairs Left Behind: Improving Metric Learning with Regularized Triplet
Objective
- Title(参考訳): 後ろにペアが残らない:正規化トリプルト目的によるメトリック学習の改善
- Authors: A. Ali Heydari, Naghmeh Rezaei, Daniel J. McDuff, Javier L. Prieto
- Abstract要約: サンプルマイニングやオーバーヘッドコストを伴わずにメートル法学習を改善する三重項目的関数の新たな定式化を提案する。
提案手法は,従来の3重項対象の定式化によって改善されていることを示す。
- 参考スコア(独自算出の注目度): 19.32706951298244
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose a novel formulation of the triplet objective function that
improves metric learning without additional sample mining or overhead costs.
Our approach aims to explicitly regularize the distance between the positive
and negative samples in a triplet with respect to the anchor-negative distance.
As an initial validation, we show that our method (called No Pairs Left Behind
[NPLB]) improves upon the traditional and current state-of-the-art triplet
objective formulations on standard benchmark datasets. To show the
effectiveness and potentials of NPLB on real-world complex data, we evaluate
our approach on a large-scale healthcare dataset (UK Biobank), demonstrating
that the embeddings learned by our model significantly outperform all other
current representations on tested downstream tasks. Additionally, we provide a
new model-agnostic single-time health risk definition that, when used in tandem
with the learned representations, achieves the most accurate prediction of
subjects' future health complications. Our results indicate that NPLB is a
simple, yet effective framework for improving existing deep metric learning
models, showcasing the potential implications of metric learning in more
complex applications, especially in the biological and healthcare domains.
- Abstract(参考訳): サンプルマイニングやオーバーヘッドコストを伴わずにメートル法学習を改善する三重項目的関数の新たな定式化を提案する。
提案手法は, アンカー負距離に対して, 三重項中の正試料と負試料との距離を明示的に調整することを目的としている。
最初の検証として,我々の手法(No Pairs Left Behind [NPLB])が標準ベンチマークデータセット上での従来の3重項客観的な定式化を改善することを示す。
実世界の複雑なデータに対するNPLBの有効性と可能性を示すため、我々は大規模医療データセット(UK Biobank)へのアプローチを評価し、我々のモデルによって得られた埋め込みが、テストされた下流タスクにおける他のすべての現在の表現よりも大幅に優れていることを示した。
さらに,モデル非依存な1時間健康リスク定義を提供し,学習表現と組み合わせて使用すると,被検者の将来的健康合併症の予測精度が向上する。
以上の結果から,nplbは,既存の深層メトリック学習モデルを改善するための単純かつ効果的なフレームワークであり,特に生物領域や医療領域において,より複雑なアプリケーションにおけるメトリック学習の潜在的意義を示している。
関連論文リスト
- On Machine Learning Approaches for Protein-Ligand Binding Affinity Prediction [2.874893537471256]
本研究では,タンパク質-リガンド結合親和性予測における古典的木モデルと高度なニューラルネットワークの性能を評価する。
2次元モデルと3次元モデルを組み合わせることで、現在の最先端のアプローチを超えて、アクティブな学習結果が向上することを示す。
論文 参考訳(メタデータ) (2024-07-15T13:06:00Z) - ACTRESS: Active Retraining for Semi-supervised Visual Grounding [52.08834188447851]
前回の研究であるRefTeacherは、疑似自信と注意に基づく監督を提供するために教師学生の枠組みを採用することで、この課題に取り組むための最初の試みである。
このアプローチは、Transformerベースのパイプラインに従う現在の最先端のビジュアルグラウンドモデルと互換性がない。
本稿では, ACTRESS を略したセミスーパービジョン視覚グラウンドのためのアクティブ・リトレーニング手法を提案する。
論文 参考訳(メタデータ) (2024-07-03T16:33:31Z) - Rethinking Model Prototyping through the MedMNIST+ Dataset Collection [0.11999555634662634]
本研究は,MedMNIST+データベースに対する評価環境の多様化のためのベンチマークを示す。
我々は、医用画像分類のための共通畳み込みニューラルネットワーク(CNN)とトランスフォーマーベースのアーキテクチャを徹底的に分析する。
この結果から,計算効率のよいトレーニングスキームと最新の基礎モデルは,高額なエンドツーエンドトレーニングとリソース強化アプローチのギャップを埋める上で有望であることが示唆された。
論文 参考訳(メタデータ) (2024-04-24T10:19:25Z) - Improving Biomedical Entity Linking with Retrieval-enhanced Learning [53.24726622142558]
$k$NN-BioELは、トレーニングコーパス全体から同様のインスタンスを予測のヒントとして参照する機能を備えたBioELモデルを提供する。
k$NN-BioELは、いくつかのデータセットで最先端のベースラインを上回ります。
論文 参考訳(メタデータ) (2023-12-15T14:04:23Z) - Stabilizing Subject Transfer in EEG Classification with Divergence
Estimation [17.924276728038304]
脳波分類タスクを記述するためのグラフィカルモデルをいくつか提案する。
理想的な訓練シナリオにおいて真であるべき統計的関係を同定する。
我々は、これらの関係を2段階で強制する正規化罰則を設計する。
論文 参考訳(メタデータ) (2023-10-12T23:06:52Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳(メタデータ) (2022-06-15T19:10:35Z) - Real-time landmark detection for precise endoscopic submucosal
dissection via shape-aware relation network [51.44506007844284]
内視鏡下粘膜下郭清術における高精度かつリアルタイムなランドマーク検出のための形状認識型関係ネットワークを提案する。
まず,ランドマーク間の空間的関係に関する先行知識を直感的に表現する関係キーポイント・ヒートマップを自動生成するアルゴリズムを考案する。
次に、事前知識を学習プロセスに段階的に組み込むために、2つの補完的な正規化手法を開発する。
論文 参考訳(メタデータ) (2021-11-08T07:57:30Z) - Intermediate Layers Matter in Momentum Contrastive Self Supervised
Learning [1.933681537640272]
自己教師付き学習において,画像の2つの拡張版を中間層で表現することで,モーメントコントラスト(MoCo)法の改善が期待できることを示す。
特徴類似性分析とレイヤワイズ探索を用いて,新しい手法を用いて学習したモデルを分析する。
論文 参考訳(メタデータ) (2021-10-27T22:40:41Z) - Consistency and Monotonicity Regularization for Neural Knowledge Tracing [50.92661409499299]
人間の知識獲得を追跡する知識追跡(KT)は、オンライン学習と教育におけるAIの中心的なコンポーネントです。
本稿では, 新たなデータ拡張, 代替, 挿入, 削除の3種類と, 対応する正規化損失を提案する。
さまざまなKTベンチマークに関する広範な実験は、私たちの正規化スキームがモデルのパフォーマンスを一貫して改善することを示しています。
論文 参考訳(メタデータ) (2021-05-03T02:36:29Z) - S^3-Rec: Self-Supervised Learning for Sequential Recommendation with
Mutual Information Maximization [104.87483578308526]
本稿では,シーケンスレコメンデーションのための自己改善学習のためのモデルS3-Recを提案する。
そこで本稿では,属性,項目,サブシーケンス,シーケンス間の相関関係を学習するために,4つの補助的自己教師対象を考案する。
6つの実世界のデータセットで実施された大規模な実験は、既存の最先端手法よりも提案手法が優れていることを示す。
論文 参考訳(メタデータ) (2020-08-18T11:44:10Z) - Robustly Pre-trained Neural Model for Direct Temporal Relation
Extraction [10.832917897850361]
BERT (Bidirectional Representation using Transformer) のいくつかの変種について検討した。
2012 i2b2 時間関係課題データセットのセマンティックな部分集合である直接時間関係データセットを用いて,これらの手法の評価を行った。
結果: 10倍のコーパスを含む事前学習戦略を取り入れたRoBERTaは,F値の絶対スコア(1.00スケール)を0.0864改善し,SVMモデルで達成した従来の最先端性能と比較して誤差率を24%低減した。
論文 参考訳(メタデータ) (2020-04-13T22:01:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。