論文の概要: Maintaining Difficulty: A Margin Scheduler for Triplet Loss in Siamese Networks Training
- arxiv url: http://arxiv.org/abs/2603.26389v1
- Date: Fri, 27 Mar 2026 13:15:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-30 21:49:48.512729
- Title: Maintaining Difficulty: A Margin Scheduler for Triplet Loss in Siamese Networks Training
- Title(参考訳): 難易度維持:シームズネットワークトレーニングにおけるトリプルト損失のマージンスケジューリング
- Authors: Roberto Sprengel Minozzo Tomchak, Oge Marques, Lucas Garcia Pedroso, Luiz Eduardo Oliveira, Paulo Lisboa de Almeida,
- Abstract要約: 我々は、多くの三重項の有効マージンが、しばしば .NET の事前定義された値を超えていることを示します。
それぞれのエポックで観測される容易な三重項の割合に応じて値を調整するマージンスケジューラを提案する。
提案手法は, 一定マージンと単調に増大するマージンスキームの両方と比較して, 性能改善につながることを示す。
- 参考スコア(独自算出の注目度): 2.1204495827342433
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Triplet Margin Ranking Loss is one of the most widely used loss functions in Siamese Networks for solving Distance Metric Learning (DML) problems. This loss function depends on a margin parameter μ, which defines the minimum distance that should separate positive and negative pairs during training. In this work, we show that, during training, the effective margin of many triplets often exceeds the predefined value of μ, provided that a sufficient number of triplets violating this margin is observed. This behavior indicates that fixing the margin throughout training may limit the learning process. Based on this observation, we propose a margin scheduler that adjusts the value of μ according to the proportion of easy triplets observed at each epoch, with the goal of maintaining training difficulty over time. We show that the proposed strategy leads to improved performance when compared to both a constant margin and a monotonically increasing margin scheme. Experimental results on four different datasets show consistent gains in verification performance.
- Abstract(参考訳): Triplet Margin Ranking Lossは、DML(Distance Metric Learning)問題を解決するために、Siamese Networksにおいて最も広く使われている損失関数の1つである。
この損失関数は、トレーニング中に正と負のペアを分離すべき最小距離を定義するマージンパラメータ μ に依存する。
本研究は、トレーニング中、多くの三重項の有効マージンが μ の既定値を超えることがあり、このマージンに違反する三重項の数が十分であることを示す。
この振る舞いは、トレーニング全体でのマージンの修正が学習プロセスを制限する可能性があることを示している。
本研究は,各エポックで観測される容易な三重項の割合に応じてμの値を調整するマージンスケジューラを提案する。
提案手法は, 一定マージンと単調に増大するマージンスキームの両方と比較して, 性能改善につながることを示す。
4つの異なるデータセットの実験結果から,検証性能が一貫した向上を示した。
関連論文リスト
- Comparing Contrastive and Triplet Loss: Variance Analysis and Optimization Behavior [2.608092703580602]
3重項の損失はクラス内およびクラス間の大きな分散を保ち、学習された表現においてよりきめ細かい区別をサポートすることを示す。
対照的に、対照的な損失はクラス内埋め込みをコンパクトにする傾向があり、微妙な意味的差異が曖昧になる。
対照的な損失が多くの小さな更新を早期に引き起こすのに対して、トリプルト損失はより少ないがより強力な更新を発生させ、ハードな例での学習を持続させる。
論文 参考訳(メタデータ) (2025-10-02T16:11:46Z) - Long-Tail Learning with Rebalanced Contrastive Loss [1.4443576276330394]
本稿では、長い尾の分類精度を高めるための効率的な方法であるRe Balanced Contrastive Learning(RCL)を提案する。
RCLは、特徴空間のバランス性、クラス内コンパクト性、正規化の3つの主な側面に対処する。
3つのベンチマークデータセットに対する実験では、学習した埋め込みの豊かさと、BCLフレームワークに提供されるトップ1バランスの精度の向上が示されている。
論文 参考訳(メタデータ) (2023-12-04T09:27:03Z) - Tuned Contrastive Learning [77.67209954169593]
そこで本研究では,TCL(Tuned Contrastive Learning)損失という,新たなコントラスト損失関数を提案する。
TCLはバッチ内の複数の正と負に一般化し、ハードな正とハードな負の勾配応答を調整および改善するためのパラメータを提供する。
我々は、TCLを自己教師付き設定に拡張する方法を示し、それを様々なSOTA自己教師型学習手法と経験的に比較する。
論文 参考訳(メタデータ) (2023-05-18T03:26:37Z) - Scaling Multimodal Pre-Training via Cross-Modality Gradient
Harmonization [68.49738668084693]
自己教師付き事前学習は、最近、大規模マルチモーダルデータで成功している。
クロスモダリティアライメント(CMA)は、弱くノイズの多い監視である。
CMAは、モダリティ間の衝突や偏見を引き起こす可能性がある。
論文 参考訳(メタデータ) (2022-11-03T18:12:32Z) - Do Lessons from Metric Learning Generalize to Image-Caption Retrieval? [67.45267657995748]
半ハードな負のトリプルト損失は、スクラッチから最適化されたイメージキャプション検索(ICR)メソッドのデファクト選択となっている。
近年のメトリクス学習の進歩により、画像検索や表現学習といったタスクにおいて、三重項損失を上回る新たな損失関数が生まれている。
これらの結果は,2つのICR法における3つの損失関数を比較することで,ICRの設定に一般化するかどうかを問う。
論文 参考訳(メタデータ) (2022-02-14T15:18:00Z) - Mixing between the Cross Entropy and the Expectation Loss Terms [89.30385901335323]
クロスエントロピー損失は、トレーニング中にサンプルを分類するのが難しくなる傾向にある。
最適化目標に期待損失を加えることで,ネットワークの精度が向上することを示す。
実験により,新しいトレーニングプロトコルにより,多様な分類領域における性能が向上することが示された。
論文 参考訳(メタデータ) (2021-09-12T23:14:06Z) - Deep Ranking with Adaptive Margin Triplet Loss [5.220120772989114]
本稿では,固定利得三重項損失から適応利得三重項損失への簡単な修正を提案する。
提案した損失は,評価値が連続値である評価データセットに適している。
論文 参考訳(メタデータ) (2021-07-13T15:37:20Z) - Multi-level Distance Regularization for Deep Metric Learning [20.178765779788492]
MDR(Multi-level Distance Regularization)と呼ばれる深度学習のための距離に基づく新しい正規化手法を提案する。
MDRは、埋め込みベクトル間のペアワイズ距離を複数のレベルに調整することで、学習手順を明示的に妨害する。
我々のMDRを簡単に採用することで、従来のアプローチは性能と一般化能力を向上させることができる。
論文 参考訳(メタデータ) (2021-02-08T14:16:07Z) - Towards Certified Robustness of Distance Metric Learning [53.96113074344632]
我々は,距離学習アルゴリズムの一般化とロバスト性を改善するために,入力空間に逆のマージンを付与することを提唱する。
アルゴリズム的ロバスト性の理論手法を用いることにより,拡張マージンは一般化能力に有益であることを示す。
論文 参考訳(メタデータ) (2020-06-10T16:51:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。