論文の概要: Towards Self-Adaptive Metric Learning On the Fly
- arxiv url: http://arxiv.org/abs/2104.01495v1
- Date: Sat, 3 Apr 2021 23:11:52 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-06 14:47:50.152967
- Title: Towards Self-Adaptive Metric Learning On the Fly
- Title(参考訳): 自己適応型メトリクス学習を目指して
- Authors: Yang Gao, Yi-Fan Li, Swarup Chandra, Latifur Khan, Bhavani
Thuraisingham
- Abstract要約: 我々は,適応的メトリック関数をオンザフライで学習する上で,オンライン適応メトリック学習(OAML)のオープンな課題に対処することを目指している。
従来のオンラインメトリック学習とは異なり、学習されたメトリックは非線形であり、モデルは自己適応的である必要があるため、OAMLははるかに困難である。
制約の流れから適応モデルの複雑性を備えたANNベースのメトリクスを学習することで、この課題に取り組む新しいオンラインメトリック学習フレームワークを紹介します。
- 参考スコア(独自算出の注目度): 16.61982837441342
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Good quality similarity metrics can significantly facilitate the performance
of many large-scale, real-world applications. Existing studies have proposed
various solutions to learn a Mahalanobis or bilinear metric in an online
fashion by either restricting distances between similar (dissimilar) pairs to
be smaller (larger) than a given lower (upper) bound or requiring similar
instances to be separated from dissimilar instances with a given margin.
However, these linear metrics learned by leveraging fixed bounds or margins may
not perform well in real-world applications, especially when data distributions
are complex. We aim to address the open challenge of "Online Adaptive Metric
Learning" (OAML) for learning adaptive metric functions on the fly. Unlike
traditional online metric learning methods, OAML is significantly more
challenging since the learned metric could be non-linear and the model has to
be self-adaptive as more instances are observed. In this paper, we present a
new online metric learning framework that attempts to tackle the challenge by
learning an ANN-based metric with adaptive model complexity from a stream of
constraints. In particular, we propose a novel Adaptive-Bound Triplet Loss
(ABTL) to effectively utilize the input constraints and present a novel
Adaptive Hedge Update (AHU) method for online updating the model parameters. We
empirically validate the effectiveness and efficacy of our framework on various
applications such as real-world image classification, facial verification, and
image retrieval.
- Abstract(参考訳): 高品質な類似度メトリクスは、多くの大規模な実世界のアプリケーションのパフォーマンスを著しく向上させる。
既存の研究では、類似(異種)のペア間の距離を与えられた下限(上限)よりも小さい(大きい)ように制限するか、類似のインスタンスを与えられたマージンを持つ異種(異種)のインスタンスから切り離すかで、マハラノビスまたは双線型計量をオンライン的に学習する様々な方法が提案されている。
しかし、固定境界やマージンを利用して学んだこれらの線形メトリクスは、現実のアプリケーション、特にデータ分布が複雑である場合にはうまく機能しない。
適応メトリック関数をオンザフライで学習する上で,オンライン適応メトリック学習(OAML)のオープンな課題に対処することを目指している。
従来のオンラインメトリック学習法とは異なり、OAMLは学習されたメトリックが非線形であり、より多くのインスタンスが観察されるにつれてモデルが自己適応的である必要があるため、かなり難しい。
本稿では,制約の流れから適応的なモデル複雑性を持つANNベースのメトリクスを学習することで,課題に対処する新しいオンラインメトリック学習フレームワークを提案する。
特に,入力制約を効果的に活用するための新しいAdaptive-Bound Triplet Loss (ABTL) を提案し,モデルパラメータをオンライン更新するための新しいAdaptive Hedge Update (AHU) 手法を提案する。
実世界の画像分類,顔認証,画像検索など,様々なアプリケーションにおけるフレームワークの有効性と有効性を実証的に検証した。
関連論文リスト
- Unlearning with Control: Assessing Real-world Utility for Large Language Model Unlearning [97.2995389188179]
最近の研究は、勾配上昇(GA)を通した大規模言語モデル(LLM)の未学習にアプローチし始めている。
その単純さと効率性にもかかわらず、我々はGAベースの手法が過剰な未学習の傾向に直面することを示唆している。
過剰な未学習の度合いを制御できるいくつかの制御手法を提案する。
論文 参考訳(メタデータ) (2024-06-13T14:41:00Z) - AQUILA: Communication Efficient Federated Learning with Adaptive
Quantization in Device Selection Strategy [27.443439653087662]
本稿では,これらの問題に対処するために考案された新しい適応型フレームワークであるAQUILA(Adaptive Quantization in Device selection Strategy)を紹介する。
AQUILAは、デバイス更新の品質と有用性を優先する高度なデバイス選択方法を統合する。
実験の結果,AQUILAは既存の手法に比べて通信コストを大幅に削減できることがわかった。
論文 参考訳(メタデータ) (2023-08-01T03:41:47Z) - An Adaptive Plug-and-Play Network for Few-Shot Learning [12.023266104119289]
少数のサンプルから学んだ後、新しいサンプルを分類するモデルが必要である。
ディープネットワークと複雑なメトリクスはオーバーフィッティングを引き起こす傾向があり、パフォーマンスをさらに改善することは困難である。
プラグアンドプレイ型モデル適応型リサイザ (MAR) とアダプティブ類似度測定器 (ASM) をその他の損失なく提案する。
論文 参考訳(メタデータ) (2023-02-18T13:25:04Z) - MACE: An Efficient Model-Agnostic Framework for Counterfactual
Explanation [132.77005365032468]
MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。
MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。
公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
論文 参考訳(メタデータ) (2022-05-31T04:57:06Z) - Adaptive Fairness-Aware Online Meta-Learning for Changing Environments [29.073555722548956]
公正を意識したオンライン学習フレームワークは、継続的な生涯学習環境のための強力なツールとして生まれてきた。
既存の手法は、データに対するi.i.dの仮定を多用し、フレームワークに静的な後悔の分析を提供する。
バイアス制御とモデル精度の両方で変化する環境に適応できる適応的公平性を考慮したオンラインメタ学習アルゴリズムであるFairSAOMLを提案する。
論文 参考訳(メタデータ) (2022-05-20T15:29:38Z) - Adaptive Hierarchical Similarity Metric Learning with Noisy Labels [138.41576366096137]
適応的階層的類似度メトリック学習法を提案する。
ノイズに敏感な2つの情報、すなわち、クラスワイドのばらつきとサンプルワイドの一貫性を考える。
提案手法は,現在の深層学習手法と比較して,最先端の性能を実現する。
論文 参考訳(メタデータ) (2021-10-29T02:12:18Z) - Low-Rank Robust Online Distance/Similarity Learning based on the
Rescaled Hinge Loss [0.34376560669160383]
既存のオンライン手法では、トレーニング三つ子やペアの制約が事前に存在すると仮定することが多い。
オンライン距離相似学習問題を,ロバストな再スケールヒンジ損失関数を用いて定式化する。
提案モデルは比較的汎用的で,任意のPAベースのオンラインディスタンス・シミュラリティアルゴリズムに適用可能である。
論文 参考訳(メタデータ) (2020-10-07T08:38:34Z) - Optimization-driven Machine Learning for Intelligent Reflecting Surfaces
Assisted Wireless Networks [82.33619654835348]
インテリジェントサーフェス(IRS)は、個々の散乱素子の位相シフトを制御して無線チャネルを再形成するために用いられる。
散乱素子の規模が大きいため、受動ビームフォーミングは一般に高い計算複雑性によって挑戦される。
本稿では、IRS支援無線ネットワークの性能向上のための機械学習(ML)アプローチに焦点を当てる。
論文 参考訳(メタデータ) (2020-08-29T08:39:43Z) - ECML: An Ensemble Cascade Metric Learning Mechanism towards Face
Verification [50.137924223702264]
特に、階層的メートル法学習はカスケード方式で実行され、不適合を緩和する。
顔の特徴分布特性を考慮し, 閉形解を用いたロバストなマハラノビス計量学習法(RMML)を提案する。
EC-RMMLは、顔認証のための最先端のメトリック学習法よりも優れている。
論文 参考訳(メタデータ) (2020-07-11T08:47:07Z) - A Multilayer Framework for Online Metric Learning [71.31889711244739]
本稿では,インスタンス間の非線形類似性を捉えるために,オンラインメトリック学習のための多層フレームワークを提案する。
マハラノビスをベースとした新しいオンラインメトリックラーニング(MOML)アルゴリズムは、受動攻撃戦略とワンパス三重項構築戦略に基づいて提案される。
提案したMLOMLは、いくつかの優れた特性を享受し、実際にメトリクスを漸進的に学習し、ベンチマークデータセットでより良いパフォーマンスを発揮する。
論文 参考訳(メタデータ) (2018-05-15T01:10:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。