論文の概要: Online Backfilling with No Regret for Large-Scale Image Retrieval
- arxiv url: http://arxiv.org/abs/2301.03767v1
- Date: Tue, 10 Jan 2023 03:10:32 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-11 16:46:41.655975
- Title: Online Backfilling with No Regret for Large-Scale Image Retrieval
- Title（参考訳）: 大規模画像検索のためのレギュレットのないオンラインバックフィル
- Authors: Seonguk Seo, Mustafa Gokhan Uzunbas, Bohyung Han, Sara Cao, Joena
Zhang, Taipeng Tian, Ser-Nam Lim
- Abstract要約: バックフィルは、画像検索システムにおいて、アップグレードされたモデルからすべてのギャラリー埋め込みを再抽出するプロセスである。
本稿では,オンラインのバックフィルアルゴリズムを提案し,バックフィル処理の進行的な性能向上を実現する。
我々は、逆変換モジュールをより効果的で効率的なマージに組み込み、メトリック互換のコントラスト学習アプローチを採用することでさらに強化する。
- 参考スコア（独自算出の注目度）: 50.162438586686356
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Backfilling is the process of re-extracting all gallery embeddings from
upgraded models in image retrieval systems. It inevitably requires a
prohibitively large amount of computational cost and even entails the downtime
of the service. Although backward-compatible learning sidesteps this challenge
by tackling query-side representations, this leads to suboptimal solutions in
principle because gallery embeddings cannot benefit from model upgrades. We
address this dilemma by introducing an online backfilling algorithm, which
enables us to achieve a progressive performance improvement during the
backfilling process while not sacrificing the final performance of new model
after the completion of backfilling. To this end, we first propose a simple
distance rank merge technique for online backfilling. Then, we incorporate a
reverse transformation module for more effective and efficient merging, which
is further enhanced by adopting a metric-compatible contrastive learning
approach. These two components help to make the distances of old and new models
compatible, resulting in desirable merge results during backfilling with no
extra computational overhead. Extensive experiments show the effectiveness of
our framework on four standard benchmarks in various settings.
- Abstract（参考訳）: backfillingは、画像検索システムにおけるアップグレードされたモデルからすべてのギャラリー埋め込みを再抽出するプロセスである。
必然的に膨大な計算コストを必要とし、サービスのダウンタイムも伴います。
後方互換性のある学習は、クエリサイドの表現に対処することでこの課題を一歩先導するが、これは原則として、ギャラリーの埋め込みがモデルアップグレードの恩恵を受けることができないため、サブ最適ソリューションにつながる。
このジレンマに対処するために,オンラインのバックフィルングアルゴリズムを導入することで,バックフィルの完了後に新たなモデルの最終的なパフォーマンスを犠牲にすることなく,バックフィルプロセス中にプログレッシブなパフォーマンス改善を実現することができる。
そこで我々はまず,オンラインバックフィルのための単純な距離ランクマージ手法を提案する。
そして、より効率的かつ効率的なマージを実現するために、逆変換モジュールを組み込み、メトリック互換のコントラスト学習アプローチを採用することでさらに強化する。
これら2つのコンポーネントは、古いモデルと新しいモデルの距離を互換性を持たせるのに役立つ。
様々な環境で4つの標準ベンチマークにおけるフレームワークの有効性を示す広範な実験を行った。
関連論文リスト
- EnsIR: An Ensemble Algorithm for Image Restoration via Gaussian Mixture Models [70.60381055741391]
画像復元の課題は、説明された問題に関連し、単一のモデル予測と地道のずれをもたらす。
アンサンブル学習は、複数のベースモデルの予測を組み合わせることで、これらの偏差に対処することを目的としている。
我々は予測候補のアンサンブル重みを推定するために予測(EM)に基づくアルゴリズムを用いる。
我々のアルゴリズムは、モデルに依存しない訓練不要であり、様々なトレーニング済み画像復元モデルのシームレスな統合と強化を可能にする。
論文 参考訳（メタデータ） (2024-10-30T12:16:35Z) - Backward-Compatible Aligned Representations via an Orthogonal Transformation Layer [20.96380700548786]
画像検索システムは、古い表現と新しい表現のミスアライメントにより、表現が改善されたモデルを更新する際の課題に直面している。
以前の研究では、バックフィルなしで新しい表現と古い表現を直接比較できる後方互換性のあるトレーニング方法が検討されてきた。
本稿では、後方互換性と独立に訓練されたモデルの性能のバランスをとることに取り組む。
論文 参考訳（メタデータ） (2024-08-16T15:05:28Z) - Any Image Restoration with Efficient Automatic Degradation Adaptation [132.81912195537433]
本研究は, 各種劣化の相似性を有効かつ包括的修復に活用し, 共同埋設を実現する統一的な方法を提案する。
我々のネットワークは、モデルの複雑さをトレーニング可能なパラメータで約82%、FLOPで約85%削減しつつ、新しいSOTAレコードを設定している。
論文 参考訳（メタデータ） (2024-07-18T10:26:53Z) - Unified-Width Adaptive Dynamic Network for All-In-One Image Restoration [50.81374327480445]
本稿では, 複雑な画像劣化を基本劣化の観点で表現できる, という新しい概念を提案する。
We propose the Unified-Width Adaptive Dynamic Network (U-WADN) which consist of two pivotal components: a Width Adaptive Backbone (WAB) and a Width Selector (WS)。
提案したU-WADNは、最大32.3%のFLOPを同時に削減し、約15.7%のリアルタイム加速を実現している。
論文 参考訳（メタデータ） (2024-01-24T04:25:12Z) - Parameter Efficient Adaptation for Image Restoration with Heterogeneous Mixture-of-Experts [52.39959535724677]
画像復元モデルの一般化を改善するための代替手法を提案する。
ローカル,グローバル,チャネル表現ベースをキャプチャするマルチブランチ設計のMixture-of-Experts (MoE) であるAdaptIRを提案する。
我々のAdaptIRは、単一劣化タスクにおける安定した性能を実現し、8時間間、微調整はわずか0.6%のパラメータしか持たず、ハイブリッド劣化タスクにおいて優れる。
論文 参考訳（メタデータ） (2023-12-12T14:27:59Z) - FastFill: Efficient Compatible Model Update [40.27741553705222]
FastFillは、機能アライメントとポリシーベースの部分的なバックフィルを使用して、互換性のあるモデル更新プロセスである。
過去のバックフィル戦略は性能低下に悩まされており,オンライン部分補充におけるトレーニング目標と注文の重要性が示されている。
論文 参考訳（メタデータ） (2023-03-08T18:03:51Z) - Towards Universal Backward-Compatible Representation Learning [29.77801805854168]
バックフィルフリーモデルアップグレードをサポートするために、後方互換性のある表現学習が導入されている。
まず、モデルアップグレードにおいて、可能なすべてのデータ分割を網羅する、普遍的な後方互換性のある表現学習の新たな問題を導入する。
提案手法は,Universal Backward- Training (UniBCT) とよばれる,シンプルで効果的な手法である。
論文 参考訳（メタデータ） (2022-03-03T09:23:51Z) - Plug-and-Play Image Restoration with Deep Denoiser Prior [186.84724418955054]
モデルに基づく手法では,デノイザが暗黙的に画像として機能し,多くの逆問題に対処できることを示す。
非常に柔軟で効果的なCNNデノイザをトレーニングする前に、ベンチマークディープデノイザを設定しました。
次に, 2次分割に基づくイテレーティブアルゴリズムを用いて, 画像復元問題の解法を提案する。
論文 参考訳（メタデータ） (2020-08-31T17:18:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。