論文の概要: Direct Coloring for Self-Supervised Enhanced Feature Decoupling
- arxiv url: http://arxiv.org/abs/2412.02109v1
- Date: Tue, 03 Dec 2024 03:05:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-04 15:44:39.625087
- Title: Direct Coloring for Self-Supervised Enhanced Feature Decoupling
- Title(参考訳): 自己監督型特徴デカップリングのための直接色付け
- Authors: Salman Mohamadi, Gianfranco Doretto, Donald A. Adjeroh,
- Abstract要約: 表現学習を改善するために,特徴分離による白化を補完する手法を検討する。
特に、注意深い特徴着色による有用な特徴の早期促進による特徴分離を行う。
提案手法は, コントラスト法と非コントラスト法を両立させながら, 最先端技術と相補的であることを示す。
- 参考スコア(独自算出の注目度): 6.963971634605796
- License:
- Abstract: The success of self-supervised learning (SSL) has been the focus of multiple recent theoretical and empirical studies, including the role of data augmentation (in feature decoupling) as well as complete and dimensional representation collapse. While complete collapse is well-studied and addressed, dimensional collapse has only gain attention and addressed in recent years mostly using variants of redundancy reduction (aka whitening) techniques. In this paper, we further explore a complementary approach to whitening via feature decoupling for improved representation learning while avoiding representation collapse. In particular, we perform feature decoupling by early promotion of useful features via careful feature coloring. The coloring technique is developed based on a Bayesian prior of the augmented data, which is inherently encoded for feature decoupling. We show that our proposed framework is complementary to the state-of-the-art techniques, while outperforming both contrastive and recent non-contrastive methods. We also study the different effects of coloring approach to formulate it as a general complementary technique along with other baselines.
- Abstract(参考訳): 自己教師付き学習(SSL)の成功は、データ拡張(特徴デカップリングにおける)の役割や、完全かつ次元的な表現の崩壊など、最近の理論的および実証的研究の焦点となっている。
完全崩壊はよく研究され対処されているが、次元崩壊は注目され、近年では、主に冗長化(ホワイトニング)技術を用いて対処されている。
本稿では,表現の崩壊を回避しつつ,表現学習の改善を目的とした特徴分離による白化の補完的アプローチについて検討する。
特に、注意深い特徴着色による有用な特徴の早期促進による特徴分離を行う。
この着色法は,特徴デカップリングのために本質的にコード化されている拡張データのベイズ前のベイズ的手法に基づいて開発されている。
提案手法は, コントラスト法と非コントラスト法を両立させながら, 最先端技術と相補的であることを示す。
また,カラー化手法の異なる効果について検討し,他のベースラインと相補的な手法として定式化する。
関連論文リスト
- Towards Understanding Why Data Augmentation Improves Generalization [59.26137687216215]
本稿では,データ拡張が2つの重要な効果を通じて一般化を促進する方法を明らかにする統一理論フレームワークを提案する。
部分的意味的特徴除去は、モデルの個々の特徴への依存を減らし、多様な特徴学習を促進し、より一般化する。
オリジナルのセマンティック機能をスケールダウンしてノイズを導入することで、機能混在はトレーニングの複雑さを高め、より堅牢な機能を開発するためにモデルを駆動する。
論文 参考訳(メタデータ) (2025-02-13T03:41:50Z) - Unity in Diversity: Multi-expert Knowledge Confrontation and Collaboration for Generalizable Vehicle Re-identification [60.20318058777603]
一般化可能な車両再識別(ReID)は、微調整や再訓練を必要とせず、未知のターゲットドメインに適応可能なモデルの開発を目指している。
これまでの研究は主に、ソースドメイン間のデータ分散を調整することで、ドメイン不変の機能の抽出に重点を置いてきた。
そこで本研究では,この問題を解決するために,2段階のMulti-expert Knowledge Confrontation and Collaboration(MiKeCoCo)手法を提案する。
論文 参考訳(メタデータ) (2024-07-10T04:06:39Z) - Little Strokes Fell Great Oaks: Boosting the Hierarchical Features for Multi-exposure Image Fusion [18.53770637220984]
本研究では,ソース画像に埋め込まれた潜伏情報を完全に活用するためのガンマ補正モジュールを提案する。
複雑な詳細を保存しつつ、彩度を増大させる新しい色強調アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-04-09T05:44:00Z) - From Pretext to Purpose: Batch-Adaptive Self-Supervised Learning [32.18543787821028]
本稿では,自己教師付きコントラスト学習におけるバッチ融合の適応的手法を提案する。
公平な比較で最先端のパフォーマンスを達成する。
提案手法は,データ駆動型自己教師型学習研究の進展に寄与する可能性が示唆された。
論文 参考訳(メタデータ) (2023-11-16T15:47:49Z) - Learning Discriminative Shrinkage Deep Networks for Image Deconvolution [122.79108159874426]
本稿では,これらの用語を暗黙的にモデル化する識別的縮小関数を学習することで,効果的に非盲検デコンボリューション手法を提案する。
実験結果から,提案手法は最先端の手法に対して,効率と精度の点で好適に動作することがわかった。
論文 参考訳(メタデータ) (2021-11-27T12:12:57Z) - Temporally Consistent Video Colorization with Deep Feature Propagation
and Self-regularization Learning [90.38674162878496]
時間的に一貫した新しいビデオカラー化フレームワーク(TCVC)を提案する。
TCVCは、フレームレベルの深い特徴を双方向的に効果的に伝播し、色付けの時間的一貫性を高める。
実験により,本手法は視覚的に満足な色付きビデオを得るだけでなく,最先端の手法よりも時間的整合性が得られることが示された。
論文 参考訳(メタデータ) (2021-10-09T13:00:14Z) - ReSSL: Relational Self-Supervised Learning with Weak Augmentation [68.47096022526927]
自己教師付き学習は、データアノテーションなしで視覚表現を学ぶことに成功しました。
本稿では,異なるインスタンス間の関係をモデル化して表現を学習する新しいリレーショナルSSLパラダイムを提案する。
提案したReSSLは,性能とトレーニング効率の両面で,従来の最先端アルゴリズムよりも大幅に優れています。
論文 参考訳(メタデータ) (2021-07-20T06:53:07Z) - CLCC: Contrastive Learning for Color Constancy [8.418901567909499]
カラー一貫性のための新しいコントラスト学習フレームワークであるCLCCを提案する。
我々は,新規な原ドメインカラー増色法により,照度依存性の優れた特徴を学習するための効果的なコントラストペアを構築した。
提案手法は,上位のディープラーニング手法と比較して,パラメータを3倍に抑えることで,Gehlerデータセット上での競合性能を実現する。
論文 参考訳(メタデータ) (2021-06-09T11:16:31Z) - Attention-based Stylisation for Exemplar Image Colourisation [3.491870689686827]
この研究は、新しいエンドツーエンドカラーネットワークを導入する既存の方法論を改革する。
提案アーキテクチャでは,異なる解像度でアテンションモジュールを統合し,スタイル転送タスクの実行方法を学ぶ。
提案手法の有効性を実験的に検証し,高品質で視覚に訴える色彩を呈する手法を提案する。
論文 参考訳(メタデータ) (2021-05-04T18:56:26Z) - Heterogeneous Contrastive Learning: Encoding Spatial Information for
Compact Visual Representations [183.03278932562438]
本稿では,エンコーディング段階に空間情報を加えることで,対照的な目的と強いデータ拡張操作の間の学習の不整合を緩和する効果的な手法を提案する。
提案手法は,視覚表現の効率を向上し,自己指導型視覚表現学習の今後の研究を刺激する鍵となるメッセージを提供する。
論文 参考訳(メタデータ) (2020-11-19T16:26:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。