論文の概要: Rank-N-Contrast: Learning Continuous Representations for Regression
- arxiv url: http://arxiv.org/abs/2210.01189v2
- Date: Tue, 10 Oct 2023 02:03:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-13 16:09:56.087197
- Title: Rank-N-Contrast: Learning Continuous Representations for Regression
- Title(参考訳): Rank-N-Contrast: 回帰の継続的表現を学ぶ
- Authors: Kaiwen Zha, Peng Cao, Jeany Son, Yuzhe Yang, Dina Katabi
- Abstract要約: Rank-N-Contrast(RNC)は、ターゲット空間のランクに基づいて、サンプルを互いに対比することで、回帰の連続的な表現を学習するフレームワークである。
RNCは、学習された表現の望ましい順序を目標命令に従って保証する。
RNCは最先端のパフォーマンスを達成し、データ効率の向上、ターゲットの刺激に対する堅牢性、データの破損など、興味深い特性を強調している。
- 参考スコア(独自算出の注目度): 28.926518084216607
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep regression models typically learn in an end-to-end fashion without
explicitly emphasizing a regression-aware representation. Consequently, the
learned representations exhibit fragmentation and fail to capture the
continuous nature of sample orders, inducing suboptimal results across a wide
range of regression tasks. To fill the gap, we propose Rank-N-Contrast (RNC), a
framework that learns continuous representations for regression by contrasting
samples against each other based on their rankings in the target space. We
demonstrate, theoretically and empirically, that RNC guarantees the desired
order of learned representations in accordance with the target orders, enjoying
not only better performance but also significantly improved robustness,
efficiency, and generalization. Extensive experiments using five real-world
regression datasets that span computer vision, human-computer interaction, and
healthcare verify that RNC achieves state-of-the-art performance, highlighting
its intriguing properties including better data efficiency, robustness to
spurious targets and data corruptions, and generalization to distribution
shifts. Code is available at: https://github.com/kaiwenzha/Rank-N-Contrast.
- Abstract(参考訳): 深い回帰モデルは通常、回帰認識表現を明示的に強調することなくエンドツーエンドで学習する。
その結果、学習された表現は断片化を示し、サンプル順序の連続的な性質を捉えることができず、幅広い回帰タスクで最適以下の結果をもたらす。
このギャップを埋めるために、ターゲット空間のランキングに基づいてサンプルを互いに対比することで回帰の連続表現を学習するフレームワークである Rank-N-Contrast (RNC) を提案する。
理論的かつ実証的に、RNCは、目標命令に従って学習表現の望ましい順序を保証し、より良い性能だけでなく、堅牢性、効率、一般化を著しく改善したことを実証する。
コンピュータビジョン、ヒューマンコンピュータインタラクション、ヘルスケアにまたがる5つの実世界の回帰データセットを使用した大規模な実験は、RCNが最先端のパフォーマンスを達成することを確認し、データ効率の向上、刺激的なターゲットやデータの破損に対する堅牢性、分散シフトへの一般化といった興味深い特性を強調している。
コードは、https://github.com/kaiwenzha/Rank-N-Contrast.comで入手できる。
関連論文リスト
- Evaluating Rank-N-Contrast: Continuous and Robust Representations for Regression [0.0]
この文書は2023年に出版された『Rank-N-Contrast』(arXiv:2210.01189v2)の複製である。
論文 参考訳(メタデータ) (2024-11-25T11:31:53Z) - Contrastive Learning for Regression on Hyperspectral Data [4.931067393619175]
本稿では,ハイパースペクトルデータに対する回帰処理のためのコントラスト学習フレームワークを提案する。
合成および実超スペクトルデータセットの実験により、提案したフレームワークと変換により回帰モデルの性能が大幅に向上することが示された。
論文 参考訳(メタデータ) (2024-02-12T21:33:46Z) - Implicit Counterfactual Data Augmentation for Robust Learning [24.795542869249154]
本研究では, 突発的相関を除去し, 安定した予測を行うために, インプリシト・カウンセショナル・データ拡張法を提案する。
画像とテキストのデータセットをカバーする様々なバイアス付き学習シナリオで実験が行われてきた。
論文 参考訳(メタデータ) (2023-04-26T10:36:40Z) - GUESR: A Global Unsupervised Data-Enhancement with Bucket-Cluster
Sampling for Sequential Recommendation [58.6450834556133]
本研究では,グローバルな視点から複雑な関連性を持つ項目表現を強化するために,グラフコントラスト学習を提案する。
本稿では,CapsNetモジュールを拡張したターゲットアテンション機構により,ユーザの動的嗜好を導出する。
提案したGUESRは,大幅な改善を達成できただけでなく,汎用的な拡張戦略ともみなすことができた。
論文 参考訳(メタデータ) (2023-03-01T05:46:36Z) - Interpolation-based Correlation Reduction Network for Semi-Supervised
Graph Learning [49.94816548023729]
補間型相関低減ネットワーク(ICRN)と呼ばれる新しいグラフコントラスト学習手法を提案する。
提案手法では,決定境界のマージンを大きくすることで,潜在特徴の識別能力を向上させる。
この2つの設定を組み合わせることで、豊富なラベル付きノードと稀に価値あるラベル付きノードから豊富な監視情報を抽出し、離散表現学習を行う。
論文 参考訳(メタデータ) (2022-06-06T14:26:34Z) - Enhancing Sequential Recommendation with Graph Contrastive Learning [64.05023449355036]
本稿では、逐次推薦のためのグラフコントラスト学習(GCL4SR)という、新しいシーケンシャルレコメンデーションフレームワークを提案する。
GCL4SRは、すべてのユーザのインタラクションシーケンスに基づいて構築された重み付きアイテム遷移グラフ(WITG)を使用して、各インタラクションのグローバルなコンテキスト情報を提供し、シーケンスデータのノイズ情報を弱める。
実世界のデータセットの実験では、GCL4SRは最先端のシーケンシャルレコメンデーションメソッドよりも一貫して優れていることが示されている。
論文 参考訳(メタデータ) (2022-05-30T03:53:31Z) - Augmentation-induced Consistency Regularization for Classification [25.388324221293203]
我々はCR-Augと呼ばれるデータ拡張に基づく一貫性の規則化フレームワークを提案する。
CR-Augは、データ拡張によって生成された異なるサブモデルの出力分布を互いに整合するように強制する。
画像と音声の分類タスクにCR-Augを実装し、その有効性を検証するために広範な実験を行う。
論文 参考訳(メタデータ) (2022-05-25T03:15:36Z) - Contrastive Self-supervised Sequential Recommendation with Robust
Augmentation [101.25762166231904]
Sequential Recommendation Describes a set of technique to model dynamic user behavior to order to predict future interaction in sequence user data。
データスパーシリティやノイズの多いデータなど、古くて新しい問題はまだ残っている。
逐次レコメンデーション(CoSeRec)のためのコントラスト型自己監督学習を提案する。
論文 参考訳(メタデータ) (2021-08-14T07:15:25Z) - Adversarial Feature Augmentation and Normalization for Visual
Recognition [109.6834687220478]
最近のコンピュータビジョンの進歩は、分類モデルの一般化能力を改善するために、逆データ拡張を利用する。
本稿では,中間的特徴埋め込みにおける敵対的拡張を提唱する効率的かつ効率的な代替手法を提案する。
代表的なバックボーンネットワークを用いて,多様な視覚認識タスクにまたがる提案手法を検証する。
論文 参考訳(メタデータ) (2021-03-22T20:36:34Z) - S^3-Rec: Self-Supervised Learning for Sequential Recommendation with
Mutual Information Maximization [104.87483578308526]
本稿では,シーケンスレコメンデーションのための自己改善学習のためのモデルS3-Recを提案する。
そこで本稿では,属性,項目,サブシーケンス,シーケンス間の相関関係を学習するために,4つの補助的自己教師対象を考案する。
6つの実世界のデータセットで実施された大規模な実験は、既存の最先端手法よりも提案手法が優れていることを示す。
論文 参考訳(メタデータ) (2020-08-18T11:44:10Z) - Efficient Facial Feature Learning with Wide Ensemble-based Convolutional
Neural Networks [20.09586211332088]
畳み込みネットワークに基づく共有表現を用いたアンサンブル実験について述べる。
本研究では,ESRの分岐レベルを変化させることで,冗長性と計算負荷を劇的に低減できることを示す。
大規模なデータセットの実験では、ESRは残余の一般化誤差を減らすことが示唆されている。
論文 参考訳(メタデータ) (2020-01-17T14:32:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。