論文の概要: ACCon: Angle-Compensated Contrastive Regularizer for Deep Regression

• arxiv url: http://arxiv.org/abs/2501.07045v1
• Date: Mon, 13 Jan 2025 03:55:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-14 14:27:50.309252
• Title: ACCon: Angle-Compensated Contrastive Regularizer for Deep Regression
• Title（参考訳）: ACCon: 深部回帰のための角度補償コントラスト正規化器
• Authors: Botao Zhao, Xiaoyang Qu, Zuheng Kang, Junqing Peng, Jing Xiao, Jianzong Wang,
• Abstract要約: ディープレグレッションでは、特徴空間における連続ラベル間の関係を捉えることが、関心の高まりを惹きつけている根本的な課題である。 既存のアプローチは、しばしばオーダーアウェアな表現学習や距離に基づく重み付けに依存している。 本研究では, アンカーと負のサンプル間のコサイン距離を補正する, 深部回帰のための角度補償型コントラスト正規化器を提案する。
• 参考スコア（独自算出の注目度）: 28.491074229136014
• License:
• Abstract: In deep regression, capturing the relationship among continuous labels in feature space is a fundamental challenge that has attracted increasing interest. Addressing this issue can prevent models from converging to suboptimal solutions across various regression tasks, leading to improved performance, especially for imbalanced regression and under limited sample sizes. However, existing approaches often rely on order-aware representation learning or distance-based weighting. In this paper, we hypothesize a linear negative correlation between label distances and representation similarities in regression tasks. To implement this, we propose an angle-compensated contrastive regularizer for deep regression, which adjusts the cosine distance between anchor and negative samples within the contrastive learning framework. Our method offers a plug-and-play compatible solution that extends most existing contrastive learning methods for regression tasks. Extensive experiments and theoretical analysis demonstrate that our proposed angle-compensated contrastive regularizer not only achieves competitive regression performance but also excels in data efficiency and effectiveness on imbalanced datasets.
• Abstract（参考訳）: ディープレグレッションでは、特徴空間における連続ラベル間の関係を捉えることが、関心の高まりを惹きつけている根本的な課題である。 この問題に対処することで、モデルが様々な回帰タスクにまたがって最適でないソリューションに収束することを防ぐことができ、特に不均衡な回帰と限られたサンプルサイズでパフォーマンスが向上する。 しかし、既存のアプローチは、オーダーアウェアな表現学習や距離に基づく重み付けに依存していることが多い。 本稿では,レグレッションタスクにおけるラベル距離と表現類似性の間の線形負の相関を仮定する。 これを実現するために, アンカーと負のサンプル間のコサイン距離を, 比較学習フレームワーク内で調整する, 深部回帰のための角度補償型コントラスト正規化器を提案する。 提案手法は,既存の回帰タスクのコントラスト学習手法を拡張可能な,プラグアンドプレイ対応のソリューションを提供する。 広汎な実験と理論解析により,提案した角度補償型コントラスト正規化器は競合回帰性能を達成できるだけでなく,不均衡なデータセット上でのデータ効率と有効性も優れていることが示された。

関連論文リスト

• Distributed High-Dimensional Quantile Regression: Estimation Efficiency and Support Recovery [0.0]
  我々は高次元線形量子レグレッションのための分散推定とサポート回復に焦点をあてる。 元の量子レグレッションを最小二乗最適化に変換する。 効率的なアルゴリズムを開発し、高い計算と通信効率を享受する。
  論文  参考訳（メタデータ） (2024-05-13T08:32:22Z)
• Gradient Aligned Regression via Pairwise Losses [40.676226700035585]
  Gradient Aligned Regression (GAR) はラベル空間において競合する代替手法である。 動作時間実験は既存の手法よりも提案したGARの効率が優れていることを示す。 ノイズやアウトレーヤ、分散シフトのないクリーンなデータ設定での回帰として、現在のスコープを制限します。
  論文  参考訳（メタデータ） (2024-02-08T23:43:53Z)
• Deep Generative Symbolic Regression [83.04219479605801]
  記号回帰は、データから簡潔な閉形式数学的方程式を発見することを目的としている。 既存の手法は、探索から強化学習まで、入力変数の数に応じてスケールできない。 本稿では,我々のフレームワークであるDeep Generative Symbolic Regressionのインスタンス化を提案する。
  論文  参考訳（メタデータ） (2023-12-30T17:05:31Z)
• Mixup Your Own Pairs [22.882694278940598]
  我々は、回帰に対する対照的な学習の可能性は、2つの重要な側面(常性認識と硬さ)を無視しているため、隠蔽されていると論じる。 具体的には,Mix(SupReMix)を用いた回帰学習における教師付きコントラスト学習を提案する。 アンカー・インクルージョン混合物(アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン混合物、アンカー・インクルージョン
  論文  参考訳（メタデータ） (2023-09-28T17:38:59Z)
• Linked shrinkage to improve estimation of interaction effects in regression models [0.0]
  回帰モデルにおける双方向相互作用項によく適応する推定器を開発する。 我々は,選択戦略では難しい推論モデルの可能性を評価する。 私たちのモデルは、かなり大きなサンプルサイズであっても、ランダムな森林のような、より高度な機械学習者に対して非常に競争力があります。
  論文  参考訳（メタデータ） (2023-09-25T10:03:39Z)
• Errors-in-variables Fr\'echet Regression with Low-rank Covariate Approximation [2.1756081703276]
  Fr'echet回帰は、非ユークリッド応答変数を含む回帰分析のための有望なアプローチとして登場した。 提案手法は,大域的Fr'echet回帰と主成分回帰の概念を組み合わせて,回帰推定器の効率と精度を向上させることを目的とする。
  論文  参考訳（メタデータ） (2023-05-16T08:37:54Z)
• Vector-Valued Least-Squares Regression under Output Regularity Assumptions [73.99064151691597]
  最小二乗回帰問題を無限次元出力で解くために,還元ランク法を提案し,解析する。 提案手法の学習バウンダリを導出し、フルランク手法と比較して統計的性能の設定を改善する研究を行う。
  論文  参考訳（メタデータ） (2022-11-16T15:07:00Z)
• Poseur: Direct Human Pose Regression with Transformers [119.79232258661995]
  単一画像からの2次元人間のポーズ推定に対する直接回帰に基づくアプローチを提案する。 私たちのフレームワークはエンドツーエンドの差別化が可能で、キーポイント間の依存関係を自然に活用することを学びます。 我々のアプローチは、最も優れたヒートマップベースのポーズ推定手法と比較して好意的に機能する最初の回帰ベースのアプローチである。
  論文  参考訳（メタデータ） (2022-01-19T04:31:57Z)
• Revisiting Consistency Regularization for Semi-Supervised Learning [80.28461584135967]
  そこで我々は,FeatDistLossというシンプルな手法により,一貫性の規則化を改良したフレームワークを提案する。 実験結果から,本モデルは様々なデータセットや設定のための新しい技術状態を定義する。
  論文  参考訳（メタデータ） (2021-12-10T20:46:13Z)
• Regression Bugs Are In Your Model! Measuring, Reducing and Analyzing Regressions In NLP Model Updates [68.09049111171862]
  この研究は、NLPモデル更新における回帰エラーの定量化、低減、分析に重点を置いている。 回帰フリーモデル更新を制約付き最適化問題に定式化する。 モデルアンサンブルが回帰を減らす方法を実証的に分析します。
  論文  参考訳（メタデータ） (2021-05-07T03:33:00Z)
• A Hypergradient Approach to Robust Regression without Correspondence [85.49775273716503]
  本稿では,入力データと出力データとの対応が不十分な回帰問題について考察する。 ほとんどの既存手法はサンプルサイズが小さい場合にのみ適用できる。 シャッフル回帰問題に対する新しい計算フレームワークであるROBOTを提案する。
  論文  参考訳（メタデータ） (2020-11-30T21:47:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。