論文の概要: Refine and Purify: Orthogonal Basis Optimization with Null-Space Denoising for Conditional Representation Learning

• arxiv url: http://arxiv.org/abs/2602.05464v1
• Date: Thu, 05 Feb 2026 09:14:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-06 18:49:08.856378
• Title: Refine and Purify: Orthogonal Basis Optimization with Null-Space Denoising for Conditional Representation Learning
• Title（参考訳）: Refine and Purify: Orthogonal Basis Optimization with Null-Space Denoising for Conditional Representation Learning
• Authors: Jiaquan Wang, Yan Lyu, Chen Li, Yuheng Jia,
• Abstract要約: 条件表現学習は、カスタマイズされたタスクのための基準固有の特徴を抽出することを目的としている。 適応直交基底最適化(AOBO)とNull-Space Denoising Projection(NSDP)を統合した新しいフレームワークOD-CRLを提案する。 カスタマイズされたクラスタリング、カスタマイズされた分類、カスタマイズされた検索タスクによる実験は、OD-CRLがより優れた一般化を備えた新しい最先端性能を実現することを示す。
• 参考スコア（独自算出の注目度）: 34.87088239089728
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Conditional representation learning aims to extract criterion-specific features for customized tasks. Recent studies project universal features onto the conditional feature subspace spanned by an LLM-generated text basis to obtain conditional representations. However, such methods face two key limitations: sensitivity to subspace basis and vulnerability to inter-subspace interference. To address these challenges, we propose OD-CRL, a novel framework integrating Adaptive Orthogonal Basis Optimization (AOBO) and Null-Space Denoising Projection (NSDP). Specifically, AOBO constructs orthogonal semantic bases via singular value decomposition with a curvature-based truncation. NSDP suppresses non-target semantic interference by projecting embeddings onto the null space of irrelevant subspaces. Extensive experiments conducted across customized clustering, customized classification, and customized retrieval tasks demonstrate that OD-CRL achieves a new state-of-the-art performance with superior generalization.
• Abstract（参考訳）: 条件表現学習は、カスタマイズされたタスクのための基準固有の特徴を抽出することを目的としている。 近年の研究では、LLM生成テキストベースで表現された条件特徴部分空間に普遍的な特徴を投影し、条件表現を得る。 しかし、これらの手法は、サブスペースベースに対する感度と、サブスペース間干渉に対する脆弱性の2つの重要な制限に直面している。 これらの課題に対処するために,適応直交基底最適化(AOBO)とNull-Space Denoising Projection(NSDP)を統合した新しいフレームワークOD-CRLを提案する。 具体的には、AOBOは、曲率ベースのトランケーションで特異値分解によって直交意味基底を構成する。 NSDPは、無関係な部分空間のnull空間に埋め込みを投影することで、非ターゲット意味的干渉を抑制する。 カスタマイズされたクラスタリング、カスタマイズされた分類、およびカスタマイズされた検索タスクにまたがる大規模な実験により、OD-CRLは、より優れた一般化による新しい最先端性能を実現することを示す。

関連論文リスト

• Monotone Optimisation with Learned Projections [0.0]
  モノトーン最適化問題は、Polyblock Outer Approximation (POA)アルゴリズムのような特殊な大域的解法を許容する。 本稿では,学習モデルをPOAに統合するアルゴリズム認識学習手法を提案する。
  論文  参考訳（メタデータ） (2026-01-28T19:32:04Z)
• AGZO: Activation-Guided Zeroth-Order Optimization for LLM Fine-Tuning [8.698253005940503]
  アクティベーション誘導ゼロ階最適化(AGZO)を提案する。 従来の方法とは異なり、AGZOは前方通過中にフライ上のコンパクトな活性化インフォームド部分空間を抽出し、この低ランク部分空間に摂動を制限する。 AGZOは、最先端のZOベースラインを一貫して上回り、一階ファインチューニングによるパフォーマンスギャップを著しく狭めている。
  論文  参考訳（メタデータ） (2026-01-24T02:28:15Z)
• Generalized Decoupled Learning for Enhancing Open-Vocabulary Dense Perception [71.26728044621458]
  DeCLIPは、CLIPを強化する新しいフレームワークで、自己認識モジュールを分離して、それぞれコンテンツ’と“コンテキスト’の機能を取得する。 2D検出とセグメンテーション、3Dインスタンスのセグメンテーション、ビデオインスタンスのセグメンテーション、6Dオブジェクトのポーズ推定など、幅広いタスクにわたる最先端のパフォーマンスを一貫して達成する。
  論文  参考訳（メタデータ） (2025-08-15T06:43:51Z)
• Towards Generalized Range-View LiDAR Segmentation in Adverse Weather [65.22588361803942]
  我々は、厳しい天候下でのLiDARセグメンテーションの一般化に影響を及ぼす固有の課題を特定し、分析する。 既存のモデルのコアアーキテクチャを変更することなく、ロバスト性を高めるモジュール式で軽量なフレームワークを提案する。 提案手法は,推定オーバーヘッドを最小限に抑え,悪天候への一般化を著しく改善する。
  論文  参考訳（メタデータ） (2025-06-10T16:48:27Z)
• Q-function Decomposition with Intervention Semantics with Factored Action Spaces [51.01244229483353]
  元の作用空間の低次元射影部分空間上で定義されるQ-函数を考察し、分解されたQ-函数の不偏性について考察する。 これにより、標準モデルフリー強化学習アルゴリズムにおいて、予測Q関数を用いてQ関数を近似する動作分解強化学習と呼ばれる一般的なスキームが導かれる。
  論文  参考訳（メタデータ） (2025-04-30T05:26:51Z)
• Label-independent hyperparameter-free self-supervised single-view deep subspace clustering [0.0]
  ディープサブスペースクラスタリング(DSC)アルゴリズムは、ドメイン間で広く採用されるのを妨げるいくつかの課題に直面している。 本稿では,結合表現行列を用いたレイヤワイド自己表現損失を最小限に抑える一視点DSC手法を提案する。 提案手法は,顔,数字,オブジェクトを表す6つのデータセットに対して評価する。
  論文  参考訳（メタデータ） (2025-04-25T08:54:34Z)
• Exploring a Principled Framework for Deep Subspace Clustering [9.347670574036563]
  深部空間クラスタリング(PRO-DSC)のための原理的fRamewOrkを提案する。 PRO-DSCは構造化表現と自己表現係数を統一的に学習するように設計されている。 我々は、ある条件下での学習された最適表現が部分空間の和集合上にあることを証明した。
  論文  参考訳（メタデータ） (2025-03-21T16:38:37Z)
• Towards Continual Learning Desiderata via HSIC-Bottleneck Orthogonalization and Equiangular Embedding [55.107555305760954]
  本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。 提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
  論文  参考訳（メタデータ） (2024-01-17T09:01:29Z)
• PARL: A Unified Framework for Policy Alignment in Reinforcement Learning from Human Feedback [106.63518036538163]
  我々は、強化学習におけるポリシーアライメントの最近強調された重要な問題に対処するために、新しい統合された二段階最適化ベースのフレームワーク、textsfPARLを提案する。 本フレームワークは, 上向きの目標(逆設計)の分布を, 下向きの最適変数で明示的にパラメータ化することにより, これらの問題に対処する。 その結果,提案したtextsfPARL が RL のアライメントの懸念に対処できる可能性が示唆された。
  論文  参考訳（メタデータ） (2023-08-03T18:03:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。