論文の概要: Class-aware and Augmentation-free Contrastive Learning from Label Proportion

• arxiv url: http://arxiv.org/abs/2408.06743v1
• Date: Tue, 13 Aug 2024 09:04:47 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-14 18:07:03.009631
• Title: Class-aware and Augmentation-free Contrastive Learning from Label Proportion
• Title（参考訳）: ラベル抽出によるクラス認識と拡張不要なコントラスト学習
• Authors: Jialiang Wang, Ning Zhang, Shimin Di, Ruidong Wang, Lei Chen,
• Abstract要約: Label Proportion(LLP)からの学習(Learning from Label Proportion)は、トレーニングデータを事前定義されたインスタンスのバッグに整理する、弱教師付き学習シナリオである。 本稿では,インスタンスレベルでのクラス認識管理を導入した拡張フリーコントラストフレームワークTabLLP-BDCを提案する。 我々のソリューションは、2段階のBag Different Contrastive(BDC)学習機構を備えており、堅牢なクラス認識インスタンスレベルの監視を確立する。
• 参考スコア（独自算出の注目度）: 19.41511190742059
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Learning from Label Proportion (LLP) is a weakly supervised learning scenario in which training data is organized into predefined bags of instances, disclosing only the class label proportions per bag. This paradigm is essential for user modeling and personalization, where user privacy is paramount, offering insights into user preferences without revealing individual data. LLP faces a unique difficulty: the misalignment between bag-level supervision and the objective of instance-level prediction, primarily due to the inherent ambiguity in label proportion matching. Previous studies have demonstrated deep representation learning can generate auxiliary signals to promote the supervision level in the image domain. However, applying these techniques to tabular data presents significant challenges: 1) they rely heavily on label-invariant augmentation to establish multi-view, which is not feasible with the heterogeneous nature of tabular datasets, and 2) tabular datasets often lack sufficient semantics for perfect class distinction, making them prone to suboptimality caused by the inherent ambiguity of label proportion matching. To address these challenges, we propose an augmentation-free contrastive framework TabLLP-BDC that introduces class-aware supervision (explicitly aware of class differences) at the instance level. Our solution features a two-stage Bag Difference Contrastive (BDC) learning mechanism that establishes robust class-aware instance-level supervision by disassembling the nuance between bag label proportions, without relying on augmentations. Concurrently, our model presents a pioneering multi-task pretraining pipeline tailored for tabular-based LLP, capturing intrinsic tabular feature correlations in alignment with label proportion distribution. Extensive experiments demonstrate that TabLLP-BDC achieves state-of-the-art performance for LLP in the tabular domain.
• Abstract（参考訳）: LLP(Learning from Label Proportion)は、トレーニングデータを予め定義されたインスタンスのバッグに整理し、バッグごとのクラスラベル比率のみを開示する、弱い教師付き学習シナリオである。 このパラダイムは、ユーザのプライバシが最重要であるユーザモデリングとパーソナライズに不可欠であり、個々のデータを明らかにすることなく、ユーザの好みに関する洞察を提供する。 LLPは、バッグレベルの監督とインスタンスレベルの予測の目的の相違、主にラベルの比率マッチングに固有の曖昧さが原因で、独特な困難に直面している。 従来の研究では、深層表現学習が補助信号を生成し、画像領域の監督レベルを促進することが示されている。 しかし、これらのテクニックを表データに適用すると、大きな課題が浮かび上がる。 1)多視点の確立にはラベル不変の拡張に大きく依存しており、表形式のデータセットの異種性には対応できない。 2) 表形式のデータセットは, 完全クラス区別に十分な意味を欠くことが多く, ラベル比例マッチングの本来のあいまいさによって生じる過度な最適性に陥る傾向がある。 これらの課題に対処するために、インスタンスレベルでクラス認識の監督(クラス差を明示的に認識する)を導入する拡張フリーコントラストフレームワークであるTabLLP-BDCを提案する。 提案手法は,バッグラベル比のニュアンスを,増量に頼ることなく分解することで,堅牢なクラス認識型インスタンスレベルの監視を確立する2段階のBag差分比較学習機構を特徴とする。 同時に,本モデルでは,ラベルの比率分布に則って,内在的な表型特徴相関を捉えた,表型LPPに適したマルチタスク事前学習パイプラインを考案した。 拡張実験により,TabLLP-BDCは表領域におけるLPPの最先端性能を実現することが示された。

関連論文リスト

• Forming Auxiliary High-confident Instance-level Loss to Promote Learning from Label Proportions [17.36538357653019]
  ラベルパーセンテージ(LLP)からの学習は、各インスタンスのアノテートラベルではなく、インスタンスのバッグとバッグ内のクラスの割合を使用して分類器をトレーニングすることを目的としている。 本稿では,L2P-AHILを用いたLLP手法を提案する。 我々は,L2P-AHILが既存のベースライン法を超越し,バッグサイズが大きくなるにつれて性能向上がさらに重要であることを示す。
  論文  参考訳（メタデータ） (2024-11-15T17:14:18Z)
• Reduction-based Pseudo-label Generation for Instance-dependent Partial Label Learning [41.345794038968776]
  本稿では,誤り候補ラベルの影響を軽減するために,リダクションに基づく擬似ラベルを活用することを提案する。 推定モデルから生成した擬似ラベルと比較して,減算に基づく擬似ラベルはベイズ最適分類器との整合性が高いことを示す。
  論文  参考訳（メタデータ） (2024-10-28T07:32:20Z)
• Virtual Category Learning: A Semi-Supervised Learning Method for Dense Prediction with Extremely Limited Labels [63.16824565919966]
  本稿では,ラベルの修正を伴わずに,混乱したサンプルを積極的に使用することを提案する。 仮想カテゴリー(VC)は、モデルの最適化に安全に貢献できるように、各混乱したサンプルに割り当てられる。 私たちの興味深い発見は、密集した視覚タスクにおけるVC学習の利用に注目しています。
  論文  参考訳（メタデータ） (2023-12-02T16:23:52Z)
• Robust Representation Learning for Unreliable Partial Label Learning [86.909511808373]
  部分ラベル学習(Partial Label Learning, PLL)は、弱い教師付き学習の一種で、各トレーニングインスタンスに候補ラベルのセットが割り当てられる。 これはUn Reliable partial Label Learning (UPLL) と呼ばれ、部分ラベルの本質的な信頼性の欠如とあいまいさにより、さらなる複雑さをもたらす。 本研究では,信頼できない部分ラベルに対するモデル強化を支援するために,信頼性に欠けるコントラスト学習を活用するUnreliability-Robust Representation Learning framework(URRL)を提案する。
  論文  参考訳（メタデータ） (2023-08-31T13:37:28Z)
• Learning with Partial Labels from Semi-supervised Perspective [28.735185883881172]
  部分ラベル学習(Partial Label、PL)とは、部分ラベル付きデータから学習するタスクである。 セミスーパーバイザード・パースペクティブ(PLSP)を用いた部分ラベル学習という新しいPL学習手法を提案する。 PLSPは、特に高いあいまいさレベルにおいて、既存のPLベースライン法よりも著しく優れている。
  論文  参考訳（メタデータ） (2022-11-24T15:12:16Z)
• Leveraging Instance Features for Label Aggregation in Programmatic Weak Supervision [75.1860418333995]
  Programmatic Weak Supervision (PWS) は、トレーニングラベルを効率的に合成するための広く普及したパラダイムとして登場した。 PWSのコアコンポーネントはラベルモデルであり、複数のノイズ管理ソースの出力をラベル関数として集約することで、真のラベルを推論する。 既存の統計ラベルモデルは一般的にLFの出力のみに依存し、基礎となる生成過程をモデル化する際のインスタンスの特徴を無視している。
  論文  参考訳（メタデータ） (2022-10-06T07:28:53Z)
• Semi-supervised Object Detection via Virtual Category Learning [68.26956850996976]
  本稿では,ラベルの修正を伴わずに,混乱したサンプルを積極的に使用することを提案する。 具体的には、各混乱したサンプルに仮想圏(VC)が割り当てられる。 トレーニングサンプルと仮想カテゴリの間の埋め込み距離を指定することに起因する。
  論文  参考訳（メタデータ） (2022-07-07T16:59:53Z)
• Transductive CLIP with Class-Conditional Contrastive Learning [68.51078382124331]
  雑音ラベル付き分類ネットワークをスクラッチから学習するための新しいフレームワークであるTransductive CLIPを提案する。 擬似ラベルへの依存を軽減するために,クラス条件のコントラスト学習機構を提案する。 アンサンブルラベルは、ノイズラベル付きディープニューラルネットワークのトレーニングを安定化するための擬似ラベル更新戦略として採用されている。
  論文  参考訳（メタデータ） (2022-06-13T14:04:57Z)
• Dense Contrastive Visual-Linguistic Pretraining [53.61233531733243]
  画像とテキストを共同で表現するマルチモーダル表現学習手法が提案されている。 これらの手法は,大規模マルチモーダル事前学習から高レベルな意味情報を取得することにより,優れた性能を実現する。 そこで本稿では,非バイアスのDense Contrastive Visual-Linguistic Pretrainingを提案する。
  論文  参考訳（メタデータ） (2021-09-24T07:20:13Z)
• Semi-supervised Active Learning for Instance Segmentation via Scoring Predictions [25.408505612498423]
  インスタンスセグメンテーションのための新規かつ原則的な半教師付きアクティブ学習フレームワークを提案する。 具体的には,クラス,バウンディングボックス,マスクの手がかりを明示的に評価するトリプレットスコア予測(tsp)という不確実性サンプリング戦略を提案する。 医用画像データセットを用いた結果から,提案手法が有意義な方法で利用可能なデータから知識を具現化することを示す。
  論文  参考訳（メタデータ） (2020-12-09T02:36:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。