論文の概要: Your Self-Supervised Projection Head Captures Object Co-Occurrence Statistics

• arxiv url: http://arxiv.org/abs/2610.23915v1
• Date: Fri, 02 Oct 2026 20:49:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 15:41:08.439014
• Title: Your Self-Supervised Projection Head Captures Object Co-Occurrence Statistics
• Title（参考訳）: 自己監督型プロジェクションヘッドは、オブジェクトの共起統計をキャプチャする
• Abstract要約: Self-Supervised Learning (SSL)は、セマンティックな視覚表現の学習において、目覚ましい成功を収めた。 一般的なSSLプリテキストタスクは、オブジェクト共起統計を暗黙的にモデル化する。 我々の発見は、SSLに隠された学習原則を明らかにし、より効果的なプリテキストタスクを設計するための道筋を示唆している。
• 参考スコア（独自算出の注目度）: 9.216839216478009
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Self-Supervised Learning (SSL) has achieved impressive success in learning semantic visual representations, yet the underlying principles driving this success remain underexplored. In this work, we hypothesize that common SSL pretext tasks implicitly model object co-occurrence statistics, a fundamental cue for visual learning. To test this, we curate three datasets of segmented objects from existing vision benchmarks using a state-of-the-art segmentation model. Through experiments across many SSL models, we reveal a hierarchical encoding of semantic information: while the visual backbone captures object categories, the projection head specializes in encoding co-occurrences between object categories. As a result, the projection head outperforms the backbone in aligning with human judgments of inter-category similarity. Furthermore, by controlling co-occurrence patterns during pre-training, we demonstrate that encoding object co-occurrences can significantly accelerate the emergence of category-level representations. Our findings uncover a previously hidden learning principle in SSL and suggest a path toward designing more effective pretext tasks by explicitly leveraging object co-occurrence structure.
• Abstract（参考訳）: Self-Supervised Learning (SSL)はセマンティックな視覚表現を学習する上で大きな成功を収めていますが、この成功の根底にある原則は未解明のままです。 本研究では、一般的なSSLプリテキストタスクが、視覚学習の基本的なキューであるオブジェクト共起統計を暗黙的にモデル化する、という仮説を立てる。 これをテストするために、最先端のセグメンテーションモデルを用いて既存のビジョンベンチマークから3つのセグメンテーションオブジェクトのデータセットをキュレートする。 視覚的バックボーンはオブジェクトカテゴリをキャプチャするが、投影ヘッドはオブジェクトカテゴリ間の共起を符号化する。 その結果、投影ヘッドは、カテゴリー間類似性の人間の判断と整合して背骨を上回っている。 さらに,事前学習における共起パターンの制御により,符号化対象の共起パターンがカテゴリレベルの表現の出現を著しく加速することを示す。 この結果から,SSL に隠された学習原理が明らかとなり,オブジェクト共起構造を明示的に活用することで,より効果的なプリテキストタスクを設計するための道筋が示唆された。

関連論文リスト

• SOCO: Benchmarking Semantic Object Correspondence in Vision Foundation Models [63.28435103335999]
  セマンティックオブジェクト対応のための新しいベンチマークであるSOCOを紹介する。 視覚基盤のバックボーンは強い意味構造をエンコードするが、関連するカテゴリ間での伝達対応は不十分であることを示す。 また,LVLMは画像マッチングよりもテキストプロンプト部分のローカライゼーションが優れていることを示す。
  論文  参考訳（メタデータ） (2026-05-29T17:58:48Z)
• Self-supervised structured object representation learning [2.747398258852965]
  自己教師付き学習は視覚表現を学習するための強力な技術として登場した。 本稿では, セマンティックグルーピング, インスタンスレベルの分離, 階層的構造化を組み合わせることで, 構造化された視覚表現を構築する自己教師型アプローチを提案する。 提案手法は,新しいProtoScaleモジュールをベースとして,複数の空間スケールにわたる視覚的要素をキャプチャする。
  論文  参考訳（メタデータ） (2025-08-27T13:28:05Z)
• Zero-Shot Object-Centric Representation Learning [72.43369950684057]
  ゼロショット一般化のレンズによる現在の対象中心法について検討する。 8つの異なる合成および実世界のデータセットからなるベンチマークを導入する。 多様な実世界の画像のトレーニングにより、見えないシナリオへの転送性が向上することがわかった。
  論文  参考訳（メタデータ） (2024-08-17T10:37:07Z)
• Visual Self-supervised Learning Scheme for Dense Prediction Tasks on X-ray Images [3.782392436834913]
  自己教師付き学習(SSL)は自然言語処理(NLP)においてかなりの進歩をもたらした しかし、既存のビジュアルSSLモデルにコントラスト学習を組み込むことは、しばしば監督対象を超越する、かなりの進歩をもたらした。 ここでは、セキュリティ検査X線画像を用いた密集予測タスクに着目し、提案モデルであるセグメントローカライゼーション(SegLoc)を評価する。 インスタンスローカライゼーション(InsLoc)モデルに基づいて、SegLocはコントラスト学習における重要な課題の1つ、すなわち、クエリ埋め込みの偽陰性ペアに対処する。
  論文  参考訳（メタデータ） (2023-10-12T15:42:17Z)
• Weakly-supervised Contrastive Learning for Unsupervised Object Discovery [52.696041556640516]
  ジェネリックな方法でオブジェクトを発見できるため、教師なしのオブジェクト発見は有望である。 画像から高レベルな意味的特徴を抽出する意味誘導型自己教師学習モデルを設計する。 オブジェクト領域のローカライズのための主成分分析(PCA)を導入する。
  論文  参考訳（メタデータ） (2023-07-07T04:03:48Z)
• Deciphering the Projection Head: Representation Evaluation Self-supervised Learning [6.375931203397043]
  自己教師付き学習(SSL)は、ラベルなしで固有の特徴を学習することを目的としている。 プロジェクションヘッドは、ダウンストリームタスクのパフォーマンスを改善する上で、常に重要な役割を果たす。 本稿では,表現と投影ベクトルとのショートカット接続を構築するSSLモデルにおける表現評価設計(RED)を提案する。
  論文  参考訳（メタデータ） (2023-01-28T13:13:53Z)
• UniVIP: A Unified Framework for Self-Supervised Visual Pre-training [50.87603616476038]
  単一中心オブジェクトまたは非調和データセット上で,汎用的な視覚表現を学習するための,新しい自己教師型フレームワークを提案する。 大規模実験により、非高調波COCOで事前訓練されたUniVIPは、最先端の転送性能を実現することが示された。 また、ImageNetのような単一中心オブジェクトのデータセットを利用でき、線形探索において同じ事前学習エポックでBYOLを2.5%上回る。
  論文  参考訳（メタデータ） (2022-03-14T10:04:04Z)
• Look-into-Object: Self-supervised Structure Modeling for Object Recognition [71.68524003173219]
  我々は,自己スーパービジョンを取り入れた「対象」(具体的かつ内在的に対象構造をモデル化する)を提案する。 認識バックボーンは、より堅牢な表現学習のために大幅に拡張可能であることを示す。 提案手法は汎用オブジェクト認識(ImageNet)や細粒度オブジェクト認識タスク(CUB, Cars, Aircraft)など,多数のベンチマークにおいて大きなパフォーマンス向上を実現している。
  論文  参考訳（メタデータ） (2020-03-31T12:22:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。