論文の概要: Which Tasks Survive Self-Supervised Learning?

• arxiv url: http://arxiv.org/abs/2609.38393v1
• Date: Tue, 29 Sep 2026 18:51:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.616131
• Title: Which Tasks Survive Self-Supervised Learning?
• Title（参考訳）: 自己指導型学習の課題とは何か?
• Abstract要約: 同一インスタンスの自己教師型学習は、同じインスタンスの2つのビューに一貫性を強制することで表現を学習する。 本研究では, この課題を, 表現された関数空間によって捕捉されたタスクの後部スコアの量として定義した, 感情的回復性を通じて研究する。 中心的および白色の表現に対して、リカバリビリティは、指向性クラス距離正規化分散(CDNV)を正確に決定し、最寄りのセントロイド分類をほとんど制御し、タスク関連セマンティックな方向の強みを制御していることを示す。
• 参考スコア（独自算出の注目度）: 7.977760124609849
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Same-instance self-supervised learning (SSL) learns representations by enforcing consistency across two views of the same underlying instance. This principle alone, however, does not determine which downstream tasks remain recoverable from the learned representation. We study this question through \emph{semantic recoverability}, defined as the amount of a task's posterior score captured by the represented function space. We show that, for centered and whitened representations, recoverability exactly determines directional class-distance-normalized variance (CDNV), controls few-shot nearest-centroid classification, and governs the strength of task-relevant semantic directions. The population linear probe and centroid axis coincide, and multiple well-recovered tasks approach a factorial centroid geometry. We then analyze a canonical two-view SSL objective and show that its population optimum spans the leading cross-view-stable modes of the associated two-view operator. This yields a closed-form spectral characterization of semantic recoverability: a downstream task is preserved to the extent that its posterior lies in the selected spectral subspace. We validate these predictions on synthetic and real datasets across several SSL methods, testing the predicted relationships among recoverability, directional geometry, spectral structure, and few-shot transfer. Together, these results give a task-level account of what information survives same-instance SSL and how the retained information appears in downstream geometry and transfer.
• Abstract（参考訳）: 同じインスタンスの2つのビューに対して一貫性を強制することで、同じインスタンスの自己教師型学習(SSL)が表現を学ぶ。 しかし、この原理だけでは、学習した表現からどの下流タスクが回復可能かは決定できない。 本稿では,この課題を,代表関数空間によって得られたタスクの後部スコアの量として定義した「emph{semantic recoveryability}」を通して研究する。 中心的および白色の表現に対して、リカバリビリティは、指向性クラス距離正規化分散(CDNV)を正確に決定し、最寄りのセントロイド分類をほとんど制御し、タスク関連セマンティックな方向の強みを制御していることを示す。 集団線形プローブとセントロイド軸は一致し、よく発見された複数のタスクは因子的なセントロイド幾何学に近づいた。 次に、標準2ビューSSLの目的を解析し、その個体群が関連する2ビュー演算子の主要なクロスビュー安定モードにまたがっていることを示す。 ダウンストリームタスクは、その後部が選択されたスペクトル部分空間にある程度に保存される。 我々は、これらの予測を、複数のSSLメソッドにまたがる合成および実データセット上で検証し、回復可能性、方向幾何学、スペクトル構造、少数ショット転送の間の予測関係を検証した。 これらの結果から、同じインスタンスのSSLを存続させる情報と、下流のジオメトリと転送に保持された情報がどのように現れるかのタスクレベルの説明が得られる。

関連論文リスト

• Probing Geospatial SSL Representations with Environmental Signals [51.908606610432194]
  自己教師付き学習(SSL)は、単一のタスクに最適化された表現ではなく、汎用的で転送可能な表現を学ぶように設計されている。 SSL表現は、イメージングプロセスと共変する環境変数との統計的関連を保存しているか? この問題に対処するために、我々は、物理的に一貫した環境変数のグローバルデータセットである共配置ERA5再解析変数を用いてSSL表現を探索する。
  論文  参考訳（メタデータ） (2026-07-06T15:24:25Z)
• Geometric Second-Order Feature Correlation Learning for Self-Supervised Speech Emotion Recognition [20.241229752223337]
  自己教師付き学習(SSL)は、感情認識のための強力で文脈に富んだ表現をもたらす。 しかし、これらの表現を全体論的な記述子に集約することは、依然としてボトルネックである。 本稿では,この問題に対処する新しい第2次相関層を提案する。
  論文  参考訳（メタデータ） (2026-06-04T08:18:38Z)
• Learning to Perceive "Where": Spatial Pretext Tasks for Robust Self-Supervised Learning [17.753167530453997]
  空間認識型プレテキスト回帰タスクである空間予測を導入し、同じ画像から一対の非絡み合ったローカルビュー間の相対的な位置とスケールを予測する。 連続幾何学空間における部分対部分関係をモデル化することにより、SPは表現がきめ細かい空間依存を捉えることを奨励する。 実験では、画像認識、きめ細かな分類、セマンティックセグメンテーション、深さ推定、および物体認識におけるアウト・オブ・ディストリビューションの大幅な向上が示されている。
  論文  参考訳（メタデータ） (2026-05-11T04:15:34Z)
• Semantic Concentration for Self-Supervised Dense Representations Learning [103.10708947415092]
  イメージレベルの自己教師型学習(SSL)は大きな進歩を遂げているが、パッチの密度の高い表現を学ぶことは依然として難しい。 この研究は、画像レベルのSSLが暗黙のセマンティックな集中を伴って過分散を避けることを明らかにしている。
  論文  参考訳（メタデータ） (2025-09-11T13:12:10Z)
• A Closer Look at Benchmarking Self-Supervised Pre-training with Image Classification [51.35500308126506]
  自己教師付き学習(SSL)は、データ自体が監視を提供する機械学習アプローチであり、外部ラベルの必要性を排除している。 SSLの分類に基づく評価プロトコルがどのように相関し、異なるデータセットのダウンストリーム性能を予測するかを検討する。
  論文  参考訳（メタデータ） (2024-07-16T23:17:36Z)
• Visual Self-supervised Learning Scheme for Dense Prediction Tasks on X-ray Images [3.782392436834913]
  自己教師付き学習(SSL)は自然言語処理(NLP)においてかなりの進歩をもたらした しかし、既存のビジュアルSSLモデルにコントラスト学習を組み込むことは、しばしば監督対象を超越する、かなりの進歩をもたらした。 ここでは、セキュリティ検査X線画像を用いた密集予測タスクに着目し、提案モデルであるセグメントローカライゼーション(SegLoc)を評価する。 インスタンスローカライゼーション(InsLoc)モデルに基づいて、SegLocはコントラスト学習における重要な課題の1つ、すなわち、クエリ埋め込みの偽陰性ペアに対処する。
  論文  参考訳（メタデータ） (2023-10-12T15:42:17Z)
• Self-supervised Learning is More Robust to Dataset Imbalance [65.84339596595383]
  データセット不均衡下での自己教師型学習について検討する。 既製の自己教師型表現は、教師型表現よりもクラス不均衡に対してすでに堅牢である。 我々は、不均衡なデータセット上でSSL表現品質を一貫して改善する、再重み付け正規化手法を考案した。
  論文  参考訳（メタデータ） (2021-10-11T06:29:56Z)
• Aggregative Self-Supervised Feature Learning from a Limited Sample [12.555160911451688]
  自己教師付き学習特徴の頑健性を高めるために,様々な形態の相補性の観点から2つのアグリゲーション戦略を提案する。 限られたデータシナリオ下での2次元自然画像および3次元医用画像分類タスクの実験により,提案手法が分類精度を向上できることが確認された。
  論文  参考訳（メタデータ） (2020-12-14T12:49:37Z)
• Understanding Self-supervised Learning with Dual Deep Networks [74.92916579635336]
  本稿では,2組の深層ReLUネットワークを用いたコントラスト型自己教師学習(SSL)手法を理解するための新しい枠組みを提案する。 種々の損失関数を持つSimCLRの各SGD更新において、各層の重みは共分散演算子によって更新されることを示す。 共分散演算子の役割と、そのようなプロセスでどのような特徴が学習されるかをさらに研究するために、我々は、階層的潜在木モデル(HLTM)を用いて、データ生成および増大過程をモデル化する。
  論文  参考訳（メタデータ） (2020-10-01T17:51:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。