論文の概要: Two Global Crops Suffice: Locating Semantic Emergence in DINO-Style Self-Supervised Learning

• arxiv url: http://arxiv.org/abs/2609.28187v1
• Date: Wed, 23 Sep 2026 14:29:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:18.063596
• Title: Two Global Crops Suffice: Locating Semantic Emergence in DINO-Style Self-Supervised Learning
• Title（参考訳）: 2つのグローバルクロプス:Dino-Style Self-Supervised Learningにおけるセマンティックな創発
• Abstract要約: DINOスタイルの目的によって訓練された自己監督型視覚変換器は、視覚タスク全体にわたって顕著な意味表現品質を示す。 意味表現は、主に、同じ画像インスタンスの幾何学的に異なるグローバルビュー間の一貫性を強制することに由来することを示す。 パッチレベルのマスキングの目的は、このグローバルアライメントと共同でトレーニングされた場合にのみ意味論的に強化される。
• 参考スコア（独自算出の注目度）: 25.80240305476717
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Self-supervised vision transformers trained with DINO-style objectives exhibit striking emergent semantic representation quality across visual tasks, yet the mechanisms underlying this behavior remain unclear. We present a systematic empirical dissection of the DINO family and show that semantic representations arise primarily from enforcing consistency between geometrically distinct global views of the same image instance. This instance-specific global alignment acts as the semantic anchor of DINO-style learning. Across controlled retraining experiments evaluated on semantic correspondence and a diverse suite of 2D and 3D downstream tasks, we find that patch-level masking objectives enhance semantics only when trained jointly with this global alignment, indicating that the iBOT objective refines and densifies existing semantic structure rather than creating it independently. In contrast, local-to-global view alignment does not substantially improve semantic qualities at fixed compute beyond a purely global alignment. Beyond training design, we revisit how semantic representation quality should be evaluated: while classification accuracy is the standard validation score, semantic correspondence provides a complementary axis that more reliably predicts downstream task performance. Together, these findings provide a functional decomposition of DINO-style learning and represent an important step toward understanding how semantic representations emerge in self-supervised vision models.
• Abstract（参考訳）: DINOスタイルの目的によって訓練された自己監督型視覚変換器は、視覚タスク全体にわたって顕著な意味表現品質を示すが、そのメカニズムはいまだ不明である。 我々は,DINOファミリーの系統的経験的解剖を行い,同じ画像インスタンスの幾何学的に異なる大局的な視点の整合性によって意味表現が生じることを示す。 このインスタンス固有のグローバルアライメントは、DINOスタイルの学習のセマンティックアンカーとして機能する。 セマンティック対応および2次元および3次元下流タスクの多種多様なスイートに基づいて評価された制御されたリトレーニング実験を通して、パッチレベルのマスキングの対象は、このグローバルアライメントと共同でトレーニングした場合のみセマンティックスを強化し、iBOTの目的が独立して作成するのではなく、既存のセマンティック構造を洗練・密度化することを示す。 対照的に、ローカル・グローバル・ビューアライメントは、純粋にグローバルなアライメントを超えて、固定された計算における意味的品質を著しく改善しない。 分類精度は標準的な検証スコアであるが、セマンティック対応は、下流タスクのパフォーマンスをより確実に予測する補完軸を提供する。 これらの知見は、DINOスタイルの学習を機能的に分解し、自己教師付き視覚モデルにおいて意味表現がどのように現れるかを理解するための重要なステップを示す。

関連論文リスト

• Uncovering Understanding-Generation Synergy in Native Unified Multimodal Models: From Representation, Task to System [90.64481646805855]
  統一マルチモーダルモデル(UMM)は、単一のモデル内で視覚的理解と生成を共同で行う。 制御された、構造的にネイティブな環境で、それらの関係を表現、タスク、システムレベルで調査する。 適切な特殊化やタスク知識の共有,エンドツーエンドの最適化など,UMMの価値は統一インターフェースを超えて,共存を相乗効果に転換できることを示す。
  論文  参考訳（メタデータ） (2026-09-01T17:59:59Z)
• Revisiting Multi-Task Visual Representation Learning [52.93947931352643]
  本稿では,マルチタスク・ビジュアル事前学習フレームワークであるMTVを紹介する。 我々は、高容量の「エキスパート」モデルを利用して、高密度で構造化された擬似ラベルを大規模に合成する。 以上の結果から,MTV が "Best-of-both-worlds" のパフォーマンスを達成できることが示唆された。
  論文  参考訳（メタデータ） (2026-01-20T11:59:19Z)
• GoViG: Goal-Conditioned Visual Navigation Instruction Generation [69.79110149746506]
  本稿では,Goal-Conditioned Visual Navigation Instruction Generation (GoViG)を紹介する。 GoViGは生のエゴセントリックな視覚データのみを活用し、目に見えない非構造環境への適応性を大幅に改善する。
  論文  参考訳（メタデータ） (2025-08-13T07:05:17Z)
• ATAS: Any-to-Any Self-Distillation for Enhanced Open-Vocabulary Dense Prediction [7.353998772647553]
  Any-to-Any Self-Distillation (ATAS)は、セマンティックコヒーレンスときめ細かいアライメントを同時に強化する新しいアプローチである。 ATASはオープン語彙オブジェクト検出とセマンティックセグメンテーションのベンチマークでかなりの性能向上を達成した。
  論文  参考訳（メタデータ） (2025-06-10T10:40:10Z)
• Semantic-Aligned Learning with Collaborative Refinement for Unsupervised VI-ReID [82.12123628480371]
  教師なしの人物再識別(USL-VI-ReID)は、モデル学習のための人間のアノテーションを使わずに、同じ人物の歩行者像を異なるモードでマッチングすることを目指している。 従来の手法では、ラベルアソシエーションアルゴリズムを用いて異質な画像の擬似ラベルを統一し、グローバルな特徴学習のためのコントラスト学習フレームワークを設計していた。 本稿では,各モダリティによって強調される特定のきめ細かいパターンを対象とするSALCR(Semantic-Aligned Learning with Collaborative Refinement)フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-04-27T13:58:12Z)
• A Probabilistic Model Behind Self-Supervised Learning [53.64989127914936]
  自己教師付き学習(SSL)では、アノテートラベルなしで補助的なタスクを通じて表現が学習される。 自己教師型学習のための生成潜在変数モデルを提案する。 対照的な方法を含む識別的SSLのいくつかのファミリーは、表現に匹敵する分布を誘導することを示した。
  論文  参考訳（メタデータ） (2024-02-02T13:31:17Z)
• Towards Unsupervised Representation Learning: Learning, Evaluating and Transferring Visual Representations [1.8130068086063336]
  我々は3つの視点から教師なし(視覚的)表現学習の分野に貢献する。 我々は、教師なし、バックプロパゲーションのない畳み込み自己組織型ニューラルネットワーク(CSNN)を設計する。 我々は、プリテキストとターゲットオブジェクトに依存しないメトリクスを定義するために、広く使われている(非)線形評価プロトコルの上に構築する。 CARLANEは,2次元車線検出のための最初の3方向sim-to-realドメイン適応ベンチマークであり,自己教師付き学習に基づく手法である。
  論文  参考訳（メタデータ） (2023-11-30T15:57:55Z)
• Structural Adversarial Objectives for Self-Supervised Representation Learning [19.471586646254373]
  本稿では,自己指導型表現学習の差別化を,構造モデリングの責務を付加することで行うことを提案する。 ネットワーク上の効率的なスムーズ性正規化器と組み合わせて、これらの目的は識別器を案内し、情報表現の抽出を学ぶ。 実験により,GANを自己指導対象に組み込むことで,表現学習の観点から評価された差別化要因が,対照的な学習アプローチによって訓練されたネットワークと競合することを示す。
  論文  参考訳（メタデータ） (2023-09-30T12:27:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。