論文の概要: What Makes Synthetic Hard Negatives Work in Vision-Language Pretraining?

• arxiv url: http://arxiv.org/abs/2610.09700v1
• Date: Wed, 07 Oct 2026 08:58:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.815669
• Title: What Makes Synthetic Hard Negatives Work in Vision-Language Pretraining?
• Title（参考訳）: 視覚言語予習における合成ハードネガティクスの働き方
• Abstract要約: 表現空間で生成される合成強陰性は、一助的自己教師学習に有効であることが証明されている。 いずれのモダリティからも正を伴わないモダル内硬質陰性を生成するSNAPを提案する。 SNAPはモデルに依存しず、外部生成モデルを必要としない。
• 参考スコア（独自算出の注目度）: 5.193470362635256
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Synthetic hard negatives generated in the representation space have proven effective for unimodal self-supervised learning, but transferring this idea to vision-language pretraining is not straightforward. We analyze six representation-space synthesis strategies and identify two failure modes in their transfer to vision-language pretraining: cross-modal constructions that produce overly easy negatives or pull them toward the query, and intra-modal constructions that incorporate the matched positive. We also observe logit-scale saturation when training with synthetic hard negatives and a learnable temperature, and find that fixing the temperature improves downstream performance. Using this geometric analysis we propose SNAP, which generates intra-modal hard negatives that never involve the positive from either modality, avoiding both failure modes entirely. SNAP is model-agnostic, requires no external generative models, and adds less than 10% training time overhead. Evaluated on top of CLIP and FLIP across multiple architectures and datasets, SNAP delivers consistent improvements on zero-shot retrieval, zero-shot classification, and linear probe evaluation.
• Abstract（参考訳）: 表現空間で生成される合成強陰性は、単調な自己教師付き学習に有効であることが証明されているが、このアイデアを視覚言語による事前学習に転送することは簡単ではない。 本稿では,6つの表現空間合成戦略を分析し,視覚言語事前学習への移行における2つの障害モードを同定する。 また,合成硬度負のトレーニングや学習可能な温度でのロジットスケールの飽和も観察し,温度の修正により下流性能が向上することが確認された。 この幾何解析を用いて、いずれのモードからも正の正を伴わないモード内強陰性を生成するSNAPを提案し、両方の障害モードを完全に回避する。 SNAPはモデルに依存しず、外部生成モデルを必要としない。 SNAPは、複数のアーキテクチャとデータセットにわたるCLIPとFLIPの上に評価され、ゼロショット検索、ゼロショット分類、線形プローブ評価において一貫した改善を提供する。

関連論文リスト

• Alignment via Training Against Probes Without Losing Monitorability [74.20363742615332]
  モデルアクティベーションにおける望ましくない特性を直接学習信号として検出するプローブを用いたプローブ誘導微調整について検討した。 トレーニング中に更新されないプローブに対するトレーニングは、容易に活用可能な目標であることが分かりました。 プローブ誘導による微調整は、DPOや推論時のステアリングよりも安全性と実用性のトレードオフが向上すると同時に、脱獄や脱獄攻撃に対してかなり堅牢である。
  論文  参考訳（メタデータ） (2026-09-29T23:03:54Z)
• Simulating Students or Sycophantic Problem Solving? On Misconception Faithfulness of LLM Simulators [55.617099475539305]
  大規模言語モデル(LLM)は、生徒のような反応を流線型に生成できるため、AI教師や人間教育者のトレーニングや評価のための模擬学生として魅力的である。 しかし、このようなシミュレータは、実際の学生と出力の類似性によって評価され、相互作用中に一貫性のある誤解を持つ学生のように振る舞うかどうかによって評価される。 シミュレーションが誤解駆動の信念状態を維持しているかどうかを判断し、フィードバックが誤解に対処した場合に選択的に更新する。
  論文  参考訳（メタデータ） (2026-05-12T20:55:23Z)
• FALCON: False-Negative Aware Learning of Contrastive Negatives in Vision-Language Pretraining [5.200545764106177]
  我々は、ハードと偽の負のトレードオフのバランスをとる学習ベースのミニバッチ構築戦略であるFALCONを提案する。 FALCONは、ミニバッチ構築中に各アンカーインスタンスの適切な硬さの負のサンプルを動的に選択する負のマイニングスケジューラを使用している。
  論文  参考訳（メタデータ） (2025-05-16T12:50:05Z)
• Robust Training of Temporal GNNs using Nearest Neighbours based Hard Negatives [44.49975766084011]
  時間グラフニューラルネットワークTgnnのトレーニングは、ランダムサンプリングに基づく教師なし損失によって列挙される。 そこで我々はTgnnの教師なし学習を改良し,一様負サンプリングを重要ベース負サンプリングに置き換える手法を提案する。 提案した負のサンプリングに基づいて損失をトレーニングしたTgnnは、一貫した優れた性能を示すことを示す。
  論文  参考訳（メタデータ） (2024-02-14T15:27:53Z)
• Hallucination Improves the Performance of Unsupervised Visual Representation Learning [9.504503675097137]
  本研究では,さらにコントラストを増すために,効率よく追加の正のサンプルを生成できるHalucinatorを提案する。 Hallucinatorは識別可能で、機能領域で新しいデータを生成する。 顕著なことに,提案した幻覚器が様々な対照的な学習モデルによく当てはまることを実証的に証明する。
  論文  参考訳（メタデータ） (2023-07-22T21:15:56Z)
• HaLP: Hallucinating Latent Positives for Skeleton-based Self-Supervised Learning of Actions [69.14257241250046]
  ラベルなしの骨格に基づく行動認識のためのモデル学習のための新しいコントラスト学習手法を提案する。 私たちの重要な貢献は、単純なモジュールであるHalucinate Latent Positivesのコントラスト学習へのHalucinate HaLPです。 実験を通して、標準のコントラスト学習フレームワーク内でこれらの生成した正を使用すれば、一貫した改善がもたらされることを示す。
  論文  参考訳（メタデータ） (2023-04-01T21:09:43Z)
• Understanding and Mitigating Overfitting in Prompt Tuning for Vision-Language Models [108.13378788663196]
  本稿では, トレーニング過程全体において, 低ランク部分空間にバックプロパゲーションの勾配を投影するSubspace Prompt Tuning(SubPT)を提案する。 我々はCoOpにノベル・ラーナー・フィーチャー(NFL)を装備し、学習したプロンプトをトレーニングセット以外の新しいカテゴリに一般化する能力を高める。
  論文  参考訳（メタデータ） (2022-11-04T02:06:22Z)
• Understanding Collapse in Non-Contrastive Learning [122.2499276246997]
  モデルがデータセットサイズに対して小さすぎる場合,SimSiam表現が部分次元崩壊することを示す。 本稿では,この崩壊の度合いを計測し,微調整やラベルを使わずに下流のタスク性能を予測できる指標を提案する。
  論文  参考訳（メタデータ） (2022-09-29T17:59:55Z)
• SCE: Scalable Network Embedding from Sparsest Cut [20.08464038805681]
  大規模ネットワーク埋め込みは、教師なしの方法で各ノードの潜在表現を学習することである。 このような対照的な学習手法の成功の鍵は、正と負のサンプルを引き出す方法である。 本稿では, 負のサンプルのみを用いた教師なしネットワーク埋め込みのためのSCEを提案する。
  論文  参考訳（メタデータ） (2020-06-30T03:18:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。