論文の概要: Near-Duplicate Image Selection Transfers Preferences in Vision-Language Models
- arxiv url: http://arxiv.org/abs/2610.27943v1
- Date: Tue, 20 Oct 2026 09:51:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.754621
- Title: Near-Duplicate Image Selection Transfers Preferences in Vision-Language Models
- Title(参考訳): 視覚言語モデルにおける近距離画像選択の選好
- Abstract要約: 対象選好キュレーターの選択を訓練した学生は、画像のない読み出しにおいて、対向対向対向対向対向比がより高いことを示す。
身近なコピーの非重複的な選択であっても、ソースの写真やキャプションを固定することで、生徒のターゲット対相対的な読み出しを切り替えることができる。
- 参考スコア(独自算出の注目度): 14.910031187800563
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Subliminal learning is the phenomenon in which a model transmits its preferences to another model through data that do not explicitly express them. As models increasingly curate training data for other models, we ask whether this transfer can arise from choosing among near-duplicate images while keeping the source photographs and human-written captions fixed. For each photograph, a curator selects one of eight near-duplicate variants by caption likelihood, without target-specific prompts. Students trained on target-preferring curators' selections show higher mean target-versus-alternatives log-likelihood ratios in an image-free readout than students trained on neutral selections. Under a prespecified decision rule, this directional shift appears for an owl target in LLaVA-1.5, Qwen2.5-VL, Qwen3-VL, and Gemma 4, with curators and students initialized from the same base checkpoint, and target rotations move it toward camels, oak trees, and a political figure. The owl target-selected student also scores above all count-matched random-reselection students in three models and above 55 of 60 in LLaVA-1.5, and Qwen3-VL shows the shift again on a new source bank with newly trained curators. Its size depends on dataset size, learning rate, and training budget; greedy choices among the eight options move toward the target by 10.4 percentage points in Qwen3-VL and 0.5-1.3 points elsewhere. First-generation students also pass the owl preference to a second generation through captions without explicit owl mentions in LLaVA-1.5 and Qwen3-VL. Thus even a deduplication-style choice among near-identical copies can shift students' target-relative readouts with source photographs and captions fixed; the tested linear probes classify the selecting arm with accuracies up to 59.7% (chance 50%).
- Abstract(参考訳): サブリミナルラーニング(サブリミナルラーニング)とは、モデルが明示的に表現しないデータを通じて、その好みを他のモデルに伝達する現象である。
モデルが他のモデルのトレーニングデータをキュレートするにつれて、ソース写真や人書きキャプションの固定を保ちながら、ほぼ重複した画像の中から選択することで、移行が発生するかどうかを問う。
各写真について、キュレーターは、ターゲット固有のプロンプトなしで、キャプションにより8つの近距離変種のうちの1つを選択する。
対象選好キュレーターの選択を訓練した学生は、中立選好で訓練した学生よりも、画像のない読み出しにおいて平均対向対向対向対向対向比が高かった。
LLaVA-1.5、Qwen2.5-VL、Qwen3-VL、Gemma 4のフクロウターゲットに、同じベースチェックポイントからキュレーターと学生が初期化され、ターゲットローテーションがラクダ、オークツリー、政治フィギュアへと移動する。
対象とする学生はLLaVA-1.5の3つのモデルで全ての無作為選択の学生の55以上、Qwen3-VLは新しく訓練されたキュレーターを持つ新しいソースバンクに再びシフトを示す。
そのサイズはデータセットのサイズ、学習率、トレーニング予算に依存しており、8つの選択肢の中から、Qwen3-VLで10.4ポイント、他の場所で0.5-1.3ポイントのグレードがターゲットに向かって移動している。
第1世代の学生は、LLaVA-1.5とQwen3-VLに明示的なフクロウの言及がないキャプションを通してフクロウの好みを第2世代に渡した。
したがって、身近なコピー間の重複スタイルの選択でさえ、学生のターゲット関係の読み出しを、ソース写真やキャプションの固定によってシフトさせることができ、テストされた線形プローブは、選択アームを59.7%まで(50%以上)の精度で分類する。
関連論文リスト
- MJev-Spatial: System One Spatial Intelligence via Native Attention Matching [19.6013702995563]
MJev-Spatialは3種類の空間理解タスクに対処するシステム1のマルチモーダル決定モデルである。
MJev-Spatialは各候補をクラスとして扱い、バックボーンの事前訓練されたクエリとキープロジェクションを使用してスコア付けする。
Qwen3.5-4Bをベースとして12.3Mの質問応答ペアで訓練され、MJev-Spatialは7つのテストされた自己回帰モデルで最高スコア(65.64%)を記録した。
論文 参考訳(メタデータ) (2026-10-15T17:37:50Z) - Kernel-Based Steering of CLIP with Vision-Language Model Preferences [23.632553253302444]
大きな視覚言語モデル(VLM)は視覚的類似性を判断できるが、その判断は効率的な比較のためにコンパクトな画像埋め込みとして直接利用することはできない。
本稿では,教師の埋め込みを使わずにペアの判断から学習するカーネルベースのステアリング手法であるASKを紹介する。
適応後、検索はVLMコールなしでCLIPイメージの埋め込みとコサイン類似性を使用する。
論文 参考訳(メタデータ) (2026-09-26T03:58:27Z) - Picking the Right Image to Classify: Reliable-Input Selection in Teledermatology [37.91382919873667]
同じケースの複数の画像が存在する場合、精度を向上させる自然な方法は、モデルが正しく分類する可能性が高い画像を選択することである。
存在時に正しく分類された画像を選択するオラクルは、6つの皮膚科学データセットと9つの凍結した背骨の平均20パーセントの重み付きF1を上昇させる。
筆者らは, 埋め込み規範, 画像間の近傍のコンセンサス, 摂動下での予測の安定性, モデルの自信の4つのトレーニングデータフリーセレクタをベンチマークした。
論文 参考訳(メタデータ) (2026-08-17T07:28:26Z) - Once-For-All: A Train-Once and Select-Anytime Framework for Multimodal Instruction Tuning [5.733450405369182]
我々は、再利用可能なセレクタを一度トレーニングし、再計算なしで任意のデータセットやモデルに適用するデータ選択フレームワークOFAを提案する。
OFAは凍ったCLIP空間でマルチモーダル命令をクラスタ化し、クラスタ構造から擬似ラベルを導き、ほんの数回だけ軽量セレクタを訓練する。
トレーニングが完了すると、凍結セレクタはデータセットとモデルスケールを直接転送する。
論文 参考訳(メタデータ) (2026-05-26T09:31:20Z) - AVSD: Adaptive-View Self-Distillation by Balancing Consensus and Teacher-Specific Privileged Signals [65.71225905458182]
自己蒸留は、生徒と教師の両方と同じモデルを用いて、言語モデルが自身の軌道から政治学を学ぶことを可能にする。
このセットアップは、別の外部モデルに頼ることなく、密集したトークンレベルのフィードバックを提供する。
複数の特権情報ビューを持つ自己蒸留法であるAVSDを紹介する。
論文 参考訳(メタデータ) (2026-05-20T03:06:36Z) - Probing Visual Language Priors in VLMs [51.016683265437536]
我々は,意図的に分布外画像を特徴付けるベンチマークであるViLPを紹介した。
ViLPの各質問には、3つの潜在的な答えと3つの対応するイメージが結合される。
本稿では,モデルが新たなVQAデータを生成し,ピクセルレベルおよびセマンティックな汚職を適用して,自己学習のための「良いバッド」画像ペアを生成する自己改善フレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-31T17:54:29Z) - DST-Det: Simple Dynamic Self-Training for Open-Vocabulary Object Detection [72.25697820290502]
この研究は、ゼロショット分類によって潜在的に新しいクラスを特定するための単純かつ効率的な戦略を導入する。
このアプローチは、アノテーションやデータセット、再学習を必要とせずに、新しいクラスのリコールと精度を高めるセルフトレーニング戦略として言及する。
LVIS、V3Det、COCOを含む3つのデータセットに対する実証的な評価は、ベースラインのパフォーマンスを大幅に改善したことを示している。
論文 参考訳(メタデータ) (2023-10-02T17:52:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。