論文の概要: TRACE: Transparent Retrieval for Abstract Concept Evaluation
- arxiv url: http://arxiv.org/abs/2609.26168v1
- Date: Tue, 11 Aug 2026 06:42:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.91047
- Title: TRACE: Transparent Retrieval for Abstract Concept Evaluation
- Title(参考訳): TRACE:抽象概念評価のための透明検索
- Abstract要約: 最近の研究報告では、視覚言語モデル(VLM)は、繰り返し参照ゲームにおいて安定した参照を確立するのに苦労している。
我々は6つの既製のVLMと、Emphno学習した視覚表現を用いた透明なベースラインを比較した。
同一の試験では、透明なベースラインは最強のVLMと一致し、CLIPとOpenCLIPを含む他の5つよりも大幅に優れている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent work reports that vision--language models (VLMs) struggle to establish and maintain stable reference in repeated reference games. Rather than ask which VLM does best, we ask a more basic question: do you need a large pretrained VLM for this at all? On grounding a single director utterance to one of twelve tangram silhouettes, we compare six off-the-shelf VLMs against a transparent baseline that uses \emph{no learned visual representation}: classical SIFT keypoint matching and a signal-quality index over retrieved images. On identical trials, the transparent baseline matches the strongest VLM (SigLIP-large) and significantly outperforms the other five, including every CLIP and OpenCLIP variant. The baseline additionally retrieves external images, so this is not a matched-information comparison; what it shows is that a learned \emph{visual} representation is not the bottleneck for this task: given retrieved images, a shape-appropriate classical similarity suffices. Along the way we find that abstract-grounding ability varies widely across VLMs (15--39\% top-1; chance 8.33\%, humans $\approx$77--80\%), so the weakness is model-specific rather than intrinsic to contrastive pretraining; on the 1{,}013-shape KiloGram benchmark the pattern generalizes for CLIP, with per-shape difficulty tracking human shape-nameability. The pipeline is a classical, inspectable alternative rather than a learned one. We close by sketching how an explicit, inspectable representation of listener-side pact state could carry this approach into interactive multi-turn reference, which we leave to future work. Code available in supplementary material.
- Abstract(参考訳): 最近の研究報告では、視覚言語モデル(VLM)は、繰り返し参照ゲームにおいて安定した参照を確立するのに苦労している。
どのVLMが最善を尽くすかを尋ねるのではなく、より基本的な質問をする。
12個のタングラムのシルエットのうちの1つに単一のディレクタの発声を基盤として、6つのオフザシェルフのVLMと、'emph{no learned visual representation}(古典的なSIFTキーポイントマッチングと、取得した画像上の信号品質指標)を用いた透明なベースラインを比較した。
同一の試験では、透明なベースラインは最強のVLM(SigLIP-large)と一致し、CLIPとOpenCLIPの亜種を含む他の5種よりも大幅に優れていた。
ベースラインは外部画像も検索するので、これは一致した情報比較ではなく、学習された \emph{visual} 表現は、このタスクのボトルネックではない。
抽象的なグラウンド能力はVLM(15--39\% top-1; chance 8.33\%, human $\approx$77--80\%)で大きく異なるため、その弱点は対照的な事前トレーニングではなくモデル固有のものである。
パイプラインは、学習されたパイプラインではなく、古典的で検査可能な代替品です。
我々は、リスナー側のパクト状態の明示的で検査可能な表現が、このアプローチをインタラクティブなマルチターン参照へと持ち込むことができるのかをスケッチすることで、閉じた。
追加資料で利用可能なコード。
関連論文リスト
- Seeing Before Answering: Training-Free Visual Layer Profiling for Vision-Language Models [38.82047665515676]
LLaVA-style Vision-Language Models (VLM) は、視覚バックボーンの固定された後期層から言語モデルに視覚トークンを渡す。
徹底的なレイヤワイド推論でそのレイヤを見つけるのは違法にコストがかかり、固定されたデフォルトが存在しない。
本稿では,視覚的エントロピー (VDE) とグロモフ・ワッサーシュタイン (GW) 距離 (Gromov-Wasserstein) として,サンプルレベルの視覚的埋め込みを用いて計算する行列ベースのエントロピーについて検討する。
論文 参考訳(メタデータ) (2026-08-17T08:35:37Z) - SupScene: Learning Overlap-Aware Global Descriptor for Unconstrained SfM [10.006619357851843]
SupSceneは、Structure-from-Motion(SfM)に類似した幾何学的性質の重なり合う画像対を見つけるのに適した、グローバルな記述子を学習する新しいソリューションである。
提案手法は,NetVLADを著しく上回りながら,トレーニング可能なパラメータを無数に導入し,最先端の性能を実現する。
論文 参考訳(メタデータ) (2026-01-17T06:28:47Z) - HQ-CLIP: Leveraging Large Vision-Language Models to Create High-Quality Image-Text Datasets and CLIP Models [15.877790469608662]
画像とテキストのペアデータの品質を向上させるために,LVLM駆動型データ精錬パイプラインを導入する。
否定的な記述と短いタグを組み込むことで、従来のコントラスト学習を拡張する訓練パラダイムを提案する。
提案手法は, ゼロショット分類, クロスモーダル検索, きめ細かな視覚理解タスクにおける最先端性能を実現する。
論文 参考訳(メタデータ) (2025-07-30T07:21:36Z) - African or European Swallow? Benchmarking Large Vision-Language Models for Fine-Grained Object Classification [53.89380284760555]
textttFOCI (textbfFine-fine textbfObject textbfClasstextbfIfication) は、きめ細かいオブジェクト分類のための難しい多重選択ベンチマークである。
textttFOCIxspaceは、ImageNet-21kから4つのドメイン固有のサブセットで5つの一般的な分類データセットを補完する。
論文 参考訳(メタデータ) (2024-06-20T16:59:39Z) - Aligning Modalities in Vision Large Language Models via Preference
Fine-tuning [67.62925151837675]
本研究では,幻覚の問題をアライメント問題とみなし,好みのチューニングで対処する。
具体的には,AIモデルを用いたフィードバックデータを生成するPOVIDを提案する。
提案手法は,好ましくないデータを生成するための2段階のアプローチである。
広範ベンチマークを用いた実験では、幻覚を減らすだけでなく、標準ベンチマークでのモデル性能を向上させることができ、従来の手法よりも優れていた。
論文 参考訳(メタデータ) (2024-02-18T00:56:16Z) - ProbVLM: Probabilistic Adapter for Frozen Vision-Language Models [69.50316788263433]
本稿では,事前学習された視覚言語モデルの埋め込みに対する確率分布を推定する確率的アダプタProbVLMを提案する。
本稿では,検索タスクにおける不確実性埋め込みのキャリブレーションを定量化し,ProbVLMが他の手法よりも優れていることを示す。
本稿では,大規模な事前学習型潜伏拡散モデルを用いて,埋め込み分布を可視化する新しい手法を提案する。
論文 参考訳(メタデータ) (2023-07-01T18:16:06Z) - Fine-tuned CLIP Models are Efficient Video Learners [54.96069171726668]
画像テキストペアによる大規模マルチモーダルトレーニングは、CLIPモデルに強力な一般化を与える。
Video Fine-Tuned CLIP (ViFi-CLIP) ベースラインは一般的に、画像からビデオへの領域ギャップを埋めるのに十分である。
論文 参考訳(メタデータ) (2022-12-06T18:59:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。