論文の概要: 20/20 Vision Language Models: A Prescription for Better VLMs through Data Curation Alone
- arxiv url: http://arxiv.org/abs/2605.11405v2
- Date: Wed, 13 May 2026 01:55:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 17:13:58.882899
- Title: 20/20 Vision Language Models: A Prescription for Better VLMs through Data Curation Alone
- Title(参考訳): 20/20ビジョン言語モデル: データキュレーションによるより良いVLMの定式化
- Abstract要約: データキュレーションは、20のVLMベンチマークにおいて、平均で+11.7ppの性能を向上できることを示す。
2BではInternVL3.5-2Bを9.9ppで17倍のトレーニング計算で上回りました。
データキュレーションは、より良いVLMを構築するための高平均ツールであり、最大150倍のトレーニング計算で最前線の精度に達する。
- 参考スコア(独自算出の注目度): 17.84750728317393
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Data curation has shifted the quality-compute frontier for language-model and contrastive image-text pretraining, but its role for vision-language models (VLMs) is far less established. We ask how far data curation alone can take VLM performance, holding architecture, training recipe, and compute fixed and varying only the training data. Our pipeline, applied to the MAmmoTH-VL single-image subset, lifts performance by +11.7pp on average across 20 public VLM benchmarks (spanning grounding, VQA, OCR/documents, captioning, spatial/3D, counting, charts, math, brand-ID, and multi-image reasoning) and by +11.3pp on average across all nine capability axes of DatBench, our high-fidelity VLM eval suite. At 2B, our curated model surpasses InternVL3.5-2B by 9.9pp at ~17x less training compute and closes the gap to Qwen3-VL-2B to within 1.8pp at ~87x less compute, from pretraining alone. Beyond accuracy, curation delivers four further properties: (1) Reliability: per-capability std across training seeds drops by ~67% and the lift survives a 4k-to-16k context-length sweep; (2) OOD generalization: the 9-eval OOD average rises by +7.2pp, and multi-image BLINK rises by +3.09pp despite single-image-only training, with Visual Correspondence gaining +11.8pp; (3) Behavioral gains beyond benchmarks: across ~1,100 open-ended queries the curated 2B is more honest and more specific than the matched-compute baseline, and more concise and less refusal-prone than a frontier 2B reference; (4) Pareto-dominance on inference cost: at every scale (1B, 2B, 4B) the curated model raises accuracy while lowering response FLOPs vs. the matched-compute baseline, and the curated 4B matches near-frontier accuracy at 3.3x lower response FLOPs than Qwen3-VL-4B. Data curation is a high-leverage tool for building better VLMs, reaching near-frontier accuracy at up to ~150x less training compute.
- Abstract(参考訳): データキュレーションは、言語モデルと対照的な画像テキスト事前学習のための品質計算フロンティアをシフトしてきたが、視覚言語モデル(VLM)におけるその役割は確立されていない。
データキュレーションだけで、VLMのパフォーマンス、アーキテクチャ保持、トレーニングレシピ、修正されたトレーニングデータのみを計算し、変更できるかどうかを問う。
私たちのパイプラインは、MAmmoTH-VLのシングルイメージサブセットに適用され、20のVLMベンチマーク(スパンニンググラウンド、VQA、OCR/ドキュメント、キャプション、空間/3D、カウント、チャート、数学、ブランドID、マルチイメージ推論)で平均+11.7pp、高忠実度VLMevalスイートであるDatBenchの9つの機能軸で平均+11.3ppのパフォーマンスを向上します。
2Bでは,InternVL3.5-2Bを9.9ppのトレーニング計算で上回り,Qwen3-VL-2Bから1.8ppの計算でギャップを埋める。
信頼性: トレーニング種子を67%減らし、リフトが4kから16kのコンテキストスイープに耐える (2) OOD一般化: 9-eval OOD平均値が+7.2pp上昇し、マルチイメージのBLINKが+3.09pp上昇する。
データキュレーションは、より良いVLMを構築するための高平均ツールであり、トレーニング計算の最大150倍の精度で最前線に到達している。
関連論文リスト
- MOSS-VL Technical Report [66.58420246189313]
リアルタイムインタラクションを第一級機能として扱うオープンビジョン言語モデルファミリーであるMOSS-VLを提案する。
言語デコーダは、ゲートされたクロスアテンションを通してのみビジョンに出席する。
オフラインでは、MOSS-VL-Instructは、競合するスケールで競合し、時間的推論ビデオセットをリードする。
論文 参考訳(メタデータ) (2026-08-15T05:12:53Z) - Answer-Conditioned Chain-of-Thought Distillation for Few-Shot Industrial Vision with Small VLMs [0.0]
本稿では,新しい産業課題に迅速に適応するための,回答条件付きチェーン・オブ・シークレット(CoT)蒸留法を提案する。
フロンティアVLMは、各トレーニング画像とその正しいラベルを受信し、正当化された視覚的説明を生成する。
我々は,3つの画像モダリティにまたがる4つの産業分類タスクを,タスク毎に18から30のラベル付き画像のみを用いて検証した。
論文 参考訳(メタデータ) (2026-07-12T09:23:05Z) - Brevity is the Soul of Inference Efficiency: Inducing Concision in VLMs via Data Curation [6.388637009168626]
推論効率は通常、モデルを縮小することによって追求される。
しかし、出力長は膨らみ続けており、標準ツールキットが未修正のまま残しているのはまさにそのコンポーネントです。
ここでは、簡潔さは推論効率の欠けているレバーであり、事前学習したデータキュレーションは、それを引っ張る実践的な方法である、と論じる。
論文 参考訳(メタデータ) (2026-06-24T05:50:28Z) - VisualClaw: A Real-Time, Personalized Agent for the Physical World [76.89211120690028]
2つの原則に基づいて構築された自己進化型マルチモーダルエージェントであるVisualClawを紹介する。
第一に、ハイブリッド符号化は、情報の少ないストリーミングフレームをカスケードゲートでフィルタリングすることにより、デプロイメントコストを低減する。
第二に、スキルの進化により、エージェントは失敗から学び、将来の質問に役立つスキルバンク更新を生成する。
論文 参考訳(メタデータ) (2026-06-15T06:58:22Z) - U-VLM: Hierarchical Vision Language Modeling for Report Generation [20.09433657986766]
トレーニングとアーキテクチャの両方において階層型視覚言語モデリングを可能にするU-VLMを提案する。
U-VLMはCT-RATEとAbdomenAtlas 3.0で、スクラッチからトレーニングされた0.1Bデコーダのみを使用して、最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2026-02-28T05:43:11Z) - PanoEnv: Exploring 3D Spatial Intelligence in Panoramic Environments with Reinforcement Learning [5.308328605042682]
360パノラマ画像は、バーチャルリアリティー、自律運転、総合的なシーン理解のためのロボティクスでますます利用されている。
現在の視覚言語モデル(VLM)は、幾何学的歪みと限定的な3次元監督のため、等角射影(ERP)画像の空間的推論に苦慮している。
合成3D環境から構築した大規模VQAベンチマークであるPanoEnvを紹介する。
我々の7Bモデルは、新しい最先端性能を実現し、全体的な精度を52.93%(+3.59%)、オープンエンド精度を14.83%に改善し、構造化タスク性能を維持した。
論文 参考訳(メタデータ) (2026-02-25T15:12:17Z) - IVRA: Improving Visual-Token Relations for Robot Action Policy with Training-Free Hint-Based Guidance [35.90972175891154]
多くのVision-Language-Action (VLA)モデルは、画像パッチを1Dトークンシーケンスに平坦化し、正確な操作に必要な2D空間キューを弱める。
我々は,モデルに組み込まれた視覚で既に利用可能な親和性ヒントを活用することにより,空間的理解を改善する軽量なトレーニング不要な手法を提案する。
論文 参考訳(メタデータ) (2026-01-22T18:57:13Z) - STEP3-VL-10B Technical Report [115.89015065130127]
STEP3-VL-10Bは、コンパクト効率とフロンティアレベルのマルチモーダルインテリジェンスとのトレードオフを再定義する軽量基盤モデルである。
そこで我々はPallel Coordinated Reasoning(PaCoRe)を実装して,テスト時間計算をスケールし,リソースをスケーラブルな知覚推論に割り当てる。
MMBenchでは92.2%、MMMUでは80.11%、AIME2025では94.43%、MathVisionでは75.95%である。
論文 参考訳(メタデータ) (2026-01-14T17:58:24Z) - Self-Improving VLM Judges Without Human Annotations [74.29324865147838]
自己合成データのみを用いて,人間の好みのアノテーションを使わずにVLM判断モデルを自己学習する枠組みを提案する。
提案手法は,Llama-3.2-11Bマルチモーダル判定を0.38から0.51に改善する。
これらの注釈のない結果の全体的な強みは、VLM能力の急速な向上とともに進化する将来の自己判断の可能性を示している。
論文 参考訳(メタデータ) (2025-12-02T20:52:19Z) - STELAR-VISION: Self-Topology-Aware Efficient Learning for Aligned Reasoning in Vision [24.162895928364062]
トポロジを意識した推論のためのトレーニングフレームワークSTELAR-Visionを紹介する。
コアとなるTopoAugは、さまざまなトポロジカルな構造でトレーニングを充実させる合成データパイプラインだ。
MATH-VとVLM-S2Hでは、STELAR-Visionはベースモデルの精度を9.7%向上し、より大型のQwen2VL-72B-インストラクションを7.3%上回っている。
論文 参考訳(メタデータ) (2025-08-12T07:27:50Z) - Probing Visual Language Priors in VLMs [51.016683265437536]
我々は,意図的に分布外画像を特徴付けるベンチマークであるViLPを紹介した。
ViLPの各質問には、3つの潜在的な答えと3つの対応するイメージが結合される。
本稿では,モデルが新たなVQAデータを生成し,ピクセルレベルおよびセマンティックな汚職を適用して,自己学習のための「良いバッド」画像ペアを生成する自己改善フレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-31T17:54:29Z) - How Far Are We to GPT-4V? Closing the Gap to Commercial Multimodal Models with Open-Source Suites [114.22835695929682]
InternVL 1.5はオープンソースのマルチモーダル大言語モデル(MLLM)である。
マルチモーダル理解において、オープンソースとプロプライエタリな商用モデルの間の能力ギャップを埋める。
論文 参考訳(メタデータ) (2024-04-25T17:59:19Z) - EfficientVLM: Fast and Accurate Vision-Language Models via Knowledge
Distillation and Modal-adaptive Pruning [19.354515754130592]
我々は,大規模な視覚言語モデルをより小さく,より速く,より正確なものに圧縮する蒸留精錬フレームワークを導入する。
EfficientVLMは、6つの視覚層、3つのテキスト層、3つのモーダル融合層からなる高速かつ正確な視覚言語モデルである。
効率的なVLMは、教師モデルの98.4%のパフォーマンスを維持し、推論速度を2.2倍に加速する。
論文 参考訳(メタデータ) (2022-10-14T13:26:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。