論文の概要: Does Vision-Language Pretraining Granularity Matter? A Controlled Evaluation of Vision-Language Objectives Across Chest X-Ray Interpretation Tasks
- arxiv url: http://arxiv.org/abs/2609.31985v1
- Date: Fri, 25 Sep 2026 20:43:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 04:06:00.009099
- Title: Does Vision-Language Pretraining Granularity Matter? A Controlled Evaluation of Vision-Language Objectives Across Chest X-Ray Interpretation Tasks
- Title（参考訳）: 視線照準は粒度を予知するか? 胸部X線解釈課題における視線照準対象の制御評価
- Abstract要約: 我々は、グローバルとローカルのコントラスト学習、キャプション、およびそれらの組み合わせにまたがる9つの目標を訓練する。
胸部X線検査を5回行ったところ,空間的粒度の増加が認められた。
一つの目的が普遍的に最適であり、目的のタイプ、粒度、タスクの相互作用が下流のパフォーマンスを左右する。
- 参考スコア（独自算出の注目度）: 12.074798555934855
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision-language pretraining objectives differ in the spatial granularity of their supervision, yet the implications of this distribution for chest X-ray interpretation remain underexplored. We present a controlled study that isolates the pretraining objective: holding the encoder and pretraining data fixed, we train nine objectives spanning global and local contrastive learning, captioning, and their combinations, and evaluate across five chest X-ray tasks of increasing spatial granularity. We find that (i) pretraining granularity aligns with task granularity at the extremes, with local objectives leading on abnormality detection and global objectives on classification; (ii) local objectives are surprisingly competitive on global-level generation and question answering tasks; (iii) the merits of captioning and contrastive learning reverse across granularity levels; and (iv) among combinations, mixing captioning and contrastive supervision is strongest on classification and in distribution generation, while pairing two captioning objectives generalizes best on zero-shot report generation. These results show that no single objective is universally optimal, and that the interaction of objective type, granularity, and task governs downstream performance.
- Abstract（参考訳）: 視覚言語事前学習の目的は、その監督の空間的粒度によって異なるが、胸部X線解釈におけるこの分布の影響は未解明のままである。
本研究は, エンコーダの保持と事前学習データを固定し, グローバルおよびローカルのコントラスト学習, キャプション, それらの組み合わせにまたがる9つの目標を訓練し, 空間的粒度を増大させる5つの胸部X線タスクについて評価する。
私たちはそれを見つける。
一 未修粒度は、極端にタスクの粒度と整合し、局所的目的が異常検出に至り、大域的目標が分類される。
(二)グローバルレベルの生成及び質問応答タスクにおいて、地域目標が驚くほど競争的であること。
三 微粒度にまたがるキャプティング及びコントラスト学習のメリット
(4) 組み合わせの中では, キャプションとコントラストの混在が, 分類と分布生成に強く, ペアリングのキャプション目的はゼロショットレポート生成に最善である。
これらの結果から, 目的物の種類, 粒度, タスクの相互作用は下流のパフォーマンスを左右することがわかった。
関連論文リスト
- Two Global Crops Suffice: Locating Semantic Emergence in DINO-Style Self-Supervised Learning [25.80240305476717]
DINOスタイルの目的によって訓練された自己監督型視覚変換器は、視覚タスク全体にわたって顕著な意味表現品質を示す。
意味表現は、主に、同じ画像インスタンスの幾何学的に異なるグローバルビュー間の一貫性を強制することに由来することを示す。
パッチレベルのマスキングの目的は、このグローバルアライメントと共同でトレーニングされた場合にのみ意味論的に強化される。
論文 参考訳（メタデータ） (2026-09-23T14:29:13Z) - LeVLJEPA: End-to-End Vision-Language Pretraining Without Negatives [26.486296167342672]
LeVLJEPA(LeVLJEPA)は、世界初の非コントラストなエンドツーエンドの視覚言語事前学習法である。
LeVLJEPAは、停止段階の目標とモードごとの分布正規化によるクロスモーダル予測を通じて学習する。
結果として得られたエンコーダは、下流での使用に対して、非常に強力な密なセマンティック機能を提供します。
論文 参考訳（メタデータ） (2026-07-01T11:15:39Z) - LIBERO-X: Robustness Litmus for Vision-Language-Action Models [32.29541801424534]
この研究は、評価とデータの観点からVLAベンチマークを体系的に再考する。
LIBERO-Xは階層的評価プロトコルを特徴とするベンチマークで,3つのコア機能を対象とした進行難度レベルを示す。
代表的なVLAモデルを用いた実験では、累積摂動下での大幅な性能低下が示されている。
論文 参考訳（メタデータ） (2026-02-06T09:59:12Z) - RegionReasoner: Region-Grounded Multi-Round Visual Reasoning [69.75509909581133]
RegionReasonerは視覚的推論のための強化学習フレームワークである。
これは、それぞれの推論トレースに対応する参照境界ボックスを明示的に引用することを要求することによって、根拠付き推論を強制する。
RegionReasonerは、基礎となる忠実さとグローバルなセマンティックアライメントを組み合わせた構造化された報酬で最適化されている。
論文 参考訳（メタデータ） (2026-02-03T16:52:16Z) - Revisiting Multi-Task Visual Representation Learning [52.93947931352643]
本稿では,マルチタスク・ビジュアル事前学習フレームワークであるMTVを紹介する。
我々は、高容量の「エキスパート」モデルを利用して、高密度で構造化された擬似ラベルを大規模に合成する。
以上の結果から,MTV が "Best-of-both-worlds" のパフォーマンスを達成できることが示唆された。
論文 参考訳（メタデータ） (2026-01-20T11:59:19Z) - Patch-Level Kernel Alignment for Dense Self-Supervised Learning [7.5866326278176075]
Patch-level Kernel Alignment (PaKA) は、非パラメトリックなカーネルベースのアプローチで、事前学習した視覚エンコーダの高密度表現をポスト(pre)トレーニングで改善する。
本フレームワークは,事前学習モデル上に軽量な後学習段階を施すことにより,高密度表現を改善する。
1つのGPUで14時間追加のトレーニングを行うだけで、この手法は様々な高密度ビジョンベンチマークで最先端のパフォーマンスを達成することができる。
論文 参考訳（メタデータ） (2025-09-06T05:42:32Z) - COSMOS: Cross-Modality Self-Distillation for Vision Language Pre-training [49.2684130383925]
視覚言語事前学習のためのCOSMOS: CrOSs-modality Self-distillationを提案する。
新たなテキストクロッピング戦略とクロスアテンションモジュールを自己教師型学習フレームワークに統合する。
さまざまなゼロショットダウンストリームタスクにおいて、以前の強いベースラインを一貫して上回ります。
論文 参考訳（メタデータ） (2024-12-02T18:56:06Z) - Integrating Self-supervised Speech Model with Pseudo Word-level Targets
from Visually-grounded Speech Model [57.78191634042409]
擬似単語レベルのターゲットを学習プロセスに統合するフレームワークであるPseudo-Word HuBERT(PW-HuBERT)を提案する。
4つの音声言語理解(SLU)ベンチマークによる実験結果から,意味情報の収集におけるモデルの有用性が示唆された。
論文 参考訳（メタデータ） (2024-02-08T16:55:21Z) - Structural Adversarial Objectives for Self-Supervised Representation
Learning [19.471586646254373]
本稿では,自己指導型表現学習の差別化を,構造モデリングの責務を付加することで行うことを提案する。
ネットワーク上の効率的なスムーズ性正規化器と組み合わせて、これらの目的は識別器を案内し、情報表現の抽出を学ぶ。
実験により,GANを自己指導対象に組み込むことで,表現学習の観点から評価された差別化要因が,対照的な学習アプローチによって訓練されたネットワークと競合することを示す。
論文 参考訳（メタデータ） (2023-09-30T12:27:53Z) - Weakly-supervised Contrastive Learning for Unsupervised Object Discovery [52.696041556640516]
ジェネリックな方法でオブジェクトを発見できるため、教師なしのオブジェクト発見は有望である。
画像から高レベルな意味的特徴を抽出する意味誘導型自己教師学習モデルを設計する。
オブジェクト領域のローカライズのための主成分分析(PCA)を導入する。
論文 参考訳（メタデータ） (2023-07-07T04:03:48Z) - Discrete Factorial Representations as an Abstraction for Goal
Conditioned Reinforcement Learning [99.38163119531745]
離散化ボトルネックを適用することにより,目標条件付きRLセットアップの性能が向上することを示す。
分布外目標に対する期待した回帰を実験的に証明し、同時に表現的な構造で目標を指定できるようにします。
論文 参考訳（メタデータ） (2022-11-01T03:31:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。