論文の概要: Answer-Conditioned Chain-of-Thought Distillation for Few-Shot Industrial Vision with Small VLMs
- arxiv url: http://arxiv.org/abs/2607.10666v1
- Date: Sun, 12 Jul 2026 09:23:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 15:40:48.501767
- Title: Answer-Conditioned Chain-of-Thought Distillation for Few-Shot Industrial Vision with Small VLMs
- Title(参考訳): 小型VLMを用いたファウショット産業ビジョンのための耐火性連鎖蒸留法の開発
- Abstract要約: 本稿では,新しい産業課題に迅速に適応するための,回答条件付きチェーン・オブ・シークレット(CoT)蒸留法を提案する。
フロンティアVLMは、各トレーニング画像とその正しいラベルを受信し、正当化された視覚的説明を生成する。
我々は,3つの画像モダリティにまたがる4つの産業分類タスクを,タスク毎に18から30のラベル付き画像のみを用いて検証した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deploying AI-based visual inspection in manufacturing is hard because requirements change often, new defect types appear, and large labeled datasets are rarely available. We propose answer-conditioned chain-of-thought (CoT) distillation for rapidly adapting small vision-language models (VLMs) to new industrial tasks using minimal labeled data. A frontier VLM receives each training image along with its correct label and generates a justified visual explanation. A 3B-parameter model is then fine-tuned on these reasoning-augmented examples via LoRA. By conditioning on correct answers, we ensure all training reasoning is directed toward the correct conclusion, which is critical because frontier models score as low as 24.1% on our hardest task. We validate on four industrial classification tasks spanning three image modalities using only 18 to 30 labeled images per task. Across 4 seeds per task (32 training runs), our method outperforms direct fine-tuning on all 16 seed-task combinations, with mean improvements of +1.7 to +4.4 percentage points. A controlled equal-budget experiment confirms the improvement comes from reasoning quality, not additional training steps. An unconditioned baseline demonstrates that with out answer-conditioning, wrong reasoning degrades performance by 17.8 percentage points. On weld radiograph classification, the fine-tuned 3B model outperforms GPT-4.1 by 10.0pp using just 24 training images.
- Abstract(参考訳): 要求が頻繁に変更され、新しい欠陥タイプが出現し、大きなラベル付きデータセットがほとんど利用できないため、製造にAIベースの視覚検査をデプロイすることは難しい。
最小ラベル付きデータを用いた産業タスクに迅速に適応する小型視覚言語モデル(VLM)のための応答条件チェーン・オブ・思想(CoT)蒸留法を提案する。
フロンティアVLMは、各トレーニング画像とその正しいラベルを受信し、正当化された視覚的説明を生成する。
3Bパラメータモデルは、LoRAを介してこれらの推論拡張された例に基づいて微調整される。
正しい回答を条件づけることで、全てのトレーニングの推論が正しい結論に向かっていることを保証します。
我々は,3つの画像モダリティにまたがる4つの産業分類タスクを,タスク毎に18から30のラベル付き画像のみを用いて検証した。
1タスクあたり4つのシード(32回のトレーニング実行)にまたがって、本手法は16のシードタスクの組み合わせで直接微調整を行い、+1.7から+4.4のパーセンテージで改善した。
コントロールされた等予算の実験では、改善は推論品質によるものであり、追加のトレーニングステップではないことが確認されている。
無条件の基準線は、解答条件が切れると、誤った推論が性能を17.8ポイント低下させることを示している。
溶接X線分類では、細調整された3Bモデルは、たった24のトレーニング画像を使用して、GPT-4.1を10.0ppで上回る。
関連論文リスト
- HALDETECT at ImageEval 2026 Shared Tasks: Answer-First Contrastive Grounding with QLoRA [0.0]
本稿では,ImageEval 2026の英語幻覚検出トラック(Task 1b)のシステムであるHALDETECTについて述べる。
我々は、その項目を1つの対照的な決定として、その説明の前に回答を出力し、色/テクスチャ、形/形、コンテキストに関する構造的推論を行う。
最良入力アダプタQwen2.5-VL-7B-Instruct with 4bit QLoRA while frozen the vision encoder and reach Contrastive Instability (CI) 0.035 on the 1000-item test set。
論文 参考訳(メタデータ) (2026-09-10T08:35:29Z) - CEPO: RLVR Self-Distillation using Contrastive Evidence Policy Optimization [50.59956036193097]
検証可能な報酬(RLVR)を用いた強化学習における正しい解を生成するモデル
各トークンは、決定的な推論ステップであれ、文法的なフィラーであれ、同じ報酬信号を受信する。
コントラストエビデンスポリシー最適化(CEPO)を提案する。
CEPOは、全てのトークンに対してよりシャープな質問をする:「正しい答えは、このトークンを好むか?」が、「正しい答えは、正しい答えは、それを好む一方で、間違った答えはそれを好まないか?」。
論文 参考訳(メタデータ) (2026-05-19T06:46:19Z) - 20/20 Vision Language Models: A Prescription for Better VLMs through Data Curation Alone [17.84750728317393]
データキュレーションは、20のVLMベンチマークにおいて、平均で+11.7ppの性能を向上できることを示す。
2BではInternVL3.5-2Bを9.9ppで17倍のトレーニング計算で上回りました。
データキュレーションは、より良いVLMを構築するための高平均ツールであり、最大150倍のトレーニング計算で最前線の精度に達する。
論文 参考訳(メタデータ) (2026-05-12T01:51:03Z) - Understanding vision transformer robustness through the lens of out-of-distribution detection [59.72757235382676]
量子化はメモリと推論コストを削減し、性能損失のリスクを負う。
本稿では, 量子化小型可変ビジョントランス (DeiT, DeiT3, ViT) の共通アウト・オブ・ディストリビューション (OOD) データセットにおける挙動について検討する。
論文 参考訳(メタデータ) (2026-02-01T22:00:59Z) - DatBench: Discriminative, Faithful, and Efficient VLM Evaluations [17.234602646114997]
経験的評価は、基礎モデルにおける研究の進展を導く主要なコンパスとして機能する。
評価が満足すべき3つのデシラタを提案する。モダリティと応用への忠実さ、品質の異なるモデル間の識別可能性、計算効率である。
私たちはDatBench-Fullをリリースした。DatBench-Fullは9つのVLM機能にまたがる33のデータセットからなるクリーンな評価スイートであり、DatBenchは平均13倍のスピードアップを達成する識別サブセットである。
論文 参考訳(メタデータ) (2026-01-05T18:07:51Z) - HoneyBee: Data Recipes for Vision-Language Reasoners [90.83745691506329]
いくつかのデータキュレーション手法を導入し、視覚言語モデル(VLM)への影響について検討する。
我々は、コンテキスト(イメージと質問ペア)ソースの効果を分析し、対象とするデータ介入を実装し、画像、質問、チェーン・オブ・思想(CoT)ソリューションのスケールアップを探る。
これらの知見に触発されたHoneyBeeは、大規模で高品質なCoT推論データセットであり、350万のイメージ検索ペアからなる2.5万のサンプルがある。
論文 参考訳(メタデータ) (2025-10-14T07:23:44Z) - STELAR-VISION: Self-Topology-Aware Efficient Learning for Aligned Reasoning in Vision [24.162895928364062]
トポロジを意識した推論のためのトレーニングフレームワークSTELAR-Visionを紹介する。
コアとなるTopoAugは、さまざまなトポロジカルな構造でトレーニングを充実させる合成データパイプラインだ。
MATH-VとVLM-S2Hでは、STELAR-Visionはベースモデルの精度を9.7%向上し、より大型のQwen2VL-72B-インストラクションを7.3%上回っている。
論文 参考訳(メタデータ) (2025-08-12T07:27:50Z) - Fine-Grained Image Recognition from Scratch with Teacher-Guided Data Augmentation [40.72028191529961]
きめ細かい画像認識(FGIR)は、視覚的に類似したサブカテゴリをより広いクラスで識別することを目的としている。
既存のFGIRメソッドのほとんどは、ImageNetのような大規模データセットで事前訓練されたバックボーンに依存している。
我々は,細粒度教師モデルを用いて,データ認識の強化と教師の監督の弱さを統合した新しいトレーニングフレームワークTGDAを導入する。
論文 参考訳(メタデータ) (2025-07-16T11:37:33Z) - LENS: Multi-level Evaluation of Multimodal Reasoning with Large Language Models [59.0256377330646]
Lensは3.4Kの現代画像と8つのタスクと12の日次シナリオをカバーする60K以上の人間による質問のベンチマークである。
このデータセットは本質的に、基本的な知覚から構成的推論に至るまで、画像不変のプロンプトを処理するためのMLLMの評価をサポートする。
我々は,Qwen2.5-VL-72B,InternVL3-78B,GPT-4oおよび2つの推論モデルQVQ-72B-previewとKim-VLなどの15以上のフロンティアMLLMを評価する。
論文 参考訳(メタデータ) (2025-05-21T15:06:59Z) - Improve Vision Language Model Chain-of-thought Reasoning [86.83335752119741]
視覚言語モデル(VLM)におけるチェーン・オブ・シント(CoT)推論は、解釈可能性と信頼性を向上させるために不可欠である。
我々は,より詳細な回答を必要とする推論タスクに対して,短時間でVLMを訓練することはよくないことを示す。
論文 参考訳(メタデータ) (2024-10-21T17:00:06Z) - CPT: Colorful Prompt Tuning for Pre-trained Vision-Language Models [101.5066760592534]
我々は、視覚言語モデル(VL-PTM)をチューニングするための新しいパラダイムであるCPT(Cross-modal Prompt Tuning)を提案する。
CPTは、画像とテキストにおける色に基づく共参照マーカーを用いて、視覚的な接点をブランクの補間問題に修正し、ギャップを最大に軽減する。
総合的な実験結果から、VL-PTMの調整は、細調整されたVL-PTMよりも大きなマージンで優れていたことが示唆された。
論文 参考訳(メタデータ) (2021-09-24T08:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。