論文の概要: Two-Token Features and Small-Large Ensembles for VLM Hallucination Detection
- arxiv url: http://arxiv.org/abs/2609.10244v1
- Date: Wed, 09 Sep 2026 14:34:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:09.06491
- Title: Two-Token Features and Small-Large Ensembles for VLM Hallucination Detection
- Title(参考訳): VLM幻覚検出のための2次元特徴と小型アンサンブル
- Abstract要約: 本稿では,文字レベルVLM幻覚検出システムを提案する。
小さなVLMは、その隠れ状態から2つのトークン特徴を読み取る1つのトークン単位の分類器として微調整される。
我々は,大モデルによって生成された合成幻覚データをアンサンブルの多様性の源として利用する。
- 参考スコア(独自算出の注目度): 3.301917871735725
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present our system for the SHROOM-Visions 2026 shared task on character-level VLM hallucination detection. A small ($4$B-parameter) VLM is fine-tuned as a per-token classifier reading a two-token feature from its own hidden states, and is ensembled with a $\sim$400B zero-shot VLM judge at prediction time. Both components see off-the-shelf OCR of any visible in-image text. We use synthetic hallucination data generated by the large model as a source of ensemble diversity, and use validation to select feature layer, training data and OCR grounding. Our official entry reaches mean Cor $0.487$ / Cor-lbl $0.387$ on the hidden test set, placing $6$th/$28$ (EN), $6$th/$21$ (FR), $8$th/$21$ (IT) and $7$th/$22$ (ZH) on the task's primary Cor-lbl metric.
- Abstract(参考訳): 本稿では,文字レベルVLM幻覚検出における共有タスクSHROOM-Visions 2026を提案する。
小さい (4$B-parameter) の VLM は、隠れた状態から2点の特徴を読み取る1点当たりの分類器として微調整され、予測時に$$\sim$400B のゼロショット VLM の判定器でアンサンブルされる。
どちらのコンポーネントも、画像内テキストのオフザシェルフOCRを見ることができる。
我々は,大モデルが生成した合成幻覚データをアンサンブル多様性の源とし,特徴層,トレーニングデータ,OCRグラウンドの選択にバリデーションを使用する。
Cor-lbl $0.387$, 6$th/$28$ (EN), 6$th/$21$ (FR), 8$th/$21$ (IT), 7$th/$22$ (ZH)をタスクのメインのCor-lblメトリックに配置します。
関連論文リスト
- UniProbe: A Learnable Token-Level Hallucination Detector for Large VLMs using Multi-Structural Internal Representations [61.85916280854257]
LVLM(Large Vision-Language Models)は印象的な視覚的推論と対話機能を実現するが、視覚入力によるコンテンツサポートを幻覚させることが多い。
textbfUniProbeは軽量で統一された学習可能な検出器で、凍ったLVLMの不均一な計算トレースを1つの前方パスからモデル化する。
論文 参考訳(メタデータ) (2026-08-11T12:01:59Z) - When Vision Becomes Text: Visual Token Pruning via Cross-Modal Residual Guidance in VLMs [13.67813408204418]
視覚情報は視覚言語モデル(VLM)の知覚を強化するが、巨大な視覚トークンは推論コストを増大させる。
既存のビジュアルトークンプルーニング手法は類似性に基づくガイダンスに依存しており、圧縮のためにペアワイズテキストビジョンとビジョンビジョントークン相関を利用する。
本稿では,CMR,テキストアテンション関連性,残余空間の多様性を組み合わせた学習不要なビジュアルトークン圧縮手法であるSIEVEについて述べる。
論文 参考訳(メタデータ) (2026-08-11T05:04:33Z) - DS@GT ARC at ImageCLEFmedical 2026: Architectural Diversity for Concept Detection and Foundation-Model Scaling for Caption Prediction in Medical Image Analysis [12.394212903842579]
ImageCLEFmedical Caption 2026 ChallengeへのDS@GTの提出について説明する。
この課題は、ROCOv2データセット上で長時間実行されるベンチマークを継続する。
タスク1では,ConvNeXt-V2,BiomedCLIP ViT-B/16,DenseNet-169の3方向の遅延核融合を行った。
Task 2には、微調整されたGemma-3 27Bモデル、完全に微調整されたBLIPパイプライン、PubMedスタイルのプロンプトによるゼロショット実行が含まれました。
論文 参考訳(メタデータ) (2026-07-30T07:01:49Z) - PIO-FVLM: Rethinking Training-Free Visual Token Reduction for VLM Acceleration from an Inference-Objective Perspective [59.24570811503256]
本稿では,視覚モデル(VLM)における冗長な視覚トークンを減らし,推論を高速化するPIO-FVLMを提案する。
提案されているPIO-FVLMは、トレーニングフリーで、FlashAttentionと互換性があり、実用的なアプリケーションやデプロイメントに親しみやすい。
LLaVA-Next-7Bでは、PIO-FVLMは視覚トークンの11.1%しか保持していないが、オリジナルのパフォーマンスの97.2%を維持している。
論文 参考訳(メタデータ) (2026-02-04T15:33:10Z) - $β$-CLIP: Text-Conditioned Contrastive Learning for Multi-Granular Vision-Language Alignment [53.42377319350806]
$-CLIPは、多言語テキスト条件のコントラスト学習フレームワークである。
$-CALは、この階層に固有のセマンティックオーバーラップに対処する。
$-CLIPは、高密度視覚言語対応のための堅牢で適応的なベースラインを確立する。
論文 参考訳(メタデータ) (2025-12-14T13:03:20Z) - VScan: Rethinking Visual Token Reduction for Efficient Large Vision-Language Models [57.2662376527586]
VScanは2段階のビジュアルトークン削減フレームワークである。
1)グローバルスキャンとローカルスキャンを視覚的エンコーディング中にマージすることで,(2)言語モデルの中間層にプルーニングを導入する。
VScanはプリフィルの2.91$times$スピードアップとFLOPの10$times$ダウンを実現し、オリジナルのパフォーマンスの95.4%を維持した。
論文 参考訳(メタデータ) (2025-05-28T17:59:08Z) - Zero-Shot Statistical Tests for LLM-Generated Text Detection using Finite Sample Concentration Inequalities [13.657259851747126]
コンテンツの証明は、教育機関、ソーシャルメディアプラットフォーム、企業など、多くの組織の機能に不可欠である。
LLM(Large Language Models)が生成するテキストが、人間が生成したコンテンツとほとんど区別できないようになるにつれて、この問題はますます難しくなってきている。
本稿では,あるテキストが与えられた場合,特定の LLM が生成したかどうかを特定できるのか,という問いに答える。
LLM生成したテキストは、歴史に完全に依存したシーケンシャルなプロセスとしてモデル化し、ゼロショット統計テストを設計し、2つの異なるLCM集合によって生成されたテキストを区別する。
論文 参考訳(メタデータ) (2025-01-04T23:51:43Z) - DAMRO: Dive into the Attention Mechanism of LVLM to Reduce Object Hallucination [11.15019062354505]
画像トークン上でのLLM(Large Language Model)デコーダの注意分布は,視覚的エンコーダと非常に一致していることがわかった。
我々は,D$ive を$A$ttention $M$echanism of LVLM に変換する新しいトレーニングフリー戦略 DAMRO を提案する。
LLaVA-1.5, LLaVA-NeXT, InstructBLIPなどのLVLMに対して, POPE, CHAIR, MME, GPT-4V Aided Evaluation などのベンチマークを用いて評価を行った。
論文 参考訳(メタデータ) (2024-10-06T15:12:09Z) - HallE-Control: Controlling Object Hallucination in Large Multimodal Models [80.03697683629035]
詳細な字幕作成のための GPT-4 支援評価手法である $textitCCEval$ を導入する。
LMMは既存のVQAベンチマークにおいて最小限のオブジェクト存在幻覚を示すが、提案手法はそのような幻覚への感受性を継続することを示す。
LLaVA$_7B$に比べて幻覚は44%減少し,対象範囲を維持できる。
論文 参考訳(メタデータ) (2023-10-03T04:01:27Z) - Scaling up sign spotting through sign language dictionaries [99.50956498009094]
この作業の焦点は、$textitsign spotting$ - 分離されたサインのビデオの場合、$textitwwhere$ と $textitwhere$ の識別が、連続的かつ協調的な手話ビデオで署名されている。
我々は,(1) $textitwatching$既存の映像を口コミでスムーズにラベル付けする,(2) $textitreading$ associated subtitles that provide additional translations of the signed content。
アプローチの有効性を低く検証する。
論文 参考訳(メタデータ) (2022-05-09T10:00:03Z) - Faster Transformer Decoding: N-gram Masked Self-Attention [30.786888745272133]
我々は,N$-gramの仮定をすることで,自己注意の計算に使用するターゲット側ウィンドウのトラッピングを提案する。
WMT EnDe と EnFr のデータセットでの実験では、タスクに応じて 4, ldots, 8$ の値で BLEU のスコアにおいて、$N$-gram のマスク付き自己保持モデルはほとんど失われていない。
論文 参考訳(メタデータ) (2020-01-14T02:14:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。