論文の概要: GHOST-Q: Towards Studying Grounding Hallucinations Overlooked Under Same-score TradeOffs in Quantized VLMS

• arxiv url: http://arxiv.org/abs/2609.29999v1
• Date: Thu, 24 Sep 2026 15:44:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:10.065581
• Title: GHOST-Q: Towards Studying Grounding Hallucinations Overlooked Under Same-score TradeOffs in Quantized VLMS
• Title（参考訳）: GHOST-Q:量子化VLMSにおける同じスコアトレードオフの下で見落とされた接地幻覚の研究に向けて
• Abstract要約: 視覚言語モデル(VLM)の学習後の量子化は、一般にタスクの集計精度とメモリ節約によって評価される。 GHOST-Qは,FP16,INT8,NF4の8BVLMファミリーの相互精度制御による評価である。 6つの量子化された変種のうち5つは、mpm2$%の範囲でMMStarの精度を保っているが、36の対効果のうち10は偽発見率の補正後も有意である。
• 参考スコア（独自算出の注目度）: 2.717526933594264
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-training quantization of vision--language models (VLMs) is typically assessed through aggregate task accuracy and memory savings, but preserving a headline score does not guarantee preservation of visual grounding behavior. We present GHOST-Q, a cross-precision controlled evaluation of three 8B VLM families under FP16, INT8, and NF4 across utility and hallucination-sensitive benchmarks. Rather than comparing only aggregate accuracy, we pair FP16 and quantized predictions item by-item to quantify how compression redistributes grounding successes and failures. Five of six quantized variants preserve MMStar accuracy within $\pm2$ percentage points, yet 10 of 36 paired effects remain significant after false-discovery-rate correction, nine on hallucination-sensitive conditions. Same-device A100 profiling further demonstrates that substantial memory reduction does not necessarily mean lower inference latency. Finally, an open-ended AMBER audit reveals strong generation budget censoring whose severity varies by architecture and precision. These results show that quantized VLMs should be evaluated jointly for aggregate utility, grounding reliability, generation behavior, and realized deployment efficiency.
• Abstract（参考訳）: 視覚言語モデル(VLM)の学習後の量子化は、一般にタスクの正確さとメモリ節約を通じて評価されるが、ヘッドラインスコアを保存することは、視覚的接地行動の保存を保証するものではない。 GHOST-Qは,FP16,INT8,NF4の8BVLMファミリーを,実用性および幻覚感受性のベンチマークで比較した。 集約精度のみを比較するのではなく、FP16と量子化された予測項目を並べて、圧縮が成功と失敗の土台を再分配する方法を定量化する。 6つの量子化変種のうち5つは、MMStarの精度を$\pm2$%の範囲で保っているが、36のペア効果のうち10は偽発見率補正後に有意であり、9つは幻覚感受性の条件である。 同様のデバイスA100プロファイリングは、メモリの大幅な削減が必ずしも推論レイテンシの低下を意味するとは限らないことを証明している。 最後に、オープンエンドのAMBER監査は、アーキテクチャと精度によって重大性が異なる、強力な世代予算の検閲を明らかにする。 これらの結果から, 集積ユーティリティ, 接地信頼性, 生成挙動, 展開効率を両立させるために, 定量化VLMを共同で評価すべきであることが示唆された。

関連論文リスト

• Accuracy is Not Enough: A Divergence-Based Approach to Evaluate Fidelity Loss in Quantized LLMs [13.897073114465094]
  メモリ制約エッジデバイスへのLLM(Large Language Models)の展開は、攻撃的なポストトレーニング量子化に大きく依存する。 本稿では,LLMにおける情報損失を定量化する分散感性評価フレームワークを提案する。 我々は、BF16基準に対する確率質量変位と分布のドリフトを定量化し、トップ1の精度に反映されない予測分布の変化を捉える。
  論文  参考訳（メタデータ） (2026-09-07T15:49:52Z)
• The Structure of Quantization Damage in LLMs: Why the Next Bit Should Be Spent Globally [0.0]
  後学習量子化(PTQ)は、大規模言語モデル(LLM)を提供するコストを削減するために広く用いられている。 我々は、量子化の損傷の発生源と、小さな追加の精度予算の配分方法について検討する。
  論文  参考訳（メタデータ） (2026-09-01T17:53:41Z)
• Silent Failures in Quantized LLM Reasoning: A Taxonomy-Based Analysis of Hollow Convergence and Failure Mode Shifts [0.0]
  学習後の量子化は,タスク精度が保存されている場合でも,大きな言語モデルがどのように推論するかを静かに変更できることを示す。 3つの量子化精度で5つの命令調整LDMから3万のチェーン・オブ・シント出力を分類する。 精度は精度で高いが,Hollow Convergence は NF4 で大きく依存的な変化を示す。
  論文  参考訳（メタデータ） (2026-07-10T21:55:05Z)
• Understanding vision transformer robustness through the lens of out-of-distribution detection [59.72757235382676]
  量子化はメモリと推論コストを削減し、性能損失のリスクを負う。 本稿では, 量子化小型可変ビジョントランス (DeiT, DeiT3, ViT) の共通アウト・オブ・ディストリビューション (OOD) データセットにおける挙動について検討する。
  論文  参考訳（メタデータ） (2026-02-01T22:00:59Z)
• "Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization [67.3213104337679]
  量子化は大規模言語モデル(LLM)推論を高速化するための強力なツールであるが、異なるフォーマット間での精度と性能のトレードオフは依然として不明である。 FP8,INT8,INT4の量子化を学術ベンチマークや実世界のタスクで評価し,これまでで最も包括的な実証的研究を行った。
  論文  参考訳（メタデータ） (2024-11-04T18:21:59Z)
• Functional-level Uncertainty Quantification for Calibrated Fine-tuning on LLMs [38.33520071583312]
  Calibrated Fine-Tuning (UQ4CT)は、入力を出力にマッピングする関数の空間上の不確実性をキャプチャし、校正する。 我々は,機能空間を階層的に分解するMix-of-expertsフレームワークを用いて,微調整段階のUQ4CTを実装した。 分散シフト中であっても、UQ4CTはより優れたECE性能を高い精度で維持し、一般化性の向上を示す。
  論文  参考訳（メタデータ） (2024-10-09T00:09:15Z)
• Towards Accurate Post-Training Quantization for Vision Transformer [48.779346466374406]
  既存のトレーニング後の量子化手法は依然として深刻な性能低下を引き起こしている。 APQ-ViTは、既存のトレーニング後の量子化手法を証明マージンによって超越している。
  論文  参考訳（メタデータ） (2023-03-25T03:05:26Z)
• Beyond calibration: estimating the grouping loss of modern neural networks [68.8204255655161]
  適切なスコアリングルール理論は、キャリブレーション損失が与えられた場合、個々のエラーを特徴づける欠片がグループ化損失であることを示している。 視覚およびNLPにおける現代のニューラルネットワークアーキテクチャは、特に分散シフト設定においてグループ化損失を示す。
  論文  参考訳（メタデータ） (2022-10-28T07:04:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。