論文の概要: Prune Once: Retraining-Free Task-Agnostic Pruning for Vision-Language Models

• arxiv url: http://arxiv.org/abs/2608.06901v1
• Date: Fri, 07 Aug 2026 07:36:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.397838
• Title: Prune Once: Retraining-Free Task-Agnostic Pruning for Vision-Language Models
• Title（参考訳）: Prune once:Retraining-free Task-Agnostic Pruning for Vision-Language Models
• Abstract要約: 視覚言語モデル(VLM)は、大規模事前学習を通じて多様なマルチモーダルタスクにまたがる顕著な一般化を実現している。 本稿では,タスクとモダリティに依存しない重要性の定式化を導出する PortA と呼ばれる再学習不要な VLM 刈り取りフレームワークを提案する。 PortA は,再トレーニングを必要とせず,かつ効率的な VLM 圧縮をサポートすることなく,高い間隔で,競争力のあるダウンストリーム性能を実現することを示す。
• 参考スコア（独自算出の注目度）: 16.821897521676963
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-language models (VLMs) have achieved remarkable generalization across diverse multimodal tasks through large-scale pre-training, yet their rapidly increasing computational and memory requirements pose significant challenges for deployment in constrained environments. Existing pruning strategies often depend on task-specific criteria or LLM-oriented importance measures, making them unsuitable for task-agnostic pruning, where no task-specific samples are available at pruning time and the pruned model remains broadly applicable. We introduce a retraining-free VLM pruning framework called PORTA that derives a task- and modality-agnostic importance formulation based on activation variation, estimated from generic calibration data, which reliably captures feature-level representation utility across modalities. PORTA further incorporates an adaptive sparsity allocation mechanism that assigns layer-wise pruning ratios based on output feature variability, avoiding the limitations of uniform sparsity and reducing performance degradation at high compression levels. Extensive experiments across VLM architectures, such as CLIP, BLIP, and Qwen2-VL, demonstrate that PORTA achieves competitive downstream performance under high sparsity without requiring any retraining, supporting efficient VLM compression. Code is available at https://github.com/cau-hai-lab/PORTA.git.
• Abstract（参考訳）: 視覚言語モデル(VLM)は、大規模事前学習を通じて様々なマルチモーダルタスクにまたがる顕著な一般化を実現しているが、その急速に増加する計算とメモリ要件は、制約された環境への展開に重大な課題をもたらす。 既存のプルーニング戦略は、多くの場合、タスク固有の基準やLLM指向の重要度尺度に依存しており、タスクに依存しないプルーニングには適さない。 本稿では,アクティベーション変動に基づくタスク・モダリティ非依存の重要度定式化を,汎用キャリブレーションデータから推定し,モダリティにまたがる特徴レベル表現の有用性を確実に把握する, PortAと呼ばれるリトレーニングフリーなVLMプルーニングフレームワークを提案する。 PortAはさらに、出力特性の可変性に基づいて層ワイドプルーニング比を割り当て、均一なスペーシティの制限を回避し、高い圧縮レベルにおける性能劣化を低減する適応的なスペーシティ割り当て機構を組み込んでいる。 CLIP、BLIP、Qwen2-VLといったVLMアーキテクチャ全体にわたる大規模な実験は、Portaが再トレーニングを必要とせず、効率的なVLM圧縮をサポートすることなく、高い間隔で、競争力のあるダウンストリーム性能を実現することを示した。 コードはhttps://github.com/cau-hai-lab/PORTA.git.comで入手できる。

関連論文リスト

• SlimVLM: Sensitivity-aware Dynamic Structured Pruning with Adaptive Visual Token Selection for Efficient Vision-Language Models [13.091215419258857]
  VLM(Vision-Language Models)は、テキストと画像の両方の処理と理解において顕著な性能を示している。 タスク性能を保ちながらVLMを圧縮する構造化プルーニングフレームワークであるSlimVLMを提案する。
  論文  参考訳（メタデータ） (2026-08-04T12:34:46Z)
• SAMPLe: SAM-based Optimizer for Prompt Learning in VLMs [15.702319787140341]
  SAMPLe (Sharpness-Aware Minimization Prompt Learning) は、損失ランドスケープのシャープネスを考慮し、迅速な一般化性を高めるプラグインである。 我々は、SAMPLeをCoOp、CoCoOp、MaPLe、TCP、CoPromptなど複数の素早い学習フレームワークに統合し、様々な手法でその効果を実証する。
  論文  参考訳（メタデータ） (2026-07-07T01:21:33Z)
• GRIP-VLM: Group-Relative Importance Pruning for Efficient Vision-Language Models [19.21570577065149]
  Vision-Language Models (VLM) では、膨大な数の視覚トークンが計算のトレーニングを禁止している。 GRIP-VLMは、グループ相対ポリシー(GRPO)パラダイムを用いて、宇宙選択を直接探索する。
  論文  参考訳（メタデータ） (2026-05-13T11:32:03Z)
• Fine-tuning MLLMs Without Forgetting Is Easier Than You Think [72.59321247529975]
  分布内および分布外画像およびテキスト入力のモデル性能を評価するための2x2実験フレームワークを設計する。 その結果、トレーニング可能なパラメータの数を制限したり、低学習率を採用するなど、適切な正規化が、アウト・オブ・ディストリビューション・イメージを扱う際の忘れを効果的に防止できることが示唆された。 我々は、このことをタスク固有のオーバーフィッティングとみなし、データハイブリッドトレーニング戦略を導入することでこの問題に対処する。
  論文  参考訳（メタデータ） (2026-03-15T17:16:19Z)
• Beyond Short-Horizon: VQ-Memory for Robust Long-Horizon Manipulation in Non-Markovian Simulation Benchmarks [96.60530830276281]
  RuleSafeは、スケーラブルなLLM支援シミュレーションフレームワーク上に構築された、新しいオペレーティングベンチマークである。 VQ-Memoryはベクトル量子化変分オートエンコーダを用いたコンパクトで構造化された時間表現である。
  論文  参考訳（メタデータ） (2026-03-10T11:13:54Z)
• AceGRPO: Adaptive Curriculum Enhanced Group Relative Policy Optimization for Autonomous Machine Learning Engineering [52.67783579040657]
  AceGRPOは、エージェントの学習フロンティアにおけるタスクを優先順位付けして学習効率を最大化する機械学習システムである。 我々のトレーニングされたAce-30Bモデルは、MLE-Bench-Lite上で100%有効な応募率を実現し、プロプライエタリなフロンティアモデルの性能にアプローチし、より大きなオープンソースベースラインを上回ります。
  論文  参考訳（メタデータ） (2026-02-08T10:55:03Z)
• LQA: A Lightweight Quantized-Adaptive Framework for Vision-Language Models on the Edge [12.772499009055194]
  視覚言語モデル(VLM)のための軽量で量子化された適応型フレームワークを提案する。 本稿では、SHQ(Selective Hybrid Quantization)と、リソース制約のあるハードウェア上での堅牢で効率的なVLMデプロイメントを実現するために、量子化・勾配なし適応機構を導入する。 実験の結果、LQAは全体の適応性能を4.5%改善し、メモリ使用量を減らし、勾配ベースのTTA法よりも大幅に向上した。
  論文  参考訳（メタデータ） (2026-02-08T07:37:37Z)
• GenRecal: Generation after Recalibration from Large to Small Vision-Language Models [63.27511432647797]
  視覚言語モデル(VLM)は、GPT-4Vのようなクローズドソースシステムと同等の性能を達成するために、大きな言語モデル(LLM)を活用している。 視覚言語モデル(VLM)の最近の進歩は、GPT-4Vのようなクローズドソースシステムと同等の性能を達成するために、大きな言語モデル(LLM)を活用している。
  論文  参考訳（メタデータ） (2025-06-18T17:59:49Z)
• LiNeS: Post-training Layer Scaling Prevents Forgetting and Enhances Model Merging [80.17238673443127]
  LiNeSは、微調整タスク性能を向上しつつ、事前訓練された一般化を維持するために設計されたポストトレーニング編集技術である。 LiNeSは、視覚と自然言語処理のさまざまなベンチマークにおいて、シングルタスクとマルチタスクの両方で大幅に改善されている。
  論文  参考訳（メタデータ） (2024-10-22T16:26:05Z)
• RAVEN: Multitask Retrieval Augmented Vision-Language Learning [5.1583788731239455]
  世界中の知識をエンコードする大規模言語モデルのスケーリングは持続不可能であり、リソースバリアが悪化している。 Retrieval-Augmented Generation (RAG) は潜在的な解決策を示すが、その視覚言語モデル(VLM)への応用は検討中である。 本稿では,効率的なタスク特化微調整により,ベースVLMを強化した検索拡張VLMフレームワークであるRAVENを紹介する。
  論文  参考訳（メタデータ） (2024-06-27T13:08:35Z)
• Task-Distributionally Robust Data-Free Meta-Learning [99.56612787882334]
  Data-Free Meta-Learning (DFML)は、複数の事前学習モデルを活用することで、独自のトレーニングデータを必要とせずに、新しいタスクを効率的に学習することを目的としている。 TDS(Task-Distribution Shift)とTDC(Task-Distribution Corruption)の2つの大きな課題を初めて明らかにした。
  論文  参考訳（メタデータ） (2023-11-23T15:46:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。