論文の概要: Koo-Fu CLIP: Closed-Form Adaptation of Vision-Language Models via Fukunaga-Koontz Linear Discriminant Analysis

• arxiv url: http://arxiv.org/abs/2602.01127v1
• Date: Sun, 01 Feb 2026 09:56:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-03 19:28:33.610403
• Title: Koo-Fu CLIP: Closed-Form Adaptation of Vision-Language Models via Fukunaga-Koontz Linear Discriminant Analysis
• Title（参考訳）: Koo-Fu CLIP:福永・コオンツ線形判別分析による視覚言語モデルの閉形式適応
• Authors: Matej Suchanek, Klara Janouskova, Ondrej Vasatko, Jiri Matas,
• Abstract要約: 福永・コオンツ線形判別分析に基づくCLIP適応手法であるKoo-Fu CLIPを提案する。 結果として得られる閉形式線形射影は、CLIP埋め込みの幾何学を再評価し、有効次元の減少を図りながらクラス分離性を向上させる。 大規模なImageNetベンチマーク全体において、Koo-Fu CLIP空間における最も近い視覚プロトタイプ分類は、トップ1の精度を75.1%から79.1%に改善した。
• 参考スコア（独自算出の注目度）: 14.022566577479322
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Visual-language models such as CLIP provide powerful general-purpose representations, but their raw embeddings are not optimized for supervised classification, often exhibiting limited class separation and excessive dimensionality. We propose Koo-Fu CLIP, a supervised CLIP adaptation method based on Fukunaga-Koontz Linear Discriminant Analysis, which operates in a whitened embedding space to suppress within-class variation and enhance between-class discrimination. The resulting closed-form linear projection reshapes the geometry of CLIP embeddings, improving class separability while performing effective dimensionality reduction, and provides a lightweight and efficient adaptation of CLIP representations. Across large-scale ImageNet benchmarks, nearest visual prototype classification in the Koo-Fu CLIP space improves top-1 accuracy from 75.1% to 79.1% on ImageNet-1K, with consistent gains persisting as the label space expands to 14K and 21K classes. The method supports substantial compression by up to 10-12x with little or no loss in accuracy, enabling efficient large-scale classification and retrieval.
• Abstract（参考訳）: CLIPのようなビジュアル言語モデルは強力な汎用表現を提供するが、それらの生の埋め込みは教師付き分類に最適化されておらず、しばしばクラス分離と過剰な次元性を示す。 組込み空間内で動作し,クラス内変動を抑制し,クラス間差別を高める,福永・コオンツ線形識別分析に基づくCLIP適応手法であるKoo-Fu CLIPを提案する。 結果として得られる閉形式線形射影は、CLIPの埋め込みの幾何学を再評価し、効果的な次元的還元を行いながらクラス分離性を改善し、CLIP表現の軽量かつ効率的な適応を提供する。 大規模なImageNetベンチマーク全体では、Koo-Fu CLIP空間における最も近いビジュアルプロトタイプ分類は、ImageNet-1Kで75.1%から79.1%に改善され、ラベル空間が14Kクラスと21Kクラスに拡大するにつれて、一貫したゲインが持続する。 この方法は、精度がほとんどあるいは全くなく、最大10～12倍の大幅な圧縮をサポートし、大規模な分類と検索を効率的に行うことができる。

関連論文リスト

• Enhancing CLIP Robustness via Cross-Modality Alignment [54.01929554563447]
  視覚言語モデルのための最適なトランスポートベースフレームワークであるクロスモダリティアライメントを提案する。 COLAは、グローバルな画像テキストアライメントと特徴空間における局所的な構造的一貫性を復元する。 COLAはトレーニングフリーで、既存の微調整モデルと互換性がある。
  論文  参考訳（メタデータ） (2025-10-28T03:47:44Z)
• AmorLIP: Efficient Language-Image Pretraining via Amortization [52.533088120633785]
  Contrastive Language-Image Pretraining (CLIP) は、様々な下流のテキストイメージタスクにまたがる強力なゼロショット性能を示している。 軽量ニューラルネットワークによるコントラスト学習に関わる高価な計算を記憶する,効率的なCLIP事前学習フレームワークであるAmorLIPを提案する。
  論文  参考訳（メタデータ） (2025-05-25T05:30:37Z)
• CLIPure: Purification in Latent Space via CLIP for Adversarially Robust Zero-Shot Classification [65.46685389276443]
  画像とテキストプロンプトをマッチングすることでゼロショット分類を行うことができる、視覚言語で事前訓練されたエンコーダモデルであるCLIPについて検討する。 次に, 共分散精製プロセス間のKL分散として精製リスクを定式化する。 画像の潜伏ベクトルの確率をモデル化するCLI-Diffと、画像の埋め込みとaの写真とのコサイン類似度をモデル化するCLI-Cosの2つのバリエーションを提案する。
  論文  参考訳（メタデータ） (2025-02-25T13:09:34Z)
• CLIP's Visual Embedding Projector is a Few-shot Cornucopia [45.93202559299953]
  最適化のために'external'パラメータを追加することなく、数ショットのCLIP適応のための代替手法を導入する。 視覚の埋め込みプロジェクション行列を微調整するだけで、すべてのベースラインよりも優れたパフォーマンスが得られることが分かりました。 この単純なアプローチはProLIPと呼ばれ、11個の数ショットの分類ベンチマーク、数ショットのクロスデータセットエンコーダ転送、ドメインの一般化、ベース・ツー・ニューなクラス一般化に最先端のパフォーマンスをもたらす。
  論文  参考訳（メタデータ） (2024-10-07T17:59:59Z)
• SCLIP: Rethinking Self-Attention for Dense Vision-Language Inference [11.453253140479166]
  セマンティックセグメンテーションにおけるコントラッシブ言語イメージ事前学習の可能性を高める。 自己注意を再考することで、CLIPは密集した予測タスクに適応できることがわかった。 従来のCLIPビジョンエンコーダの自己保持ブロックをCSAモジュールで置き換える。
  論文  参考訳（メタデータ） (2023-12-04T03:18:46Z)
• Getting More Juice Out of Your Data: Hard Pair Refinement Enhances Visual-Language Models Without Extra Data [122.282521548393]
  コントラスト言語-画像事前学習 (CLIP) は, クロスモーダルな画像-テキスト表現学習の標準となっている。 HELIPは、CLIPモデルを改善するためのコスト効率のよい戦略であり、継続的なトレーニングにおいて既存のデータセット内の挑戦的なテキストイメージペアを利用することで、CLIPモデルを改善する。
  論文  参考訳（メタデータ） (2023-05-09T07:00:17Z)
• ReCLIP: A Strong Zero-Shot Baseline for Referring Expression Comprehension [114.85628613911713]
  大規模事前学習モデルは領域間の画像分類に有用である。 ReCLIPは単純だが強力なゼロショットベースラインであり、ReCのための最先端の大規模モデルであるCLIPを再利用する。
  論文  参考訳（メタデータ） (2022-04-12T17:55:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。