論文の概要: Beyond Compression: Quantifying Spectral Accessibility in Vision Representations

• arxiv url: http://arxiv.org/abs/2606.03795v1
• Date: Tue, 02 Jun 2026 15:42:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:05.120107
• Title: Beyond Compression: Quantifying Spectral Accessibility in Vision Representations
• Title（参考訳）: 圧縮を超えて:視覚表現におけるスペクトルアクセシビリティの定量化
• Authors: Akayou A. Kitessa, Yijun Zhao,
• Abstract要約: 視覚言語モデルは、学習したプロジェクション層を通して視覚的特徴を共有埋め込み空間にマッピングする。 本研究では,空間周波数アクセシビリティによる表現の変化について,モデル表現からの帯域制限エネルギーの線形回復率を用いて検討した。
• 参考スコア（独自算出の注目度）: 4.681075707831016
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision-language models map visual features into a shared embedding space through learned projection layers, yet it remains unclear how these transformations alter the structure of visual information. This study examines changes in representation through spatial-frequency accessibility, measured by the linear recoverability of band-limited Fourier energy from model representations. To isolate effects beyond dimensionality reduction, we introduce Residual Spectral Loss (RSL), which evaluates changes relative to a dimension-matched random projection baseline. To reduce confounding effects from optimization, the analysis uses pretrained models with all parameters frozen. The experimental results show consistent frequency-dependent changes in accessibility across CLIP and DINOv2 on ImageNet and MS-COCO datasets. Spectral accessibility follows a non-monotonic trajectory across depth, peaking at intermediate layers before decreasing toward the output representation. The final transformation differs across architectures: CLIP's learned projection is spectrally neutral, with changes explained by compression, whereas DINOv2's [CLS] pooling induces a structured loss across the spectrum. These findings identify intermediate layers and pooling mechanisms as primary drivers of spectral transformation in modern vision encoders.
• Abstract（参考訳）: 視覚言語モデルは、学習されたプロジェクション層を通して視覚的特徴を共有埋め込み空間にマッピングするが、これらの変換が視覚情報の構造をどのように変化させるかは定かではない。 本研究では, モデル表現からの帯域制限フーリエエネルギーの線形回復率を用いて, 空間周波数アクセシビリティによる表現の変化について検討した。 本研究では,次元調整されたランダムプロジェクションベースラインに対する変化を評価するResidual Spectral Loss (RSL)を導入する。 最適化による相反効果を低減するため、全てのパラメータが凍結された事前学習モデルを用いて分析を行う。 実験の結果,ImageNetおよびMS-COCOデータセット上で,CLIPとDINOv2間のアクセシビリティの周波数依存性が一貫した変化を示した。 スペクトルアクセシビリティは、出力表現に向かって減少する前に中間層でピークとなる、深さの非単調軌道に従う。 CLIPの学習されたプロジェクションはスペクトル中立であり、圧縮によって説明される変更があるが、DINOv2の[CLS]プーリングはスペクトル全体の構造的損失を誘導する。 これらの結果から、現代の視覚エンコーダにおけるスペクトル変換の主要因として中間層とプール機構が同定された。

関連論文リスト

• Implicit Neural Representations: A Signal Processing Perspective [54.57279006229212]
  入射神経表現(INR)は、離散的なサンプルデータから連続的な機能的表現へと、信号モデリングの根本的な変化を示す。 本稿では、信号処理の観点からのINRの進化を考察し、スペクトル挙動、サンプリング理論、マルチスケール表現を強調する。 医療・レーダ画像の逆問題,圧縮,3次元シーン表現など,幅広い応用分野におけるINRの有用性を強調した。
  論文  参考訳（メタデータ） (2026-04-16T14:12:06Z)
• Fourier-Invertible Neural Encoder (FINE) for Homogeneous Flows [4.095418032380801]
  可逆ニューラルネットワークは、そのコンパクト性、解釈可能性、および情報保存特性に注目されている。 本稿では,可逆な単調活性化関数と可逆なフィルタ構造を組み合わせたフーリエ可逆ニューラルネットワーク(FINE)を提案する。
  論文  参考訳（メタデータ） (2025-05-21T10:02:59Z)
• SinBasis Networks: Matrix-Equivalent Feature Extraction for Wave-Like Optical Spectrograms [8.37266944852829]
  フラットな入力上での線形変換として、畳み込みと注意を再解釈する統一的行列等価フレームワークを提案する。 これらの変換をCNN、ViT、Capsuleアーキテクチャに埋め込むことで、Sin-Basis Networksは周期的なモチーフに対する感度を高めることができる。
  論文  参考訳（メタデータ） (2025-05-06T16:16:42Z)
• AS-GCL: Asymmetric Spectral Augmentation on Graph Contrastive Learning [25.07818336162072]
  グラフ・コントラシブ・ラーニング(GCL)は,グラフ構造化データの自己教師型学習における最前線として登場した。 グラフのコントラスト学習に非対称スペクトル拡張を取り入れたAS-GCLという新しいパラダイムを提案する。 提案手法は各コンポーネントに大幅な拡張をもたらす。
  論文  参考訳（メタデータ） (2025-02-19T08:22:57Z)
• Point Cloud Denoising With Fine-Granularity Dynamic Graph Convolutional Networks [58.050130177241186]
  ノイズの摂動は、しばしば3次元の点雲を破損させ、表面の再構成、レンダリング、さらなる処理といった下流のタスクを妨げる。 本稿では,GDGCNと呼ばれる粒度動的グラフ畳み込みネットワークについて紹介する。
  論文  参考訳（メタデータ） (2024-11-21T14:19:32Z)
• HoloNets: Spectral Convolutions do extend to Directed Graphs [59.851175771106625]
  従来の知恵は、スペクトル畳み込みネットワークは無向グラフ上にしか展開できないと規定している。 ここでは、このグラフフーリエ変換への伝統的な依存が超フルであることを示す。 本稿では,新たに開発されたフィルタの周波数応答解釈を行い,フィルタ表現に使用するベースの影響を調査し,ネットワークを基盤とする特性演算子との相互作用について議論する。
  論文  参考訳（メタデータ） (2023-10-03T17:42:09Z)
• ESSAformer: Efficient Transformer for Hyperspectral Image Super-resolution [76.7408734079706]
  単一ハイパースペクトル像超解像(単一HSI-SR)は、低分解能観測から高分解能ハイパースペクトル像を復元することを目的としている。 本稿では,1つのHSI-SRの繰り返し精製構造を持つESSA注目組込みトランスフォーマネットワークであるESSAformerを提案する。
  論文  参考訳（メタデータ） (2023-07-26T07:45:14Z)
• Exploring Invariant Representation for Visible-Infrared Person Re-Identification [77.06940947765406]
  異なるスペクトルを横断する歩行者にアイデンティティを関連付けることを目的とした、クロススペクトルの人物再識別は、モダリティの相違の主な課題に直面している。 本稿では、ロバスト機能マイニングネットワーク(RFM)と呼ばれるエンドツーエンドのハイブリッド学習フレームワークにおいて、画像レベルと特徴レベルの両方の問題に対処する。 RegDBとSYSU-MM01という2つの標準的なクロススペクトル人物識別データセットの実験結果により,最先端の性能が示された。
  論文  参考訳（メタデータ） (2023-02-02T05:24:50Z)
• A Hierarchical Coding Scheme for Glasses-free 3D Displays Based on Scalable Hybrid Layered Representation of Real-World Light Fields [0.6091702876917279]
  Schemeは、異なる走査順序から決定される光界ビューのサブセットから、積み重ねた乗法レイヤを学習する。 層状パターンの空間的相関は、クリロフ部分空間上の特異値分解から導かれる係数化の低い階数で悪用される。 HEVCによるエンコーディングは、低ランク近似層におけるイントラビューおよびインタービュー相関を効率的に除去する。
  論文  参考訳（メタデータ） (2021-04-19T15:09:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。