論文の概要: Variable-Granularity Tokenization for High-Resolution Object Detection

• arxiv url: http://arxiv.org/abs/2608.28706v1
• Date: Thu, 27 Aug 2026 18:39:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:30.722429
• Title: Variable-Granularity Tokenization for High-Resolution Object Detection
• Title（参考訳）: 高分解能物体検出のための可変粒度トークン化
• Abstract要約: ViT検出器は、学習ステージの前に均一なトークングリッドを固定する。 エンコーダより前の画素から各領域ごとのパッチ粒度を設定できる,トレーニングフリーなトークンライザであるVGTokを紹介する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: ViT detectors fix a uniform token grid before any learned stage. A native-resolution aerial detector must then choose between resolving few-pixel objects and staying inside compute and memory limits. We introduce VGTok, a training-free tokenizer that sets patch granularity per region from pixels, ahead of the encoder. VGTok scores each region by multi-scale morphological top-hat separability from its surround, then thresholds those scores at a per-image percentile, which fixes the token budget. A structure-tensor gate ($λ_{\min}$) refines only where two-dimensional object structure supports it, leaving one-dimensional clutter coarse. The resulting token set is a strict partition of the image. In a Co-DETR detector with an EVA-02 ViT-L encoder, VGTok clears every published VisDrone-val AP and AP$_S$ at every budget from 40\% to 100\% of tokens. At 40\% it records 44.22 AP with three fifths of the sequence discarded before the first transformer block; dense, it reaches 48.38 AP, $6.08$ above the strongest published entry. VGTok transfers to AI-TOD-v2 untouched, same scorer and same rank, and sets a new state of the art at 37.27 AP and 19.51 AP$_{vt}$. As a pure drop-in into a frozen checkpoint it reaches 36.29 AP at 78.5\% of tokens, above every published entry, where our 376.3M-parameter detector clears a 3.0B multi-expert model. We show that a token budget fixed before the backbone, from local separability and structure geometry alone, holds accuracy on the tiny-object regimes that dominate aerial detection, at $3.1\times$ less encoder compute and $1.9\times$ less encoder memory. Code and models are available at \href{https://github.com/khayrulbuet13/vgtok}{\texttt{github.com/khayrulbuet13/vgtok}} and \href{https://huggingface.co/khayrulbuet13/vgtok}{\texttt{huggingface.co/khayrulbuet13/vgtok}}.
• Abstract（参考訳）: ViT検出器は、学習ステージの前に均一なトークングリッドを固定する。 ネイティブ解像度の空中検出器は、数ピクセルのオブジェクトを解決し、計算とメモリの限界内に留まるかを選ばなければならない。 エンコーダより前の画素から各領域ごとのパッチ粒度を設定できる,トレーニングフリーなトークンライザであるVGTokを紹介する。 VGTokは、周辺地域からマルチスケールの形状的トップハット分離性で各地域をスコアし、そのスコアをイメージ当たりパーセンタイルで閾値付けし、トークン予算を固定する。 構造テンソルゲート(λ_{\min}$)は、2次元の物体構造がそれをサポートする場合にのみ洗練され、1次元のクラッタが粗くなる。 結果として生じるトークンセットは、イメージの厳密なパーティションである。 EVA-02 ViT-Lエンコーダを備えたCo-DETR検出器では、VGTokは発行された全てのVisDrone-val APとAP$_S$を、トークンの40倍から100倍の予算でクリアする。 40\%は44.22 APを記録し、最初のトランスフォーマーブロックの前に破棄されたシーケンスの5分の3は48.38 APに到達し、最強のエントリーより6.08$高い。 VGTokはAI-TOD-v2に非タッチ、同じスコア、同じランクで転送し、37.27 APと19.51 AP$_{vt}$で新しい最先端を設定できる。 凍ったチェックポイントへの純粋なドロップインとして、トークンの78.5 %の36.29 APに到達し、376.3Mパラメーター検出器が3.0Bのマルチエキスパートモデルをクリアする。 局所分離性と構造幾何学だけで、バックボーンが固定される前に固定されたトークン予算は、空中検出を支配する小さなオブジェクト状態に対して、$3.1\times$より少ないエンコーダ計算と$1.9\times$少ないエンコーダメモリで精度を保っていることを示す。 コードとモデルは \href{https://github.com/khayrulbuet13/vgtok}{\textt{github.com/khayrulbuet13/vgtok}} と \href{https://huggingface.co/khayrulbuet13/vgtok}{\textt{huggingface.co/khayrulbuet13/vgtok}} で入手できる。

関連論文リスト

• S$^2$Prune: Spatially Structured Visual Token Pruning for Multimodal Large Language Models [5.680072178589744]
  ビジュアルトークンプルーニングは、視覚トークンのサブセットだけを保持することで、マルチモーダルな大規模言語モデル(MLLM)の推論オーバーヘッドを低減する。 S$2$Pruneは,局所像構造にトークン密度を適応させながら空間被覆を保存する訓練不要プルーニング手法である。
  論文  参考訳（メタデータ） (2026-09-01T13:26:57Z)
• A Hub of Short Rows Inflates Intrinsic Dimension Estimation of Token Embeddings [51.736723807086385]
  トークン埋め込みテーブルは、その起源の近くに短い行のハブを保持する。 測度が集中しているため、トークンは他のトークンよりも中央のクラスタに近い。 その結果、TwoNNのようなID推定器は実IDよりもはるかに高い次元を返す。
  論文  参考訳（メタデータ） (2026-08-30T10:19:11Z)
• HAP: Head-Adaptive Visual Token Pruning via Cross-Modal Alignment [76.68875424389057]
  既存の手法では、すべての頭部に一様にテキストから視覚への注意を平均化することで、各視覚トークンをスコアリングする。 頭が不一致で 平均的に支配され 背景のトークンを増幅し きめ細かな手がかりを 吐き出す 本稿では,各頭部のプロンプトと画像領域の整合性を評価する指標であるPAQ(Prompt-Grounded Attention Quality)を提案する。
  論文  参考訳（メタデータ） (2026-08-24T23:55:36Z)
• Kernelized Linear Attention: Breaking the Capacity Wall with Symmetric Cones [4.847095054351615]
  リニアアテンションは一定時間繰り返しの推論を約束するが、連想的リコールによって著しく低下する。 Kernelized Linear Attention Activations (KATA)を紹介します。 ランク1の正の半定的な特徴が良好なキャパシティ-干渉トレードオフをもたらすことを示す。
  論文  参考訳（メタデータ） (2026-07-19T21:46:09Z)
• More Structure, Not More Capacity: Object-Centric Representations for Visuomotor Imitation Learning [54.65906330923846]
  対象中心のスロット表現は、事前学習された視覚モデルに代わる構造化された代替物であることを示す。 トークンの16倍の高密度なパッチグリッドは、グローバル機能に匹敵するパフォーマンスはない。 明示的な2D空間目標とネイティブ解像度レンダリングにより、全システムは68.7$pm$4.2%まで上昇し、特権付き3Dオーラクルの上界の直ぐ下にある。
  論文  参考訳（メタデータ） (2026-07-10T10:35:24Z)
• Pruning Deep Neural Networks via the Marchenko--Pastur Distribution [0.0]
  提案手法は,超小型の切削後微調整予算を持つ深層ニューラルネットワークにおけるランダム・マトリクス手法である。 主な実用的貢献は、短いキャリブレーションと微調整スケジュールの下での精度維持である。
  論文  参考訳（メタデータ） (2026-05-23T19:44:02Z)
• Hidden-State Privacy Has an Empty Middle [51.56484100374058]
  すべてのフルランクガウス解放を$O(1)$ Fisher utility で表すと、マハラノビス信号が隠れた幅で直線的に成長する方向を認める。 スクラッチからトレーニングされたスプリットメモリトランスフォーマーは、[20, 33]$90MでG_mathrmMahに達し、固定言語損失ペナルティにおいて、30Mから1Bまでの同じ予算のGPTベースラインに対して6ドル～24ドルという優位性を維持する。
  論文  参考訳（メタデータ） (2026-05-21T20:12:09Z)
• Latent Phase-Shift Rollback: Inference-Time Error Correction via Residual Stream Monitoring and KV-Cache Steering [4.032680910442999]
  大規模な言語モデルは、世代中頃の保存不可能な推論エラーを犯す。 我々は、$textbfLatent Phase-Shift Rollback$ (LPSR)を紹介する。 各生成段階において、臨界層リクリットで残留流をモニタリングし、コサイン相似性$+$エントロピー二重ゲートを介して急激な方向逆転(位相シフト)を検出する。 微調整、勾配計算、追加のフォワードパスは不要である。
  論文  参考訳（メタデータ） (2026-04-20T17:53:33Z)
• Spectral Sentinel: Scalable Byzantine-Robust Decentralized Federated Learning via Sketched Random Matrix Theory on Blockchain [0.0]
  ビザンチンのクライアントは、不均一な(Non-IID)データの下での濃度勾配を中毒する。 本稿では,ビザンチン検出・集約フレームワークであるSpectral Sentinelを提案する。 Polygonネットワーク上でブロックチェーンを統合することで,完全なシステムを実現しています。
  論文  参考訳（メタデータ） (2025-12-14T09:43:03Z)
• V-DETR: DETR with Vertex Relative Position Encoding for 3D Object Detection [73.37781484123536]
  DETRフレームワークを用いた点雲のための高性能な3次元物体検出器を提案する。 限界に対処するため,新しい3次元相対位置(3DV-RPE)法を提案する。 挑戦的なScanNetV2ベンチマークで例外的な結果を示す。
  論文  参考訳（メタデータ） (2023-08-08T17:14:14Z)
• Sparse R-CNN: End-to-End Object Detection with Learnable Proposals [77.9701193170127]
  Sparse R-CNNは、画像中の物体検出のための純粋にスパースな方法である。 最終的な予測は、最大でない処理後抑制なしで直接出力される。 われわれの研究が、物体検知器に先立って密集した慣例を再考することを願っている。
  論文  参考訳（メタデータ） (2020-11-25T00:01:28Z)
• Deep Learning Meets Projective Clustering [66.726500395069]
  NLPネットワークを圧縮するための一般的なアプローチは、埋め込み層を行列 $AinmathbbRntimes d$ としてエンコードすることである。 計算幾何学から遠射的クラスタリングに着想を得て、この部分空間を$k$部分空間の集合で置き換えることを提案する。
  論文  参考訳（メタデータ） (2020-10-08T22:47:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。