論文の概要: A Patch is More Than a Token

• arxiv url: http://arxiv.org/abs/2610.41814v1
• Date: Fri, 30 Oct 2026 14:36:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.774421
• Title: A Patch is More Than a Token
• Title（参考訳）: パッチはトークン以上のものです
• Abstract要約: 視覚変換器は、各画像パッチを1つの観察条件下で生成された標準トークンを通して表現する。 パッチ表現オブジェクトは、ある標準状態から標準中心の表現状態ファミリーに拡張することができる。 凍結したDINOv3 S/B/L/H+バックボーン上のPMTTは,表現のニューラルポストトレーニングを伴わない。
• 参考スコア（独自算出の注目度）: 14.289736044507498
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision Transformers represent each image patch through a canonical token produced under one observation condition. That token is a powerful interface, but it is still one realized state of the patch. We introduce PMTT, which establishes two foundations: a patch representation object can extend from one canonical state to a canonical-centered Representation State Family, and identity-preserving variation opens Patch-Level Local Feature Space. We develop four parts of this representation program. Patch Information Acquisition and Dense Orbital Views expose lawful same-patch states. Visible-to-Hidden prediction tests whether observed states reveal structure beyond themselves. Intrinsic analysis identifies low-dimensional, energy-concentrated, patch-specific, predictive geometry. Representation Organization separates acquiring more information from organizing that information, with an analytic Manifold as the central structured representation. We realize PMTT on frozen DINOv3 S/B/L/H+ backbones without neural post-training of the representation. Across two independent 4,096-anchor cohorts, Manifold explains 70.8-79.6% of Hidden variation, compared with 55.0-72.3% for directly Observed states, and wins on more than 95% of anchors at every scale. Effective rank falls from about 2.5 to 2.0 while dominant energy concentration rises with backbone scale. Across six visual capabilities and four scales, Observed exceeds the canonical Center in 21 of 24 conditions, Manifold exceeds Center in 23, and Manifold exceeds Observed in 16. The strongest current consequence appears in physical correspondence, where MegaDepth satisfies Center < Observed < Manifold at every scale. These results show that pretrained visual backbones contain richer patch information than the standard single-token interface directly exposes. Code and experimental assets are available at https://github.com/zixiongwang-ai/PMTT.
• Abstract（参考訳）: 視覚変換器は、各画像パッチを1つの観察条件下で生成された標準トークンを通して表現する。 このトークンは強力なインターフェースですが、パッチが実現した状態のひとつです。 パッチ表現オブジェクトは1つの標準状態から標準中心の表現状態ファミリーに拡張することができ、アイデンティティ保存のバリエーションはパッチレベル局所特徴空間を開放する。 我々はこの表現プログラムの4つの部分を開発する。 Patch Information Acquisition and Dense Orbital Viewsは、合法的に同じパッチ状態を公開する。 可視から隠れた予測テストでは、観測された状態が自身以外の構造を明らかにする。 内在分析は低次元、エネルギー集中、パッチ固有の予測幾何学を同定する。 Representation Organizationは、その情報の整理からより多くの情報を取得することを分離し、分析的マニフォールドを中央構造的表現とする。 凍結したDINOv3 S/B/L/H+バックボーン上のPMTTは,表現のニューラルポストトレーニングを伴わない。 2つの独立した4,096アンカーコホートの中で、マニフォールドは70.8-79.6%のハイデン変量、55.0-72.3%の直接観測された状態、および全ての規模で95%以上のアンカーで勝利している。 有効ランクは約2.5から2.0に低下する一方、支配的なエネルギー濃度はバックボーンスケールで上昇する。 6つの視覚能力と4つのスケールにまたがって、オブザーブドは24条件中21条件で標準中心を上回り、マニフォールドは23条件でセンターを上回り、マニフォールドは16条件で観測される。 MegaDepthはCenter < Observed < Manifold at every scaleを満足する。 これらの結果は、トレーニング済みの視覚バックボーンは、標準のシングルトークンインタフェースが直接公開するよりも、よりリッチなパッチ情報を含んでいることを示している。 コードと実験資産はhttps://github.com/zixiongwang-ai/PMTTで入手できる。

関連論文リスト

• CODI: Improving Self-Supervised Vision Transformers with Cross Distillation [116.71428535119146]
  自己監督型視覚変換器は画像レベルの強い表現を学習するが、そのパッチレベルの表現は高密度な予測では信頼できない。 そこで我々は,教師のクラストケン分布の少量を各教師のパッチトケンターゲットに混合するクロス蒸留(CODI)を提案する。 実験により、CODIは調整済みの事前学習環境下での濃密および画像レベルのパフォーマンスを改善することが示された。
  論文  参考訳（メタデータ） (2026-10-22T03:00:34Z)
• Segment Where You Look: Attention as the Interface Between Language Models and Segmenters [77.48698308182495]
  視覚言語モデル(VLM)は、言語から切り離されたモデルは、参照者の位置をピクセルデコーダに渡す必要がある。 画像トークンに対する[SEG]トークンの注意。 我々は、[SEG]埋め込みをデコーダのプロンプトとしてこの注意に置き換えるAttnSegを紹介します。
  論文  参考訳（メタデータ） (2026-10-13T17:06:29Z)
• Spatial Latent Reasoning for Embodied Reference Understanding [29.844367925922658]
  幾何学的および視覚的状態の順序づけられた列の周囲の監督を指示する枠組みを提案する。 EgoPoint-Groundでは、mIoUを2.8、17.5、21.1ポイントの微調整で改善している。 YouRefItでは、IoU0.5で77.6%の精度を達成した。
  論文  参考訳（メタデータ） (2026-10-07T04:20:55Z)
• The Residual Stream's Effective Depth [10.776510686549338]
  $Deff$は、トランスフォーマーの階層的残留ストリームを離散時間プロセスとして扱う診断である。 16のデフォルト値のうち15は$F_L$以下である。 OLMo-2の初期に確立され、5Tトークンを介して安定するが、Pythia-1.4Bは異なる減少軌道を辿る。
  論文  参考訳（メタデータ） (2026-09-25T10:36:43Z)
• E2S-Pruner: Progressive Two-Stage Evidence Fusion for Visual Token Pruning in Vision-Language Models [12.765837057758127]
  視覚的トークンプルーニングのための2段階のエビデンス融合フレームワークを提案する。 E2S-Prunerは、重要な、重要でない、不確実な3つの状態を使用して、それぞれの視覚トークンを表す。 LLaVA-1.5-7Bでは、E2S-Prunerが98.0%、96.8%、90.6%を維持している。
  論文  参考訳（メタデータ） (2026-08-24T13:44:41Z)
• PatchHead: Learning Spatial Patch Evidence for Generalizable AI-Generated Image Detection [6.466210485064843]
  本稿では,DINOパッチトークンの2次元構造を保存し,近隣地域の証拠を統合する軽量な空間アグリゲーションヘッドであるPatchHeadを紹介する。 PatchHeadは、手動でキュレートされた9つのクロスデータセットベンチマークと、それに続く2つのデータセットで第1位、第2位である。 平均平衡精度(+3.0点)では91.6%から94.6%に改善され、最悪の場合の精度は82.4%から89.4%(+6.9点)に上昇する。
  論文  参考訳（メタデータ） (2026-08-10T07:47:22Z)
• See Less, Drive Better: Generalizable End-to-End Autonomous Driving via Foundation Models Stochastic Patch Selection [51.59559387222532]
  エンドツーエンド自動運転の最近の進歩は、パッチアライメント機能で訓練されたポリシーが、アウト・オブ・ディストリビューション(OOD)よりも一般化していることを示している。 我々は、より堅牢で、一般化可能で、効率的な学習ポリシーのためのシンプルで効果的なアプローチである2.4-Patch-Selection(SPS)を提案する。
  論文  参考訳（メタデータ） (2026-01-15T18:58:33Z)
• What matters for Representation Alignment: Global Information or Spatial Structure? [64.67092609921816]
  表現アライメント(REPA)は、強い事前訓練された視覚エンコーダから中間拡散特徴への表現を蒸留することにより、生成訓練を導く。 本稿では,対象表現のどの側面が生成に重要であるか,そのテクスト・グロバル・リビジョン・セマンティック・情報について検討する。 我々はREPAの標準射影層を単純な畳み込み層に置き換え、外部表現のための空間正規化層を導入する。
  論文  参考訳（メタデータ） (2025-12-11T16:39:53Z)
• CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
  隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。 ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
  論文  参考訳（メタデータ） (2025-10-02T02:14:33Z)
• Gramformer: Learning Crowd Counting via Graph-Modulated Transformer [68.26599222077466]
  Gramformerはグラフ変調変換器で、それぞれ注意点と入力ノードの特徴を調整してネットワークを強化する。 ノードの集中位置や重要性を発見するために,特徴に基づく符号化を提案する。 提案手法の競争性を検証した4つの挑戦的群集カウントデータセットの実験を行った。
  論文  参考訳（メタデータ） (2024-01-08T13:01:54Z)
• Structure-Consistent Weakly Supervised Salient Object Detection with Local Saliency Coherence [14.79639149658596]
  本論文では,スクリブルアノテーションによる弱監督オブジェクト検出のための1ラウンドのエンドツーエンドトレーニング手法を提案する。 6つのベンチマークで最新のパフォーマンスを実現します。
  論文  参考訳（メタデータ） (2020-12-08T12:49:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。