論文の概要: Foveation-Guided Dynamic Token Selection for Robust and Efficient Vision Transformers

• arxiv url: http://arxiv.org/abs/2607.09480v1
• Date: Fri, 10 Jul 2026 14:53:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-13 14:47:12.864107
• Title: Foveation-Guided Dynamic Token Selection for Robust and Efficient Vision Transformers
• Title（参考訳）: ロバストかつ高能率な視覚変換器のためのフレーベーションガイドによる動的トークン選択
• Abstract要約: Foveated Dynamic Transformer (FDT)は、フォベーション誘導型動的トークン選択アーキテクチャを視覚トランスフレームワークに統合する。 FDTは、このような課題に対して明示的に訓練されていないにもかかわらず、様々な種類のノイズや敵攻撃に対して強い弾力性を示す。 これらの属性は、適応計算とレジリエンスの改善を組み合わせた、HVSにインスパイアされた人工知能へのステップとして位置付けられている。
• 参考スコア（独自算出の注目度）: 33.36466188187489
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The human visual system (HVS) employs foveated sampling and eye movements to achieve efficient perception, conserving both metabolic energy and computational resources. Drawing inspiration from this robustness and adaptability, we introduce the Foveated Dynamic Transformer (FDT), a foveation-guided dynamic token-selection architecture that integrates these mechanisms into a vision transformer framework. The FDT exhibits strong resilience to various types of noise and adversarial attacks, despite not being explicitly trained for such challenges. This inherent robustness is achieved through the use of fixation and foveation modules: the fixation module identifies fixation points to filter out irrelevant information, while the foveation module generates foveated embeddings with multi-scale information. At the 50% fixation-budget setting, FDT achieves higher accuracy than DeiT-S (81.9% vs. 80.9%) while reducing multiply-accumulate operations by 34.57%, highlighting one operating point on its accuracy-efficiency trade-off. These attributes position FDT as an HVS-inspired step toward artificial neural networks that combine adaptive computation with improved resilience.
• Abstract（参考訳）: 人間の視覚システム(HVS)は、代謝エネルギーと計算資源の両方を保存し、効率的な知覚を実現するために、葉柄付きサンプリングと眼球運動を使用している。 この堅牢性と適応性から着想を得たFoveated Dynamic Transformer (FDT)は,これらの機構を視覚変換器フレームワークに統合したファベーション誘導型動的トークン選択アーキテクチャである。 FDTは、このような課題に対して明示的に訓練されていないにもかかわらず、様々な種類のノイズや敵の攻撃に対して強い弾力性を示す。 固定モジュールは、固定点を特定して、無関係な情報をフィルタリングし、ファーベーションモジュールは、マルチスケール情報でファーベイド埋め込みを生成する。 50%の固定予算設定で、FDTはDeiT-S(81.9%対80.9%)よりも高い精度を達成し、乗算累積演算を34.57%削減し、精度と効率のトレードオフの1つの操作点を強調した。 これらの属性は、適応計算とレジリエンスの改善を組み合わせた、HVSにインスパイアされた人工知能へのステップとしてFDTを位置付けている。

関連論文リスト

• Deformable Gaussian Occupancy: Decoupling Rigid and Nonrigid Motion with Factorized Distillation [81.44955493339835]
  DeGOは変形可能なガウスの占有機構であり、分解したガウスの変形と分解された4次元基礎モデル蒸留を統一する。 Occ3D-NuScenesベンチマーク実験により,本手法が弱い監督下での最先端性能を実現することを示す。
  論文  参考訳（メタデータ） (2026-05-27T15:09:55Z)
• SAFformer:Improving Spiking Transformer via Active Predictive Filtering [6.339831937684366]
  スパイキングニューラルネットワーク(SNN)は、生物学的可視性とエネルギー効率において顕著な利点を提供する。 本稿では,アクティブな予測フィルタリングパラダイムに基づく新しいスパイキングトランスフォーマーアーキテクチャであるSAFformerを提案する。 実験の結果、SAFformerはCIFAR-10/100とCIFAR10-DVSで最先端の性能を確立した。
  論文  参考訳（メタデータ） (2026-05-08T03:17:52Z)
• ToaSt: Token Channel Selection and Structured Pruning for Efficient ViT [14.21482208417138]
  ビジョントランスフォーマー(ViT)は様々なビジョンタスクで顕著な成功を収めているが、その展開は計算コストの制限によって妨げられていることが多い。 異なるViTコンポーネントに特別な戦略を適用する分離されたフレームワークであるToaStを提案する。
  論文  参考訳（メタデータ） (2026-02-17T16:52:13Z)
• Structured Contrastive Learning for Interpretable Latent Representations [2.8870482999983094]
  本研究では,潜在空間表現を3つの意味群に分割するフレームワークであるStructured Contrastive Learning (SCL)を提案する。 ECG相の分散とIMU回転の実験は優れた性能を示した。 この研究は、リアクティブデータ拡張からプロアクティブな構造学習へのパラダイムシフトを表し、ニューラルネットワークにおける解釈可能な潜在表現を可能にする。
  論文  参考訳（メタデータ） (2025-11-18T21:18:20Z)
• RT-DETRv4: Painlessly Furthering Real-Time Object Detection with Vision Foundation Models [48.91205564876609]
  軽量物体検出器の高効率化を目的とした,コスト効率・高適合性蒸留フレームワークを提案する。 当社のアプローチは、さまざまなDETRベースのモデルに対して、目立って一貫したパフォーマンス向上を実現しています。 我々の新しいモデルファミリーRT-DETRv4はCOCOの最先端結果を達成し、APスコアは49.7/53.5/55.4/57.0で、対応する速度は273/169/124/78 FPSである。
  論文  参考訳（メタデータ） (2025-10-29T08:13:17Z)
• Hourglass Tokenizer for Efficient Transformer-Based 3D Human Pose Estimation [73.31524865643709]
  本稿では,Hourglass Tokenizer (HoT) と呼ばれるプラグアンドプレイのプルーニング・アンド・リカバリフレームワークを提案する。 私たちのHoDTは、冗長なフレームのポーズトークンのプルーニングから始まり、フル長のトークンを復元することで終了します。 提案手法は,従来のVPTモデルと比較して高い効率性と推定精度を両立させることができる。
  論文  参考訳（メタデータ） (2023-11-20T18:59:51Z)
• DAT++: Spatially Dynamic Vision Transformer with Deformable Attention [87.41016963608067]
  Deformable Attention Transformer (DAT++)を提案する。 DAT++は、85.9%のImageNet精度、54.5および47.0のMS-COCOインスタンスセグメンテーションmAP、51.5のADE20KセマンティックセグメンテーションmIoUで、様々なビジュアル認識ベンチマークで最先端の結果を達成している。
  論文  参考訳（メタデータ） (2023-09-04T08:26:47Z)
• Deeper Insights into ViTs Robustness towards Common Corruptions [82.79764218627558]
  我々は、CNNのようなアーキテクチャ設計とCNNベースのデータ拡張戦略が、一般的な汚職に対するViTsの堅牢性にどのように影響するかを検討する。 重なり合うパッチ埋め込みと畳み込みフィードフォワードネットワーク(FFN)がロバスト性の向上を実証する。 また、2つの角度から入力値の増大を可能にする新しい条件付き手法も導入する。
  論文  参考訳（メタデータ） (2022-04-26T08:22:34Z)
• MIA-Former: Efficient and Robust Vision Transformers via Multi-grained Input-Adaptation [14.866949449862226]
  Vision Transformer (ViT) モデルは、現実のリソース制約されたデバイスに組み込むには計算コストがかかりすぎる。 入力適応型視覚変換フレームワークMIA-Formerを提案する。 提案するMIA-Formerフレームワークは,入力画像の難易度に適応した予算を効果的に配分できることを確認した。
  論文  参考訳（メタデータ） (2021-12-21T22:06:24Z)
• AdaViT: Adaptive Tokens for Efficient Vision Transformer [91.88404546243113]
  本稿では,視覚変換器(ViT)の推論コストを,複雑さの異なる画像に対して適応的に調整する手法であるAdaViTを紹介する。 AdaViTは、推論が進むにつれてネットワーク内で処理されるビジョントランスフォーマーのトークン数を自動で削減することで、これを実現する。
  論文  参考訳（メタデータ） (2021-12-14T18:56:07Z)
• AdaViT: Adaptive Vision Transformers for Efficient Image Recognition [78.07924262215181]
  AdaViTは、パッチ、セルフアテンションヘッド、およびトランスフォーマーブロックを使用するための利用ポリシーを導出する適応フレームワークである。 本手法は,0.8%の精度で,最先端のビジョントランスに比べて2倍以上の効率向上を実現している。
  論文  参考訳（メタデータ） (2021-11-30T18:57:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。