論文の概要: Hilbert Flattening: a Locality-Preserving Matrix Unfolding Method

• arxiv url: http://arxiv.org/abs/2202.10240v6
• Date: Mon, 16 Oct 2023 01:53:37 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-18 07:21:05.637181
• Title: Hilbert Flattening: a Locality-Preserving Matrix Unfolding Method
• Title（参考訳）: Hilbert Flattening: 局所保存マトリックス展開法
• Authors: Qingsong Zhao, Zhipeng Zhou, Yi Wang, Yu Qiao, Duoqian Miao, Cairong Zhao
• Abstract要約: 平坦な行列の局所性を維持する革新的な方法としてヒルベルト曲線平坦化を提案する。 また、トークンサンプリングとトークンアグリゲータを組み込んだ視覚変換器アーキテクチャであるLocalformerを導入し、その局所性バイアスを高める。
• 参考スコア（独自算出の注目度）: 42.177282682719515
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Flattening is essential in computer vision by converting multi-dimensional feature maps or images into one-dimensional vectors. However, existing flattening approaches neglect the preservation of local smoothness, which can impact the representational learning capacity of vision models. In this paper, we propose Hilbert curve flattening as an innovative method to preserve locality in flattened matrices. We compare it with the commonly used Zigzag operation and demonstrate that Hilbert curve flattening can better retain the spatial relationships and local smoothness of the original grid structure, while maintaining robustness against the input scale variance. And, we introduce the Localformer, a vision transformer architecture that incorporates Hilbert token sampling with a token aggregator to enhance its locality bias. Extensive experiments on image classification and semantic segmentation tasks demonstrate that the Localformer outperforms baseline models consistently. We also show it brings consistent performance boosts for other popular architectures (e.g. MLP-Mixer).
• Abstract（参考訳）: フラット化は多次元の特徴地図や画像を一次元ベクトルに変換することによってコンピュータビジョンにおいて不可欠である。 しかし、既存のフラット化アプローチは局所的な滑らかさの維持を怠り、視覚モデルの表現的学習能力に影響を与える可能性がある。 本稿では,平坦行列の局所性を保存するための革新的手法としてヒルベルト曲線平滑化を提案する。 一般的なジグザグ演算と比較し、ヒルベルト曲線の平坦化は、入力スケールのばらつきに対して頑健性を維持しつつ、元の格子構造の空間的関係と局所的滑らかさを保ち続けることができることを示した。 また、Hilbertトークンサンプリングをトークン集約器に組み込んだ視覚変換器アーキテクチャであるLocalformerを導入し、その局所性バイアスを高める。 画像分類とセマンティックセグメンテーションタスクに関する大規模な実験は、Localformerがベースラインモデルを一貫して上回ることを示した。 また、他の一般的なアーキテクチャ(MLP-Mixerなど)に対して、一貫したパフォーマンス向上をもたらすことも示しています。

関連論文リスト

• Vector Field Attention for Deformable Image Registration [9.852055065890479]
  変形可能な画像登録は、固定画像と移動画像の間の非線形空間対応を確立する。 既存のディープラーニングベースの手法では、ニューラルネットワークが特徴マップの位置情報をエンコードする必要がある。 本稿では、位置対応の直接検索を可能にすることにより、既存のネットワーク設計の効率を高める新しいフレームワークであるベクトル場注意(VFA)を提案する。
  論文  参考訳（メタデータ） (2024-07-14T14:06:58Z)
• Breaking the Frame: Visual Place Recognition by Overlap Prediction [53.17564423756082]
  本稿では,重なり合う予測に基づく新しい視覚的位置認識手法 VOP を提案する。 VOPは、Vision Transformerのバックボーンを使用してパッチレベルの埋め込みを取得することで、コビジュアブルなイメージセクションを進める。 提案手法では,データベース画像の重複点の評価に投票機構を用いる。
  論文  参考訳（メタデータ） (2024-06-23T20:00:20Z)
• Towards Better Gradient Consistency for Neural Signed Distance Functions via Level Set Alignment [50.892158511845466]
  レベルセットの並列性によって示される場の勾配一貫性が、推論精度に影響を及ぼす重要な要因であることを示す。 そこで本研究では,次数集合の並列性を評価するためのレベルセットアライメント損失を提案する。
  論文  参考訳（メタデータ） (2023-05-19T11:28:05Z)
• A Geometrically Constrained Point Matching based on View-invariant Cross-ratios, and Homography [2.050924050557755]
  ビュー不変クロス比(CR)に基づく初期一致SIFTキーポイントの正当性検証のための幾何学的制約付きアルゴリズムを提案する。 これらのキーポイントからペンタゴンをランダムに形成し、画像間の形状と位置をCRとマッチングすることにより、堅牢な平面領域推定を効率的に行うことができる。 実験結果から,複数平面領域の複数シーンで良好な結果が得られることがわかった。
  論文  参考訳（メタデータ） (2022-11-06T01:55:35Z)
• Neural Space-filling Curves [47.852964985588486]
  画像の集合に対して文脈に基づくスキャン順序を推定するためのデータ駆動型手法を提案する。 本研究は,グラフベースニューラルネットワークを用いて,画像のデータセットから画像の空間的コヒーレントな線形順序付けを学習する。 画像圧縮などの下流アプリケーションでNeural SFCを使うことの利点を示す。
  論文  参考訳（メタデータ） (2022-04-18T17:59:01Z)
• UltraSR: Spatial Encoding is a Missing Key for Implicit Image Function-based Arbitrary-Scale Super-Resolution [74.82282301089994]
  本研究では,暗黙的イメージ関数に基づく,シンプルで効果的な新しいネットワーク設計であるUltraSRを提案する。 空間符号化は,次の段階の高精度暗黙的画像機能に対する欠落鍵であることを示す。 UltraSRは、すべての超解像スケールでDIV2Kベンチマークに最新のパフォーマンスを設定します。
  論文  参考訳（メタデータ） (2021-03-23T17:36:42Z)
• Scalable Visual Transformers with Hierarchical Pooling [61.05787583247392]
  本稿では,視覚的トークンを徐々にプールしてシーケンス長を縮小する階層的ビジュアルトランスフォーマ(hvt)を提案する。 計算の複雑さを増すことなく、深さ/幅/解像度/パッチサイズの寸法をスケールすることで、大きなメリットをもたらします。 当社のHVTはImageNetとCIFAR-100データセットの競合ベースラインを上回っています。
  論文  参考訳（メタデータ） (2021-03-19T03:55:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。