論文の概要: Exploiting Inductive Bias in Transformer for Point Cloud Classification and Segmentation

• arxiv url: http://arxiv.org/abs/2304.14124v1
• Date: Thu, 27 Apr 2023 12:17:35 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-28 13:27:14.757652
• Title: Exploiting Inductive Bias in Transformer for Point Cloud Classification and Segmentation
• Title（参考訳）: 変圧器のインダクティブバイアスを利用した点雲分類とセグメンテーション
• Authors: Zihao Li, Pan Gao, Hui Yuan, Ran Wei, Manoranjan Paul
• Abstract要約: 本稿では,新しいインダクティブバイアス支援トランス (IBT) 法を設計し,点間関係を学習する。 局所的特徴学習は相対的位置、注意的特徴プーリングを通じて行われる。 分類タスクと分割タスクにおいて,その優位性を実験的に示す。
• 参考スコア（独自算出の注目度）: 22.587913528540465
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Discovering inter-point connection for efficient high-dimensional feature extraction from point coordinate is a key challenge in processing point cloud. Most existing methods focus on designing efficient local feature extractors while ignoring global connection, or vice versa. In this paper, we design a new Inductive Bias-aided Transformer (IBT) method to learn 3D inter-point relations, which considers both local and global attentions. Specifically, considering local spatial coherence, local feature learning is performed through Relative Position Encoding and Attentive Feature Pooling. We incorporate the learned locality into the Transformer module. The local feature affects value component in Transformer to modulate the relationship between channels of each point, which can enhance self-attention mechanism with locality based channel interaction. We demonstrate its superiority experimentally on classification and segmentation tasks. The code is available at: https://github.com/jiamang/IBT
• Abstract（参考訳）: 点座標から効率的な高次元特徴抽出のための点間接続の発見は、点クラウド処理における重要な課題である。 既存のほとんどの手法は、グローバル接続を無視しながら効率的なローカル特徴抽出器を設計することに焦点を当てている。 本稿では,局所的および大域的に注目される3次元点間関係を学習するための新しいインダクティブバイアス支援トランスフォーマ(ibt)法を考案する。 具体的には、局所的空間的コヒーレンスを考慮した相対的位置符号化と注意的特徴プーリングにより局所的特徴学習を行う。 学習した局所性をtransformerモジュールに組み込む。 局所的特徴は変圧器の値成分に影響を与え、各点のチャネル間の関係を変調する。 分類と分割作業において,その優位性を実験的に示す。 コードは https://github.com/jiamang/IBT

関連論文リスト

• LoFLAT: Local Feature Matching using Focused Linear Attention Transformer [36.53651224633837]
  We propose the LoFLAT, a novel Local Feature matching using Focused Linear Attention Transformer。 私たちのLoFLATは、Feature extract Module、Feature Transformer Module、Matching Moduleの3つの主要なモジュールで構成されています。 提案した LoFLAT は効率と精度の両方で LoFTR 法より優れている。
  論文  参考訳（メタデータ） (2024-10-30T05:38:07Z)
• GSTran: Joint Geometric and Semantic Coherence for Point Cloud Segmentation [33.72549134362884]
  本稿では,セグメント化作業に適した新しい変圧器ネットワークであるGSTranを提案する。 提案するネットワークは主に,局所幾何学変換器と大域意味変換器の2つの主成分から構成される。 ShapeNetPartとS3DISベンチマークの実験により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2024-08-21T12:12:37Z)
• Boosting Cross-Domain Point Classification via Distilling Relational Priors from 2D Transformers [59.0181939916084]
  従来の3Dネットワークは主に局所幾何学的詳細に焦点を当て、局所幾何学間の位相構造を無視する。 そこで本稿では,大規模画像上においてよく訓練されたトランスフォーマーから前駆体を抽出する,新しい先駆体蒸留法を提案する。 PointDA-10とSim-to-Realデータセットの実験は、提案手法が点クラウド分類におけるUDAの最先端性能を一貫して達成していることを検証する。
  論文  参考訳（メタデータ） (2024-07-26T06:29:09Z)
• Part-guided Relational Transformers for Fine-grained Visual Recognition [59.20531172172135]
  識別的特徴を学習し,特徴変換モジュールとの相関関係を探索するフレームワークを提案する。 提案手法は,3-of-the-levelオブジェクト認識において,部分ブランチの追加に頼らず,最先端の性能に達する。
  論文  参考訳（メタデータ） (2022-12-28T03:45:56Z)
• LCPFormer: Towards Effective 3D Point Cloud Analysis via Local Context Propagation in Transformers [60.51925353387151]
  本稿では,近隣地域間のメッセージパッシングを活用するために,LCP (Local Context Propagation) という新しいモジュールを提案する。 隣接するローカル領域の重複点を仲介として使用した後、異なるローカルリージョンからの共有ポイントの特徴を再重み付けし、その後、次のレイヤに渡す。 提案手法は, 異なるタスクに適用可能であり, 3次元形状分類や高密度予測タスクを含むベンチマークにおいて, 様々なトランスフォーマーベースの手法より優れる。
  論文  参考訳（メタデータ） (2022-10-23T15:43:01Z)
• 3DGTN: 3D Dual-Attention GLocal Transformer Network for Point Cloud Classification and Segmentation [21.054928631088575]
  本稿では,Global Local(GLocal) Transformer Network(3DGTN)と呼ばれる,新たなポイントクラウド表現学習ネットワークを提案する。 提案するフレームワークは,分類データセットとセグメンテーションデータセットの両方で評価される。
  論文  参考訳（メタデータ） (2022-09-21T14:34:21Z)
• Points to Patches: Enabling the Use of Self-Attention for 3D Shape Recognition [19.89482062012177]
  本稿では,局所的およびグローバルな注意機構を組み合わせた2段階のPoint Transformer-in-Transformer(Point-TnT)アプローチを提案する。 形状分類の実験では、このようなアプローチは、ベースライントランスフォーマーよりも下流タスクに有用な機能を提供している。 また,シーン再構築のための特徴マッチングに拡張し,既存のシーン再構築パイプラインと組み合わせて使用できることを示す。
  論文  参考訳（メタデータ） (2022-04-08T09:31:24Z)
• LCTR: On Awakening the Local Continuity of Transformer for Weakly Supervised Object Localization [38.376238216214524]
  弱教師付きオブジェクトローカライゼーション(WSOL)は、画像レベルのラベルだけでオブジェクトローカライザを学習することを目的としている。 本稿では,グローバルな特徴の局所認識能力を高めることを目的とした,LCTRと呼ばれるトランスフォーマー上に構築された新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-12-10T01:48:40Z)
• Conformer: Local Features Coupling Global Representations for Visual Recognition [72.9550481476101]
  本稿では,畳み込み操作と自己アテンション機構を利用した表現学習のためのハイブリッドネットワーク構造,conformerを提案する。 実験では、コンフォーマーが同等のパラメータ複雑性の下で視覚変換器(DeiT-B)を2.3%上回ることが示されている。
  論文  参考訳（メタデータ） (2021-05-09T10:00:03Z)
• LocalViT: Bringing Locality to Vision Transformers [132.42018183859483]
  線、エッジ、形状、さらにはオブジェクトなどの構造に関連するため、画像には局所性が不可欠です。 フィードフォワードネットワークに奥行き畳み込みを導入することで,視覚トランスフォーメーションに局所性を加える。 この一見シンプルなソリューションは、フィードフォワードネットワークと反転残留ブロックの比較に触発されます。
  論文  参考訳（メタデータ） (2021-04-12T17:59:22Z)
• Feature Pyramid Transformer [121.50066435635118]
  我々は、FPT(Feature Pyramid Transformer)と呼ばれる、空間とスケールの双方で完全にアクティブな特徴相互作用を提案する。 FPTは任意の特徴ピラミッドを同じ大きさの他の特徴ピラミッドに変換するが、よりリッチなコンテキストを持つ。 我々は、インスタンスレベル(オブジェクト検出とインスタンスセグメンテーション)とピクセルレベルのセグメンテーションタスクの両方で広範な実験を行う。
  論文  参考訳（メタデータ） (2020-07-18T15:16:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。