論文の概要: Intrinsic and Triangulation-Agnostic Attention: A Simple and Powerful Approach for Learning on Meshes
- arxiv url: http://arxiv.org/abs/2607.24954v1
- Date: Mon, 27 Jul 2026 18:04:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-29 20:50:42.584685
- Title: Intrinsic and Triangulation-Agnostic Attention: A Simple and Powerful Approach for Learning on Meshes
- Title(参考訳): 内在的・三角法非依存的注意:メッシュ上での学習のためのシンプルで強力なアプローチ
- Abstract要約: 本研究は,三角形メッシュに対するアテンション機構の適応性を提案する。
中心となる観察は、メッシュを学習する上で重要な特性を持つ注意機構 – 内在性と三角法非依存 – を提供することによって、幾何処理におけるいくつかの学習ベースのタスクにおいて、最先端の結果を得ることが可能になることである。
- 参考スコア(独自算出の注目度): 12.48720424281573
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This work proposes an adaptation of the attention mechanism for triangle meshes. The core observation is that endowing the attention mechanism with critical properties for learning over meshes -- intrinsicality and triangulation-agnosticism -- enables it to attain state-of-the-art results over several learning-based tasks in geometry-processing. The above is achieved by modifying the attention mechanism from the bottom up based on simple principles from geometry-processing. Namely, the quantities used within attention -- queries, keys and values -- are created by an intrinsic, triangulation-agnostic network, and treated as discretizations of continuous functions. From that, we devise an appropriate attention mechanism that operates over triangle meshes through standard FEM discretization of the resulting integrals of the above functions. Surprisingly, as far as we know, this straightforward approach has not been utilized for learning over meshes. Experiments show our method exceeds current state of the art, including both mesh-based architectures as well as point cloud transformers. Namely, we show significant improvements on several common benchmarks and tasks -- predicting canonical high-frequency signals; predicting deformations; computing dense correspondences, both between full shapes and partial ones; and predicting feature descriptors.
- Abstract(参考訳): 本研究は,三角形メッシュに対するアテンション機構の適応性を提案する。
中心となる観察は、メッシュを学習する上で重要な特性を持つ注意機構 – 内在性と三角法非依存 – を提供することによって、幾何処理におけるいくつかの学習ベースのタスクにおいて、最先端の結果を得ることが可能になることである。
以上は、幾何学処理の簡単な原理に基づいて、ボトムアップから注意機構を変更することで達成される。
すなわち、クエリ、キー、値といった注意の中で使われる量は、本質的に三角形に依存しないネットワークによって生成され、連続関数の離散化として扱われる。
そこで我々は,上記の関数の積分の標準FEM離散化により,三角形メッシュ上で動く適切な注意機構を考案した。
驚くべきことに、私たちの知る限りでは、この単純なアプローチはメッシュの学習には使用されていません。
実験により、メッシュベースのアーキテクチャとポイントクラウドトランスフォーマーの両方を含む、現在の最先端技術を超えていることが示された。
すなわち、標準的な高周波信号の予測、変形の予測、完全形状と部分形状の両方の密度の高い対応の計算、特徴記述子の予測など、いくつかの一般的なベンチマークやタスクにおいて、大幅な改善が見られた。
関連論文リスト
- Cosine-Normalized Attention for Hyperspectral Image Classification [7.170991480063844]
トランスフォーマーに基づく手法は、長距離空間スペクトル依存性をモデル化することにより、ハイパースペクトル画像分類(HSIC)を改善した。
本研究は、幾何学的視点から注目スコアを見直し、コサイン正規化注意定式化を導入する。
3つのベンチマークデータセットの実験は、提案手法が一貫して高い性能を達成することを示した。
論文 参考訳(メタデータ) (2026-04-02T08:32:12Z) - Towards Foundation Models for 3D Scene Understanding: Instance-Aware Self-Supervised Learning for Point Clouds [53.82500407523346]
PointINSは、幾何学的学習を通じてポイントクラウド表現を豊かにする、インスタンス指向の自己組織化フレームワークである。
PointINSは、屋内のインスタンスセグメンテーションで平均+3.5%のmAP改善、屋外のパン光学セグメンテーションで+4.1%のPQゲインを達成している。
論文 参考訳(メタデータ) (2026-03-26T08:31:06Z) - Towards understanding how attention mechanism works in deep learning [8.79364699260219]
本研究では,古典的メトリクスとベクトル空間特性を用いて,多様体学習,クラスタリング,教師あり学習における類似性の計算過程について検討する。
自己認識機構を学習可能な擬似メトリック関数と類似性計算に基づく情報伝達プロセスに分解する。
本稿では,メトリック学習の概念を活用して,望ましいメトリクスをより効果的に学習できるようにすることにより,メトリックアテンションと呼ばれる改良されたアテンション機構を提案する。
論文 参考訳(メタデータ) (2024-12-24T08:52:06Z) - SpaceMesh: A Continuous Representation for Learning Manifold Surface Meshes [61.110517195874074]
本稿では,ニューラルネットワークの出力として,複雑な接続性を持つ多様体多角形メッシュを直接生成する手法を提案する。
私たちの重要なイノベーションは、各メッシュで連続的な遅延接続空間を定義することです。
アプリケーションでは、このアプローチは生成モデルから高品質な出力を得るだけでなく、メッシュ修復のような挑戦的な幾何処理タスクを直接学習することを可能にする。
論文 参考訳(メタデータ) (2024-09-30T17:59:03Z) - Decomposable Transformer Point Processes [2.1756081703276]
本稿では,注目に基づくアーキテクチャの利点の維持と,薄型化アルゴリズムの限界を回避する枠組みを提案する。
提案手法は,その履歴が与えられたシーケンスの次の事象を予測する上で,最先端の性能を実現する。
論文 参考訳(メタデータ) (2024-09-26T13:22:58Z) - Localized Gaussians as Self-Attention Weights for Point Clouds Correspondence [92.07601770031236]
本稿では,エンコーダのみのトランスフォーマーアーキテクチャのアテンションヘッドにおける意味的意味パターンについて検討する。
注意重みの修正はトレーニングプロセスの促進だけでなく,最適化の安定性の向上にも寄与する。
論文 参考訳(メタデータ) (2024-09-20T07:41:47Z) - CWF: Consolidating Weak Features in High-quality Mesh Simplification [50.634070540791555]
これらの要件をすべて同時に検討するスムーズな機能を提案する。
この官能基は、通常の異方性項と、セトロイド型ボロノイテッセルレーション(CVT)エネルギー項を含む。
論文 参考訳(メタデータ) (2024-04-24T05:37:17Z) - A phase transition between positional and semantic learning in a solvable model of dot-product attention [30.96921029675713]
学習可能な,低次元の問合せとキーデータを備えた非次元自己注意層として,高次モデルドット積注意法について検討した。
位置注意機構(それぞれの位置に基づくトークンを含む)と意味注意機構(それぞれの意味に基づいて互いに結びついているトークンを含む)と、サンプルの複雑さが増大する前者から後者への遷移が示される。
論文 参考訳(メタデータ) (2024-02-06T11:13:54Z) - Tensor Representations for Action Recognition [54.710267354274194]
シーケンスにおける人間の行動は、空間的特徴とその時間的ダイナミクスの複雑な相互作用によって特徴づけられる。
アクション認識タスクの視覚的特徴間の高次関係を捉えるための新しいテンソル表現を提案する。
我々は,高次テンソルといわゆる固有値パワー正規化(NEP)を用いて,高次事象のスペクトル検出を行う。
論文 参考訳(メタデータ) (2020-12-28T17:27:18Z) - Primal-Dual Mesh Convolutional Neural Networks [62.165239866312334]
本稿では,グラフ・ニューラル・ネットワークの文献からトライアングル・メッシュへ引き起こされた原始双対のフレームワークを提案する。
提案手法は,3次元メッシュのエッジと顔の両方を入力として特徴付け,動的に集約する。
メッシュ単純化の文献から得られたツールを用いて、我々のアプローチに関する理論的知見を提供する。
論文 参考訳(メタデータ) (2020-10-23T14:49:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。