論文の概要: Functional Attention: From Pairwise Affinities to Functional Correspondences
- arxiv url: http://arxiv.org/abs/2605.31559v1
- Date: Fri, 29 May 2026 17:22:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.770003
- Title: Functional Attention: From Pairwise Affinities to Functional Correspondences
- Title(参考訳): 機能的注意:機能的親和性から機能的対応へ
- Abstract要約: 本稿では,適応ベース間の機能的対応として注意を再解釈するemphFunctional Attentionを紹介する。
実験により、emphFunctional Attentionは、多くの演算子学習タスクにおける最先端のパフォーマンスと一致することを示した。
- 参考スコア(独自算出の注目度): 48.36268255718624
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning mappings between infinite-dimensional function spaces, or operator learning, is essential for many machine learning applications. Although transformer-based operators are popular, they often rely on token-wise attention. These methods treat continuous fields as discrete tokens and usually ignore the global functional structure. We introduce \emph{Functional Attention}, which reinterprets attention as a functional correspondence between adaptive bases. Inspired by geometric functional maps, our method replaces softmax affinities with structured linear operators. This yields a compact, generalizable, resolution-invariant representation that explicitly captures global dependencies. Experiments demonstrate that \emph{Functional Attention} can match state-of-the-art performance in many operator learning tasks, including solving PDEs, 3D segmentation, and regression, while remaining robust to varying discretizations. Project page is available at https://github.com/xjffff/FUNCATTN.
- Abstract(参考訳): 無限次元関数空間間の写像の学習、あるいは演算子学習は、多くの機械学習アプリケーションにとって不可欠である。
トランスフォーマーベースのオペレータは人気があるが、トークン単位の注意に頼っていることが多い。
これらの方法は、連続体を離散トークンとして扱い、大域的機能構造を無視する。
本稿では,適応ベース間の機能的対応として注意を解釈する「emph{Functional Attention}」を紹介する。
幾何学的汎函数写像にインスパイアされた本手法は,ソフトマックス親和性を線形作用素に置き換える。
これにより、グローバルな依存関係を明示的にキャプチャするコンパクトで一般化可能な解像度不変表現が得られる。
実験により, PDE, 3Dセグメンテーション, レグレッションを解きながら, 様々な離散化に頑健に保ちながら, 多くの演算子学習タスクにおいて, 「emph{Functional Attention}」が最先端のパフォーマンスと一致できることが示されている。
プロジェクトページはhttps://github.com/xjffff/FUNCATTN.comで公開されている。
関連論文リスト
- Functional-SLAM: Interaction-Aware Mapping with Online Functional Scene Graphs [52.091507529866725]
機能SLAMは、オンラインSLAMステートとして機能的なシーングラフを維持するフレームワークである。
オンラインで安定した関数型マップを効率的に構築し、オフラインメソッドよりも実行時間を大幅に改善する。
ピアSLAMシステムと比較して、関数トポロジ支援ループクロージャによるポーズ推定精度をさらに向上する。
論文 参考訳(メタデータ) (2026-09-07T13:46:56Z) - When Bayesian Tensor Completion Meets Multioutput Gaussian Processes: Functional Universality and Rank Learning [53.17227599983122]
関数テンソル分解は実数値インデックスを用いて多次元データを解析することができる。
そこで本研究では,Right-Revealing Functional Low-rank tensor completion (RR-F)法を提案する。
連続多次元信号に対するモデルの普遍近似特性を確立する。
論文 参考訳(メタデータ) (2025-12-25T03:15:52Z) - DiffuMatch: Category-Agnostic Spectral Diffusion Priors for Robust Non-rigid Shape Matching [53.39693288324375]
ネットワーク内正規化と関数型マップトレーニングの両方をデータ駆動方式に置き換えることができることを示す。
まず、スコアベース生成モデルを用いてスペクトル領域における関数写像の生成モデルを訓練する。
次に、得られたモデルを利用して、新しい形状コレクション上の基底真理汎関数写像の構造的特性を促進する。
論文 参考訳(メタデータ) (2025-07-31T16:44:54Z) - Continuum Attention for Neural Operators [4.890844524170721]
我々は、トランスニューラル演算子に対する最初の普遍近似結果を記述し、証明する。
また、コンピュータビジョンからパッチ戦略の関数空間の一般化を導入し、関連するニューラル演算子のクラスを導入する。
論文 参考訳(メタデータ) (2024-06-10T17:25:46Z) - Binning as a Pretext Task: Improving Self-Supervised Learning in Tabular Domains [0.565395466029518]
そこで本研究では,古典的ビンニング手法に基づく新しいプレテキストタスクを提案する。
その考え方は単純で、元の値ではなく、binインデックス(順序またはクラス)を再構築する。
我々の実証調査では、ビンニングの利点がいくつか確認されている。
論文 参考訳(メタデータ) (2024-05-13T01:23:14Z) - Memory-Scalable and Simplified Functional Map Learning [32.088809326158554]
本稿では,メモリスケーラブルで効率的な関数型マップ学習パイプラインを提案する。
関数マップの構造を利用することで、メモリにポイントワイズマップを格納することなく、同じ結果が得られる可能性を提供します。
このアルゴリズムを後処理のステップで使用する多くの関数型マップ学習法とは異なり、列車時に簡単に利用できる。
論文 参考訳(メタデータ) (2024-03-30T12:01:04Z) - Understanding and Improving Features Learned in Deep Functional Maps [31.61255365182462]
より深い関数型マップアプローチで学習した特徴は、異なる形状のポイントワイド記述子として利用できることを示す。
本稿では,学習特徴の構造的特性を促進するため,標準的な深部関数型マップパイプラインを効果的に修正することを提案する。
論文 参考訳(メタデータ) (2023-03-29T08:32:16Z) - Equivariance with Learned Canonicalization Functions [77.32483958400282]
正規化を行うために小さなニューラルネットワークを学習することは、事前定義を使用することよりも優れていることを示す。
実験の結果,正準化関数の学習は多くのタスクで同変関数を学習する既存の手法と競合することがわかった。
論文 参考訳(メタデータ) (2022-11-11T21:58:15Z) - Provable General Function Class Representation Learning in Multitask
Bandits and MDPs [58.624124220900306]
マルチタスク表現学習は、サンプル効率を高めるために強化学習において一般的なアプローチである。
本研究では,解析結果を一般関数クラス表現に拡張する。
バンディットと線形MDPの一般関数クラスにおけるマルチタスク表現学習の利点を理論的に検証する。
論文 参考訳(メタデータ) (2022-05-31T11:36:42Z) - SPINE: Soft Piecewise Interpretable Neural Equations [0.0]
完全に接続されたネットワークはユビキタスだが解釈不能である。
本論文は,個々の部品に設定操作を施すことにより,ピースワイズに新しいアプローチを採っている(一部)。
完全に接続されたレイヤを解釈可能なレイヤに置き換えなければならない、さまざまなアプリケーションを見つけることができる。
論文 参考訳(メタデータ) (2021-11-20T16:18:00Z) - UNIPoint: Universally Approximating Point Processes Intensities [125.08205865536577]
学習可能な関数のクラスが任意の有効な強度関数を普遍的に近似できることを示す。
ニューラルポイントプロセスモデルであるUNIPointを実装し,各イベントの基底関数の和をパラメータ化するために,リカレントニューラルネットワークを用いた。
論文 参考訳(メタデータ) (2020-07-28T09:31:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。