論文の概要: Function-Space Transformer with Adaptive Anchors
- arxiv url: http://arxiv.org/abs/2609.38348v1
- Date: Tue, 29 Sep 2026 18:10:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.562588
- Title: Function-Space Transformer with Adaptive Anchors
- Title(参考訳): 適応アンカーを用いた関数空間変換器
- Abstract要約: 本稿では,FST(Function-Space Transformer)を提案する。
PDEBench BurgersとDarcy Flowを用いたPDEソリューション予測では、FSTはPerceiver IOベースラインを大幅に上回る。
ImageNet-1Kでは、FSTはVision Transformerベースラインよりも高い分類精度を達成する。
- 参考スコア(独自算出の注目度): 1.5469452301122175
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many forms of data, including physical fields, geometric shapes, and visual signals, are naturally described by functions over continuous domains but are observed through discrete samples. Representing these functions on fixed uniform grids imposes a trade-off between resolving localized variation and increasing computation across the domain. Neural operators address this mismatch by learning mappings between functions, while latent-attention architectures provide flexible processing of sampled observations. We introduce the Function-Space Transformer (FST), a framework for learning from functions through a spatially adaptive continuous latent representation. FST stores features at anchors whose locations are predicted from the input observations and recursively refines these anchor features through function-space interactions. This allows the representation to adapt its spatial organization to each input rather than inherit that of the observation grid, while supporting both spatially resolved and finite-dimensional outputs. On PDE solution prediction using PDEBench Burgers and Darcy flow, FST substantially outperforms the Perceiver IO baseline, whose latent representation lacks explicit spatial organization, and is highly competitive with the Fourier Neural Operator. On ImageNet-1K, FST achieves higher classification accuracy than the Vision Transformer baseline, with fewer parameters across these comparisons. Ablations further support the benefits of function-space updates and recursive refinement. Together, these results highlight the potential of adaptive continuous representations for both scientific prediction and visual recognition.
- Abstract(参考訳): 物理場、幾何学的形状、視覚信号を含む多くのデータ形式は、連続領域上の関数によって自然に記述されるが、離散的なサンプルを通して観察される。
固定された一様格子上のこれらの関数を表現することは、局所的変動の解消と、領域全体の計算量の増加の間のトレードオフを課す。
ニューラル演算子は関数間のマッピングを学習することでこのミスマッチに対処するが、潜在アテンションアーキテクチャはサンプル観測の柔軟な処理を提供する。
本稿ではFST(Function-Space Transformer)について紹介する。
FSTは、入力観測から位置が予測されるアンカーに特徴を格納し、関数空間相互作用を通じてこれらのアンカー機能を再帰的に洗練する。
これにより、空間的に解決された出力と有限次元の出力の両方をサポートしながら、各入力に対してその空間的構造を継承するのではなく、それぞれの入力に適応させることができる。
PDEBench Burgers と Darcy Flow を用いた PDE の解予測では、FST は Perceiver IO ベースラインを著しく上回っている。
ImageNet-1Kでは、FSTはVision Transformerベースラインよりも高い分類精度を実現している。
アブレーションは、関数空間更新と再帰的改善の利点をさらにサポートする。
これらの結果は、科学的予測と視覚認識の両方において適応的連続表現の可能性を強調している。
関連論文リスト
- Revisiting Neural Processes via Fourier Transform and Volterra Series [8.061821280531884]
神経過程 (NPs) は確率的機能モデルの一種である。
NPは2つの制限に直面している: (i) 非線型なジェネリックコンポーネントをスタックし、誘導関数クラスを隠蔽し、解釈可能性を制限する。
本稿では,SFConvブロックを非線形にスタックするSFConvCNPと,Volterraの定式化を統合するSFVConvCNPという2つの条件付きNPを提案する。
論文 参考訳(メタデータ) (2026-05-31T11:27:48Z) - Weighted Reverse Convolution for Feature Upsampling [11.417895756597545]
WRC(Weighted Reverse Convolution)は、高レベルな視覚ディスクリプタをデジタイズするための空間適応型逆演算子である。
WRCは空間的に異なる特徴に適応し、過剰な平滑化を緩和しながら重要な構造を保存する。
WRCは、セグメンテーション、深さ推定、ビデオオブジェクトのセグメンテーション、オブジェクト発見、キーポイント対応など、様々なダウンストリームベンチマークにおける機能品質を一貫して改善している。
論文 参考訳(メタデータ) (2026-05-17T14:20:53Z) - UFO: A Domain-Unification-Free Operator Framework for Generalized Operator Learning [4.235429894371577]
我々は、適応的、共同条件付き相互作用を通じて演算子を実現するクロスドメインニューラルネットワークフレームワークであるUFO(Domain-Unification-Free Operator)を紹介する。
我々は、UFOが分布シフトの下で正確な、堅牢で、物理的に一貫性のある予測を提供することを示す。
論文 参考訳(メタデータ) (2026-05-12T19:54:12Z) - GRIFDIR: Graph Resolution-Invariant FEM Diffusion Models in Function Spaces over Irregular Domains [56.121725064621295]
関数空間におけるスコアベース拡散モデル(英語版)は関数値データをモデル化するための原則的なフレームワークを提供する。
しかし、実践的な実装はこれらの利点を完全に実現するのに苦労しています。
一般化された畳み込みカーネルを有限グラフカーネルとして表現する新しいアーキテクチャを提案する。
論文 参考訳(メタデータ) (2026-05-05T08:33:52Z) - Implicit Neural Representations: A Signal Processing Perspective [54.57279006229212]
入射神経表現(INR)は、離散的なサンプルデータから連続的な機能的表現へと、信号モデリングの根本的な変化を示す。
本稿では、信号処理の観点からのINRの進化を考察し、スペクトル挙動、サンプリング理論、マルチスケール表現を強調する。
医療・レーダ画像の逆問題,圧縮,3次元シーン表現など,幅広い応用分野におけるINRの有用性を強調した。
論文 参考訳(メタデータ) (2026-04-16T14:12:06Z) - FAME: Adaptive Functional Attention with Expert Routing for Function-on-Function Regression [15.00767095565706]
FAME(Functional Attention with a Mixture-of-Experts)は、関数・オン・ファンクションの回帰のためのエンドツーエンドの完全なデータ駆動フレームワークである。
FAMEは、神経制御微分方程式とMoE駆動ベクトル場を結合して機能的連続性を捉えることで連続的な注意を形成する。
合成および実世界の汎関数回帰ベンチマークの実験により、FAMEは任意のサンプリングされた離散観測に対して、最先端の精度、強い堅牢性を達成することが示された。
論文 参考訳(メタデータ) (2025-10-01T07:53:55Z) - Projective Kolmogorov Arnold Neural Networks (P-KANs): Entropy-Driven Functional Space Discovery for Interpretable Machine Learning [0.0]
Kolmogorov-Arnold Networks (KAN) は学習可能な非線形性をノードからエッジに移動させる。
現在のkanは、高次元スプラインパラメータ空間の冗長性に起因する基本的な非効率性に悩まされている。
本稿では,エッジ関数発見を導く新しいトレーニングフレームワークであるProjective Kolmogorov-Arnold Networks (P-KANs)を紹介する。
論文 参考訳(メタデータ) (2025-09-24T12:15:37Z) - Multivariate Long-term Time Series Forecasting with Fourier Neural Filter [42.60778405812048]
我々はFNFをバックボーンとして、DBDをアーキテクチャとして導入し、空間時間モデルのための優れた学習能力と最適な学習経路を提供する。
FNFは、局所時間領域とグローバル周波数領域の情報処理を単一のバックボーン内で統合し、空間的モデリングに自然に拡張することを示す。
論文 参考訳(メタデータ) (2025-06-10T18:40:20Z) - Spatial-Temporal-Spectral Unified Modeling for Remote Sensing Dense Prediction [20.1863553357121]
リモートセンシングのための現在のディープラーニングアーキテクチャは、基本的に堅固である。
本稿では,統合モデリングのための空間時間スペクトル統一ネットワーク(STSUN)について紹介する。
STSUNは任意の空間サイズ、時間長、スペクトル帯域で入力および出力データに適応することができる。
様々な密集した予測タスクと多様な意味クラス予測を統一する。
論文 参考訳(メタデータ) (2025-05-18T07:39:17Z) - Efficient High-Resolution Visual Representation Learning with State Space Model for Human Pose Estimation [60.80423207808076]
高解像度の視覚表現を維持しながら長距離依存関係をキャプチャすることは、人間のポーズ推定のような密集した予測タスクに不可欠である。
マルチスケールの畳み込み操作で視覚状態空間モデルを拡張する動的ビジュアル状態空間(DVSS)ブロックを提案する。
HRVMambaは効率的な高分解能表現学習のための新しいモデルである。
論文 参考訳(メタデータ) (2024-10-04T06:19:29Z) - Self-Guided Adaptation: Progressive Representation Alignment for Domain
Adaptive Object Detection [86.69077525494106]
非教師なしドメイン適応(UDA)は、オブジェクト検出モデルのドメイン間ロバスト性を改善するために前例のない成功を収めた。
既存のUDA手法は、モデル学習中の瞬間的なデータ分布を無視しており、大きなドメインシフトによって特徴表現が劣化する可能性がある。
本稿では、特徴表現の整合とドメイン間のオブジェクト検出モデルの転送を目標とする自己ガイド適応モデルを提案する。
論文 参考訳(メタデータ) (2020-03-19T13:30:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。