論文の概要: Robustness of Similarity-based Positional Encoding Under Rotations: Theoretical Analysis and Experimental Validation

• arxiv url: http://arxiv.org/abs/2606.17961v1
• Date: Tue, 16 Jun 2026 14:11:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-17 17:15:32.474168
• Title: Robustness of Similarity-based Positional Encoding Under Rotations: Theoretical Analysis and Experimental Validation
• Title（参考訳）: 回転下における類似性に基づく位置符号化のロバスト性:理論的解析と実験的検証
• Authors: Andrea Santomauro, Luigi Portinale, Giorgio Leonardi,
• Abstract要約: 回転に関するsimPEのロバスト性について検討し,形式的理論解析と実験的検証を組み合わせた。 simPE は回転摂動の下で安定であり、フロベニウスノルムにおいて明示的な摂動境界を導出することを証明する。 すべてのデータセットにおいて、simPEは、回転中の精度、F1スコア、精度、リコールの点で、標準的な学習された位置符号化よりも一貫して優れています。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Positional encoding is a fundamental component of Transformer architectures, as it injects information about the spatial or sequential arrangement of inputs. Among recent alternatives to standard absolute and sinusoidal encodings, similarity-based positional encoding (simPE) has emerged as a flexible framework for representing positional structure through pairwise relations. simPE was originally designed for medical imaging applications, where geometric robustness is especially relevant: small rotations naturally arise during image acquisition, induced by imaging instruments, patient positioning, or slight acquisition misalignments. Despite its empirical promise, the theoretical behavior of simPE under geometric perturbations has not been fully characterized. In this paper, we study the robustness of simPE with respect to rotations, combining formal theoretical analysis with experimental validation. We first show that simPE is generally not rotation-invariant. We then prove that, under mild Lipschitz assumptions on the elementary components, simPE is stable under rotational perturbations and derive explicit perturbation bounds in Frobenius norm. We validate these findings experimentally on four controlled datasets--a synthetic Arrow dataset, a synthetic Shapes dataset (four geometric shape categories), a synthetic Digits dataset, and a benchmark image classification dataset (FashionMNIST)--in which training and validation images are kept in a fixed canonical orientation while test images are subjected to increasing rotation angles. Across all datasets, simPE consistently outperforms standard learned positional encoding in terms of accuracy, F1 score, precision, and recall under rotation, particularly in the small-to-moderate angle regime, corroborating the theoretical stability guarantees.
• Abstract（参考訳）: 位置符号化はTransformerアーキテクチャの基本コンポーネントであり、入力の空間的あるいはシーケンシャルな配置に関する情報を注入する。 近年、標準絶対および正弦波符号化の代替として、類似性に基づく位置符号化(simPE)が、対関係を通じて位置構造を表現する柔軟なフレームワークとして登場した。 SIMPEはもともと医療画像の用途のために設計されたもので、幾何学的堅牢性は特に関係している。 経験的な約束にもかかわらず、幾何摂動の下でのsimPEの理論的挙動は、完全には特徴づけられていない。 本稿では, 回転に関するsimPEのロバスト性について検討し, 形式理論解析と実験検証を組み合わせた。 まず、simPEは一般に回転不変ではないことを示す。 すると、初等成分に対する穏やかなリプシッツ仮定の下で、simPE は回転摂動の下で安定であり、フロベニウスノルムにおいて明示的な摂動境界を導出することを証明する。 これらの結果は, 合成Arrowデータセット, 合成形状データセット(4つの幾何学的形状カテゴリ), 合成Digitsデータセット, ベンチマーク画像分類データセット(FashionMNIST)の4つの制御されたデータセットで実験的に検証した。 全てのデータセットにおいて、simPEは、精度、F1スコア、精度、回転中のリコールの点で、標準的な学習された位置エンコーディングよりも一貫して優れており、特に小型からモデレートな角度のシステムでは、理論的な安定性の保証を裏付けている。

関連論文リスト

• Aligning Network Equivariance with Data Symmetry: A Theoretical Framework and Adaptive Approach for Image Restoration [71.51826063983434]
  画像復元は本質的に逆問題である。 非厳密対称性を制約として、復元逆問題を定式化する。 最適復元演算子の等値誤差はデータ対称性誤差と離散化メッシュサイズによって厳密に制限されていることを示す。
  論文  参考訳（メタデータ） (2026-05-13T16:22:19Z)
• Computing a Characteristic Orientation for Rotation-Independent Image Analysis [0.0]
  General Intensity Direction (GID) はネットワークアーキテクチャを変更することなく回転ロバスト性を改善する前処理方式である。 空間構造を維持しながら画像を変換し、畳み込みネットワークと互換性を持つ。 回転MNISTデータセットの実験的評価により,提案手法は最先端の回転不変アーキテクチャよりも高い精度を達成できることが示された。
  論文  参考訳（メタデータ） (2026-02-24T14:08:12Z)
• Invariance on Manifolds: Understanding Robust Visual Representations for Place Recognition [19.200074425090595]
  本稿では,2次幾何統計フレームワークを提案する。 提案手法では、固定されたトレーニング済みのバックボーン上に構築されたトレーニング不要のフレームワークを導入し、パラメータ更新なしで強力なゼロショット一般化を実現する。
  論文  参考訳（メタデータ） (2026-01-31T18:12:29Z)
• Variational Geometric Information Bottleneck: Learning the Shape of Understanding [0.0]
  variational Geometric Information Bottleneck (V-GIB) は、相互情報圧縮と曲率正規化を統合する変分推定器である。 V-GIBは、幾何学的に一貫性があり、データ効率が高く、人間の理解可能な構造と整合した表現への原則的かつ測定可能な経路を提供する。
  論文  参考訳（メタデータ） (2025-11-04T11:33:54Z)
• Geometrically Constrained and Token-Based Probabilistic Spatial Transformers [5.437226012505534]
  我々は、トランスフォーマーベースのビジョンパイプラインの標準化ツールとして、空間トランスフォーマーネットワーク(STN)を再考する。 本稿では、堅牢性を向上させる確率的、コンポーネントワイドな拡張を提案する。 本手法が他のSTNと比較して頑健さを常に向上することを示す。
  論文  参考訳（メタデータ） (2025-09-14T11:30:53Z)
• Rotation Equivariant Arbitrary-scale Image Super-Resolution [62.41329042683779]
  任意のスケールの超解像(ASISR)は、低解像度の入力画像から任意のスケールの高分解能回復を実現することを目的としている。 本研究では, 回転同変ASISR法の構築に尽力する。
  論文  参考訳（メタデータ） (2025-08-07T08:51:03Z)
• CP$^2$: Leveraging Geometry for Conformal Prediction via Canonicalization [51.716834831684004]
  幾何データシフトにおける共形予測(CP)の問題について検討する。 本稿では,幾何的ポーズなどの幾何学的情報を統合することを提案する。
  論文  参考訳（メタデータ） (2025-06-19T10:12:02Z)
• PAID: Pairwise Angular-Invariant Decomposition for Continual Test-Time Adaptation [70.98107766265636]
  本稿では,事前学習した重みの幾何学的特性を出発点として,3つの重要な成分(等級,絶対角,対角構造)を体系的に解析する。 両角構造は多種多様なドメインにわたって安定であり, ドメイン不変な意味情報を符号化し, 適応中に保存すべきことを示唆する。
  論文  参考訳（メタデータ） (2025-06-03T05:18:15Z)
• A Physics-Inspired Deep Learning Framework with Polar Coordinate Attention for Ptychographic Imaging [8.436077464774755]
  Ptychography Imagingは、回折パターンからの位相検索にディープラーニングを適用する際に、固有の課題に直面している。 本稿では,Pola Coordinate Attention (PoCA) を用いた物理に着想を得た深層学習ネットワークPPNについて述べる。
  論文  参考訳（メタデータ） (2024-11-25T06:49:59Z)
• Fast and Reliable Probabilistic Reflectometry Inversion with Prior-Amortized Neural Posterior Estimation [73.81105275628751]
  リフレクションメトリデータと互換性のある全ての構造を見つけることは、標準アルゴリズムでは計算が禁止される。 この信頼性の欠如に対処するため,確率論的深層学習法を用いて,現実的な構造を数秒で識別する。 提案手法は,シミュレーションに基づく推論と新しい適応型事前推定を併用する。
  論文  参考訳（メタデータ） (2024-07-26T10:29:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。