論文の概要: Persistence Positional Encoding: A Minimal Transformer Recipe for Persistence Diagrams
- arxiv url: http://arxiv.org/abs/2610.17848v1
- Date: Tue, 13 Oct 2026 07:14:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 08:32:40.781723
- Title: Persistence Positional Encoding: A Minimal Transformer Recipe for Persistence Diagrams
- Title(参考訳): Persistence Positional Encoding: Persistence Diagramのための最小変圧器レシピ
- Abstract要約: パーシステンス・ダイアグラム(PD)は、誕生と死のペアの多重集合として、多スケールな位相情報を表す。
PDをトランスフォーマーに接続するには、トポロジカルな情報がトークン化され、自己注意に晒されるかを選択する必要がある。
- 参考スコア(独自算出の注目度): 7.2003664501293025
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Persistence diagrams (PDs) represent multiscale topological information as multisets of birth-death pairs $(b,d)$. How best to use them with Transformers, however, remains unclear. Connecting PDs to Transformers requires choosing how topological information is tokenized and exposed to self-attention. Prior methods use specialized designs for tokenization, aggregation, Transformer blocks, or attention, but are hard to compare since reported results rarely share PD inputs, splits, or model-selection rules. We instead confine the diagram-specific design to point representation, mapping each birth-death pair through fixed random Fourier features while leaving the Transformer backbone unchanged, and call this recipe Persistence Positional Encoding (PPE). In matched controls on eight TU graph benchmarks (TU8), changing only point representation shifts macro accuracy by 5.49 to 6.47 percentage points (pp), against 0.47 to 1.45 pp from changing the downstream module, identifying point representation as the dominant design variable tested. We further reevaluate vectorizations, kernels, learned representations, and Transformer-based models under one protocol with shared PD inputs, outer folds, and validation-only selection. Among all evaluated PD methods and downstream configurations, PPE achieves the highest mean on most benchmarks, including TU8, ORBIT5K, and MCB-C. Finally, we prove that grid averaging leaves a reconstruction error at any resolution, whereas a Transformer with fixed random Fourier frequencies is almost surely universal. PPE thus offers a minimal, Transformer-native baseline for persistence diagrams, and a common protocol for future comparison.
- Abstract(参考訳): パーシステンス・ダイアグラム(PD)は、誕生と死のペアの多重集合として、多スケールな位相情報を表す。
しかし、Transformersでそれをどう使うかは、まだ不明だ。
PDをトランスフォーマーに接続するには、トポロジカルな情報がトークン化され、自己注意に晒されるかを選択する必要がある。
従来の手法ではトークン化、アグリゲーション、トランスフォーマーブロック、アテンションのための特別な設計が用いられていたが、報告された結果がPD入力、分割、モデル選択ルールを共有することは滅多にないため、比較が難しい。
代わりに、ダイアグラム固有の設計をポイント表現に限定し、固定されたランダムなフーリエ機能を通して各生死ペアをマッピングし、トランスフォーマーのバックボーンをそのままにして、このレシピをPersistence Positional Encoding (PPE)と呼ぶ。
8つのTUグラフベンチマーク(TU8)の一致した制御では、ポイント表現だけがマクロ精度を5.49から6.47ポイント(pp)に、ダウンストリームモジュールの変更から0.47から1.45ppにシフトし、ポイント表現をテスト対象の設計変数として特定する。
さらに、ベクトル化、カーネル、学習表現、トランスフォーマーベースのモデルを1つのプロトコルで再評価し、共有PD入力、外部フォールド、バリデーションのみの選択を行う。
評価されたPDメソッドとダウンストリーム構成のうち、PPEはTU8、ORBIT5K、MCB-Cなど、ほとんどのベンチマークで最高値を達成した。
最後に、格子平均化が任意の分解能で再構成誤差を残しているのに対して、固定されたランダムフーリエ周波数の変換器は、ほぼ確実に普遍的であることを示す。
PPEは、永続化ダイアグラムのための最小限のTransformerネイティブベースラインと、将来の比較のための共通プロトコルを提供する。
関連論文リスト
- Variable-size Symmetry-based Graph Fourier Transforms for image compression [65.7352685872625]
可変サイズのグラフフーリエ変換を符号化フレームワークに導入する。
提案アルゴリズムは,ノード間の特定の対称接続を追加することにより,グリッド上の対称グラフを生成する。
実験により、SBGFTは、明示的な多重変換選択に統合された一次変換よりも優れていることが示された。
論文 参考訳(メタデータ) (2024-11-24T13:00:44Z) - Graph as Point Set [31.448841287258116]
本稿では,相互接続ノードを独立点の集合に変換するグラフ・ツー・セット変換法を提案する。
これにより、セットエンコーダを使用してグラフから学習することが可能になり、グラフニューラルネットワークの設計空間が大幅に拡張される。
提案手法の有効性を示すために,グラフから変換された点集合を入力として受け入れる変換器アーキテクチャであるPoint Set Transformer (PST)を導入する。
論文 参考訳(メタデータ) (2024-05-05T02:29:41Z) - iTransformer: Inverted Transformers Are Effective for Time Series Forecasting [62.40166958002558]
iTransformerを提案する。これは、逆次元に注意とフィードフォワードのネットワークを単純に適用する。
iTransformerモデルは、挑戦的な現実世界のデータセットの最先端を実現する。
論文 参考訳(メタデータ) (2023-10-10T13:44:09Z) - Vision Transformer with Progressive Sampling [73.60630716500154]
本稿では,識別領域を特定するための反復的・漸進的なサンプリング手法を提案する。
ImageNetでスクラッチからトレーニングされた場合、PS-ViTはトップ1の精度でバニラViTよりも3.8%高いパフォーマンスを示す。
論文 参考訳(メタデータ) (2021-08-03T18:04:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。