論文の概要: PaMM: Periodic Motif Memory for Atomistic Models with an Explicit Local-Structure Interface
- arxiv url: http://arxiv.org/abs/2605.13297v1
- Date: Wed, 13 May 2026 10:11:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:27.974195
- Title: PaMM: Periodic Motif Memory for Atomistic Models with an Explicit Local-Structure Interface
- Title(参考訳): PaMM: 明示的な局所構造インタフェースを持つ原子モデルのための周期的モチーフメモリ
- Authors: Ryan Dong,
- Abstract要約: 本稿では,UMA eSCN-MDエッジエンコーダを明示的なペアとトリプルトルックアップ機能で拡張する周期的モチーフメモリPaMMを紹介する。
一致したUMA-S OMAT設定でPaMMを評価し、明確なモチーフメモリが一定の中間トレーニング予算で役立つかどうかという狭い問題に焦点をあてる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Periodic crystals repeatedly instantiate similar local coordination motifs across translated cells and chemically related structures, but current equivariant atomistic models usually encode these patterns only implicitly in dense edge features. We introduce PaMM, a periodic motif memory that augments the UMA eSCN-MD edge encoder with explicit pair and triplet lookup features. Pair motifs are keyed by $(Z_j, Z_i, b_r)$ and triplet motifs by $(Z_j, Z_i, Z_k, b_θ)$, hashed into fixed-size tables and fused with the baseline edge representation through lightweight gate-only and affine-equipped variants. We evaluate PaMM in a matched UMA-S OMAT setting and focus on a narrow question: whether explicit motif memory helps at a fixed intermediate training budget. At the 10k-step checkpoint, both PaMM variants improve over the plain baseline; gate-only gives the best energy MAE, while the affine-equipped variant gives the best force MAE. A matched 20k follow-up keeps the same operating-point picture. Aligned controls show that the gain weakens for pair-only, triplet-only, random-bucket, and parameter-matched MLP alternatives, suggesting that the benefit is tied to structured pair/triplet organization rather than generic added capacity. A within-OMAT24 source-family evaluation also shows small but consistent gains across held-out generation families. We therefore make a focused claim: in the studied UMA-S + OMAT regime, explicit pair/ triplet motif memory is a useful inductive bias for periodic atomistic modeling. We do not claim broad cross-dataset transfer, a uniquely preferred fusion variant, or strong scientific interpretability beyond a more inspectable local-structure interface.
- Abstract(参考訳): 周期結晶は、翻訳された細胞と化学的に関連する構造の間で類似した局所的な配位モチーフを繰り返しインスタンス化するが、現在の同変原子モデルは通常、これらのパターンを暗黙的に密度の高いエッジ特徴にのみエンコードする。
本稿では,UMA eSCN-MDエッジエンコーダを明示的なペアとトリプルトルックアップ機能で拡張する周期的モチーフメモリPaMMを紹介する。
ペアモチーフは$(Z_j, Z_i, b_r)$、トリプルトモチーフは$(Z_j, Z_i, Z_k, b_θ)$で、固定サイズのテーブルに格納され、軽量ゲート専用およびアフィン装備の変種を通じてベースラインエッジ表現と融合する。
一致したUMA-S OMAT設定でPaMMを評価し、明確なモチーフメモリが一定の中間トレーニング予算で役立つかどうかという狭い問題に焦点をあてる。
10kステップのチェックポイントでは、どちらのPaMM変種もベースラインよりも改善され、ゲートオンリーの変種は最高エネルギーのMAEを、アフィン装備の変種は最高出力のMAEを与える。
マッチした20kのフォローアップは、同じオペレーティングポイント写真を保持する。
アライメントコントロールは、ゲインがペアオンリー、トリプルトオンリー、ランダムバケット、パラメータマッチングMLPの代替として弱まることを示し、この利点は汎用的な付加能力ではなく、構造化ペア/トリップレットの組織に結びついていることを示唆している。
ソース・ファミリー評価では、保留された世代間で小さいが一貫した利得が示される。
UMA-S + OMAT法では, 明示的ペア/トリプルトモチーフメモリは周期的原子モデルに有用な帰納的バイアスである。
我々は、より検査可能な局所構造インターフェースを超えて、広範囲なデータセット転送、一意に好まれる融合変種、あるいは強力な科学的解釈可能性を主張しない。
関連論文リスト
- Geometric Factual Recall in Transformers [57.48371649045765]
一般的な見解では、内部の重み行列は埋め込みのペアに対する連想記憶として捉えられ、事実の数と線形にスケールする記憶数を必要とする。
我々は、学習した埋め込みが直接構造を符号化する、別のエンフェロメトリックな形態の記憶の理論的、実証的な説明を開発する。
単層変圧器が被写体から共有属性集合へのランダムベクトルを記憶しなければならない制御環境では、対数埋め込み次元が十分であることを示す。
これらの結果をマルチホップ設定に拡張し、証明可能なチェーン・オブ・シークレットによる構築を提供する。
論文 参考訳(メタデータ) (2026-05-12T17:22:22Z) - Rethink MAE with Linear Time-Invariant Dynamics [0.0]
凍結した視覚表現において,トークンの順序は重要かつ悪用可能な次元であることを示す。
状態空間モデルによって駆動される探索フレームワークであるSSMProbeを提案する。
論文 参考訳(メタデータ) (2026-04-29T15:07:00Z) - Geometry-Aware Decoding with Wasserstein-Regularized Truncation and Mass Penalties for Large Language Models [9.059725329168435]
トップW(Top-W)は、トークン埋め込み幾何学上のワッサーシュタイン距離定義を用いた幾何対応トランケーション規則である。
我々は、Top-Wが、最先端のデコードアプローチにおいて、最大33.7%の改善を継続的に達成していることを示す。
論文 参考訳(メタデータ) (2026-02-10T22:36:48Z) - Cross-modal Full-mode Fine-grained Alignment for Text-to-Image Person Retrieval [54.90229711181207]
TIPR (Text-to-Image Person Retrieval) は、与えられたテキストクエリに基づいて、最も関連性の高い人物画像を取得することを目的としている。
TIPRの鍵となる課題は、テキストと視覚のモダリティの効果的なアライメントを達成することである。
FMFA, クロスモーダルフルモーデファインファインファインファインアライメントフレームワークを提案する。
論文 参考訳(メタデータ) (2025-09-17T07:12:05Z) - PAID: Pairwise Angular-Invariant Decomposition for Continual Test-Time Adaptation [70.98107766265636]
本稿では,事前学習した重みの幾何学的特性を出発点として,3つの重要な成分(等級,絶対角,対角構造)を体系的に解析する。
両角構造は多種多様なドメインにわたって安定であり, ドメイン不変な意味情報を符号化し, 適応中に保存すべきことを示唆する。
論文 参考訳(メタデータ) (2025-06-03T05:18:15Z) - InfiGFusion: Graph-on-Logits Distillation via Efficient Gromov-Wasserstein for Model Fusion [36.27704594180795]
InfiGFusionは、新しいtextitGraph-on-Logits Distillation (GLD)損失を持つ構造認識融合フレームワークである。
GLDは核融合品質と安定性を継続的に改善することを示す。
複雑な推論タスクでは、多段階算術において+35.6、SFT上の因果判定において+37.06が改良された。
論文 参考訳(メタデータ) (2025-05-20T03:55:35Z) - Analysis of Linear Mode Connectivity via Permutation-Based Weight Matching: With Insights into Other Permutation Search Methods [14.96239541426242]
We show that permutations found by WM have not significantly reduce the $L2$ distance between two models。
この発見は、WM によって発見された置換が、主にモデル全体の大きな特異値に付随する特異ベクトルの方向を一致させることを示している。
本稿では、特異ベクトルの観点でアクティベーションマッチング(AM)を解析し、AMの原理がWMの原理と同一であることを示す。
論文 参考訳(メタデータ) (2024-02-06T14:53:28Z) - Transformers as Support Vector Machines [54.642793677472724]
自己アテンションの最適化幾何と厳密なSVM問題との間には,形式的等価性を確立する。
勾配降下に最適化された1層変圧器の暗黙バイアスを特徴付ける。
これらの発見は、最適なトークンを分離し選択するSVMの階層としてのトランスフォーマーの解釈を刺激していると信じている。
論文 参考訳(メタデータ) (2023-08-31T17:57:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。