論文の概要: The Coordinate System Problem in Persistent Structural Memory for Neural Architectures
- arxiv url: http://arxiv.org/abs/2603.22858v1
- Date: Tue, 24 Mar 2026 06:51:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-25 19:53:37.3438
- Title: The Coordinate System Problem in Persistent Structural Memory for Neural Architectures
- Title(参考訳): ニューラルネットワークの永続的構造記憶における座標系問題
- Authors: Abhinaba Basu,
- Abstract要約: そこで我々はDual-View Pheromone Pathway Network (DPPN)を紹介した。
永続メモリは安定した座標系を必要とする。
コントラスト的な更新,マルチソース蒸留,ハンガリーのアライメント,セマンティックな分解は,スクラッチから埋め込みが学習された場合の不安定性を解消しないことを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce the Dual-View Pheromone Pathway Network (DPPN), an architecture that routes sparse attention through a persistent pheromone field over latent slot transitions, and use it to discover two independent requirements for persistent structural memory in neural networks. Through five progressively refined experiments using up to 10 seeds per condition across 5 model variants and 4 transfer targets, we identify a core principle: persistent memory requires a stable coordinate system, and any coordinate system learned jointly with the model is inherently unstable. We characterize three obstacles -- pheromone saturation, surface-structure entanglement, and coordinate incompatibility -- and show that neither contrastive updates, multi-source distillation, Hungarian alignment, nor semantic decomposition resolves the instability when embeddings are learned from scratch. Fixed random Fourier features provide extrinsic coordinates that are stable, structure-blind, and informative, but coordinate stability alone is insufficient: routing-bias pheromone does not transfer (10 seeds, p>0.05). DPPN outperforms transformer and random sparse baselines for within-task learning (AULC 0.700 vs 0.680 vs 0.670). Replacing routing bias with learning-rate modulation eliminates negative transfer: warm pheromone as a learning-rate prior achieves +0.003 on same-family tasks (17 seeds, p<0.05) while never reducing performance. A structure completion function over extrinsic coordinates produces +0.006 same-family bonus beyond regularization, showing the catch-22 between stability and informativeness is partially permeable to learned functions. The contribution is two independent requirements for persistent structural memory: (a) coordinate stability and (b) graceful transfer mechanism.
- Abstract(参考訳): 我々はDual-View Pheromone Pathway Network (DPPN)を紹介した。このアーキテクチャは、永続的なフェロモンフィールドを潜在スロット遷移を介して通過し、ニューラルネットワークにおける永続的構造記憶のための2つの独立した要件を見つけるために使用される。
5つのモデル変種と4つのトランスファーターゲットにまたがる条件毎の最大10個の種子を用いた5つの段階的に改良された実験を通して、我々はコア原理を同定する: 永続記憶には安定した座標系が必要であり、モデルと共同で学習された座標系は本質的に不安定である。
我々は, フェロモン飽和, 表面構造絡み, 座標不整合性の3つの障害を特徴付けるとともに, コントラスト的更新, マルチソース蒸留, ハンガリーのアライメント, セマンティック分解は, 埋め込みがスクラッチから学習される際の不安定を解消するものではないことを示す。
固定されたランダムフーリエの特徴は、安定で、構造が盲であり、情報的な外部座標を提供するが、座標安定性だけでは不十分である: ルーティングバイアスフェロモンは伝達しない(10種, p>0.05)。
DPPNはトランスフォーマーとランダムスパースベースラインより、タスク内学習に優れる(AULC 0.700 対 0.680 対 0.670 対 0.670)。
学習速度に先行する温かいフェロモンは、パフォーマンスを低下させることなく、同じ家庭のタスク17種、p<0.05)で+0.003を達成できる。
外部座標上の構造完了関数は、正規化を超えて+0.006の同族ボーナスを生成し、安定性と情報性の間のキャッチ-22が学習関数に部分的に浸透可能であることを示す。
コントリビューションは、永続的構造記憶のための2つの独立した要件である。
a) コーディネート安定性と
b)優雅な伝達機構
関連論文リスト
- MIOFlow 2.0: A unified framework for inferring cellular stochastic dynamics from single cell and spatial transcriptomics data [47.97758608694957]
We introduced Interpolating Manifold-Transport Flow (MIOFlow) 2.0。
この枠組みは、多様体学習、最適輸送、神経微分方程式を統合することにより、生物学的に情報を得た細胞軌道を学習する。
合成データセット、胚体分化、空間的に解決されたアクソロトル脳再生で検証される。
論文 参考訳(メタデータ) (2026-03-23T20:49:45Z) - Exhaustive Circuit Mapping of a Single-Cell Foundation Model Reveals Massive Redundancy, Heavy-Tailed Hub Architecture, and Layer-Dependent Differentiation Control [0.0]
本稿では, サーキットトレース, 高次アブレーション, 因果軌道ステアリングによる限界に対処する3つの実験について述べる。
第一に、第5層における4065個のアクティブオートエンコーダの特徴を徹底的に追跡すると、1393850の下流エッジが得られる。
第2に、8つの三つ子にまたがる3つの冗長性は、冗長性は相互作用順序とともに単調に深まることを示す。
第3に、軌道案内型特徴ステアリングは、層の位置と微分方向との因果関係を確立する。
論文 参考訳(メタデータ) (2026-03-12T13:53:20Z) - Generalizing GNNs with Tokenized Mixture of Experts [75.8310720413187]
安定性の向上には,変化に敏感な特徴への依存を低減し,既約最悪の一般化フロアを残す必要があることを示す。
本研究では,STEM-GNNを提案する。STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN。
9つのノード、リンク、グラフのベンチマークで、STEM-GNNはより強力な3方向バランスを実現し、クリアグラフ上での競争力を維持しながら、次数/ホモフィリーシフトや特徴/エッジの破損に対する堅牢性を改善している。
論文 参考訳(メタデータ) (2026-02-09T22:48:30Z) - Towards a Science of Scaling Agent Systems [79.64446272302287]
エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。
協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。
ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
論文 参考訳(メタデータ) (2025-12-09T06:52:21Z) - AGNES: Adaptive Graph Neural Network and Dynamic Programming Hybrid Framework for Real-Time Nanopore Seed Chaining [0.0]
ナノ孔シークエンシングにより、リアルタイムの長読DNAシークエンシングが可能で、読み取りは10キロ塩基を超える。
12~15パーセントの固有エラー率は、リードアライメントにおいて重要な計算上の課題を提示する。
本稿では,グラフニューラルネットワークと古典動的プログラミングを組み合わせた適応型シードチェインのためのハイブリッドフレームワークRawHash3を提案する。
論文 参考訳(メタデータ) (2025-10-15T08:05:43Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - Predicting the Stability of Hierarchical Triple Systems with
Convolutional Neural Networks [68.8204255655161]
本稿では,階層型三重項の安定性を予測する畳み込みニューラルネットワークモデルを提案する。
すべてのトレーニングされたモデルは公開されており、純粋な$N$-bodyメソッドよりも200ドルの速さで階層的な3重システムの安定性を予測することができる。
論文 参考訳(メタデータ) (2022-06-24T17:58:13Z) - Quaternion Equivariant Capsule Networks for 3D Point Clouds [58.566467950463306]
本稿では,3次元回転と翻訳に同値な点雲を処理するための3次元カプセルモジュールを提案する。
カプセル間の動的ルーティングをよく知られたWeiszfeldアルゴリズムに接続する。
オペレーターに基づいて、ポーズから幾何学をアンタングルするカプセルネットワークを構築します。
論文 参考訳(メタデータ) (2019-12-27T13:51:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。