論文の概要: Structure Over Nonlinearity: Explicit Interaction Architectures for Dynamical Learning

• arxiv url: http://arxiv.org/abs/2606.19101v1
• Date: Wed, 17 Jun 2026 14:12:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-18 17:16:51.195343
• Title: Structure Over Nonlinearity: Explicit Interaction Architectures for Dynamical Learning
• Title（参考訳）: 非線形性による構造:動的学習のための明示的相互作用アーキテクチャ
• Abstract要約: 本稿では、内部状態と波動インスパイアされた相互作用構造に基づく、明示的な構造的動的単位のクラスを紹介する。 ウェーブベースの計算原理に触発され、提案されたユニットは厳密に因果関係の組織を採用する。 パラメータ最適化の限られた条件下であっても、深度は表現品質と一般化を改善することを示す。
• 参考スコア（独自算出の注目度）: 9.644668801623192
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Most learning architectures for dynamical systems rely on generic nonlinear function approximation, often requiring high model complexity to capture structured behaviors. In this work, we propose an alternative paradigm in which modeling capability arises primarily from structure rather than from expressive nonlinearities. We introduce a class of explicit structured dynamical units based on wave-inspired interaction structures with internal state. Inspired by wave-based computational principles, the proposed units adopt a strictly causal organization that eliminates algebraic loops, yielding fully explicit models that can be evaluated without implicit solvers. Stacking such units produces layered dynamical architectures with emergent hierarchical behavior. Through experiments on a nonlinear system identification task, we show that depth improves both representation quality and generalization, even under limited parameter optimization. In particular, the proposed architectures produce informative internal representations even under readout-only fitting, indicating that useful dynamical structure emerges from the organization of interactions prior to substantial parameter optimization. These results suggest that structure-first design provides a viable and effective alternative to conventional black-box approaches for learning dynamical systems, highlighting the role of interaction structure as a primary source of model expressivity.
• Abstract（参考訳）: 力学系のほとんどの学習アーキテクチャは、一般的な非線形関数近似に依存しており、しばしば構造化された振る舞いを捉えるために高いモデル複雑さを必要とする。 本稿では,表現的非線形性からではなく,構造からモデリング能力が生み出す代替パラダイムを提案する。 本稿では、内部状態と波動インスパイアされた相互作用構造に基づく、明示的な構造的動的単位のクラスを紹介する。 波動に基づく計算原理にインスパイアされた提案ユニットは、代数ループを排除し、暗黙の解法なしで評価できる完全に明示的なモデルを生成する厳密な因果構造を採用する。 そのようなユニットを積み重ねると、創発的な階層的な振る舞いを持つ階層化された動的アーキテクチャが生成される。 非線形システム識別タスクの実験を通して,パラメータ最適化の限定の下でも,表現品質と一般化の両面において深度が向上することを示す。 特に,提案アーキテクチャは,パラメータ最適化に先立って,対話の組織から有用な動的構造が出現することを示し,読み出しのみの適合の下でも情報的内部表現を生成する。 これらの結果から, 構造第一設計は, モデル表現の主源としての相互作用構造の役割を浮き彫りにして, 力学系を学習するための従来のブラックボックスアプローチに代わる, 実用的で効果的な代替手段となることが示唆された。

関連論文リスト

• A Unified Framework for Structured Flow Modeling: From Continuous Fields to Data-Driven Representations [0.0]
  力学系は、ソース/シンクの挙動、循環力学、トポロジーに制約された輸送を結合した構造的流れで記述することができる。 この研究は、ヘルムホルツ・ホッジ分解に基づく連続的な定式化を離散的およびデータ駆動的表現と結合することによって、そのようなシステムに対する統一的な視点を提供する。
  論文  参考訳（メタデータ） (2026-05-18T11:52:09Z)
• TopoOR: A Unified Topological Scene Representation for the Operating Room [54.50897207203292]
  手術シーングラフは外科手術室(OR)の複雑さを実体の構造とその関連性に抽象化する。 マルチモーダルな手術室を高次構造としてモデル化する新しいパラダイムであるTopoORを紹介する。 また,多様体の構造やモジュラリティに特有な特徴を明示的に保存する高次アテンション機構を提案する。
  論文  参考訳（メタデータ） (2026-03-10T10:19:42Z)
• ExpertWeaver: Unlocking the Inherent MoE in Dense LLMs with GLU Activation Patterns [68.61814799047956]
  Mixture-of-Experts (MoE)は、スパース専門家のアクティベーションを通じて計算効率を保ちながら、モデル容量を効果的にスケールする。 ExpertWeaverは、ニューロンをアクティベーションパターンに従ってパーティショニングする、トレーニング不要のフレームワークで、共有専門家と特殊なルーティング専門家をレイヤ適応構成で構成する。
  論文  参考訳（メタデータ） (2026-02-17T11:50:58Z)
• Structural Disentanglement in Bilinear MLPs via Architectural Inductive Bias [0.0]
  我々は、モデルがトレーニング中に内部表現をどのように構成するかから失敗が発生すると主張している。 線形パラメータ化は勾配流条件下での非混合特性を有することを示す。 ポイントワイズ非線形ネットワークとは異なり、乗法的アーキテクチャは、基礎となる代数構造と整合した真の作用素を復元することができる。
  論文  参考訳（メタデータ） (2026-02-05T13:14:01Z)
• From Coefficients to Directions: Rethinking Model Merging with Directional Alignment [66.99062575537555]
  パラメータと特徴空間の両面に一貫した方向構造を整列する,方向アライメント付きemphMerging(method)という統一幾何学的枠組みを導入する。 分析の結果、指向性アライメントは構造的コヒーレンスを改善し、ベンチマーク、モデルスケール、タスク構成にまたがる広範な実験により、我々のアプローチの有効性がさらに検証された。
  論文  参考訳（メタデータ） (2025-11-29T08:40:58Z)
• Rethinking the Role of Dynamic Sparse Training for Scalable Deep Reinforcement Learning [58.533203990515034]
  ニューラルネットワークのスケーリングは機械学習における画期的な進歩をもたらしたが、このパラダイムは深層強化学習(DRL)では失敗している。 我々は、動的スパーストレーニング戦略が、アーキテクチャの改善によって確立された主要なスケーラビリティ基盤を補完するモジュール固有の利点を提供することを示す。 アーキテクチャ改善の利点を生かした実践的なフレームワークであるModule-Specific Training (MST) にこれらの知見を精査し、アルゴリズムの修正なしに様々なRLアルゴリズムをまたいだ大幅なスケーラビリティ向上を示す。
  論文  参考訳（メタデータ） (2025-10-14T03:03:08Z)
• Information-Theoretic Bounds and Task-Centric Learning Complexity for Real-World Dynamic Nonlinear Systems [0.6875312133832079]
  動的非線形系は静的および動的効果の結合による歪みを示す。 本稿では, 構造化分解, 分散解析, タスク中心の複雑性境界に基づく理論的枠組みを提案する。
  論文  参考訳（メタデータ） (2025-09-08T12:08:02Z)
• Understanding Learning Dynamics Through Structured Representations [1.7244210453129227]
  本稿では,内部構造的選択が学習システムの振舞いをいかに形作るかを検討する。 これらの構造が勾配流、スペクトル感度、固定点挙動にどのように影響するかを分析する。 固定テンプレートを規定するのではなく、解釈可能な方法で学習行動を操ることのできるトラクタブルデザインの原則を強調します。
  論文  参考訳（メタデータ） (2025-08-04T07:15:57Z)
• Modeling Hierarchical Spaces: A Review and Unified Framework for Surrogate-Based Architecture Design [0.32622301272834514]
  本稿では、構造化された入力空間に関する文献をレビューし、既存のアプローチを一般化する統一的なフレームワークを提案する。 変数は、その値が他の命令された変数の存在を支配すればメタとして記述され、条件付きおよび階層構造をモデル化できる。 我々のフレームワークは階層的距離とカーネルを定義し、階層的ドメイン上の代理モデリングと最適化を可能にする。
  論文  参考訳（メタデータ） (2025-06-27T20:38:57Z)
• Generalized Factor Neural Network Model for High-dimensional Regression [50.554377879576066]
  複素・非線形・雑音に隠れた潜在低次元構造を持つ高次元データセットをモデル化する課題に取り組む。 我々のアプローチは、非パラメトリック回帰、因子モデル、高次元回帰のためのニューラルネットワークの概念のシームレスな統合を可能にする。
  論文  参考訳（メタデータ） (2025-02-16T23:13:55Z)
• Generalized Quadratic Embeddings for Nonlinear Dynamics using Deep Learning [11.339982217541822]
  本稿では非線形システムの力学をモデル化するためのデータ駆動手法を提案する。 本研究では,昇降原理に着想を得た2次系を共通構造として用いることを提案する。
  論文  参考訳（メタデータ） (2022-11-01T10:03:34Z)
• Structure-Regularized Attention for Deformable Object Representation [17.120035855774344]
  文脈依存のキャプチャは、ディープニューラルネットワークの表現力を改善するのに有用であることが証明されている。 自己注意や非局所操作といったグローバルコンテキストのモデリングに焦点をあてた近年のアプローチは、要素間の制約のないペアワイズ相互作用を可能にすることで、この目標を達成する。 本稿では,データに固有の構造的依存関係をモデル化することにより,コンテキスト利用の恩恵を受けることができる変形可能なオブジェクトの学習表現について考察する。
  論文  参考訳（メタデータ） (2021-06-12T03:10:17Z)
• S2RMs: Spatially Structured Recurrent Modules [105.0377129434636]
  モジュール構造とテンポラル構造の両方を同時に活用できる動的構造を利用するための一歩を踏み出します。 我々のモデルは利用可能なビューの数に対して堅牢であり、追加のトレーニングなしで新しいタスクに一般化できる。
  論文  参考訳（メタデータ） (2020-07-13T17:44:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。