論文の概要: Discovering Physical Directions in Weight Space: Composing Neural PDE Experts
- arxiv url: http://arxiv.org/abs/2605.14546v1
- Date: Thu, 14 May 2026 08:25:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-15 21:45:34.713885
- Title: Discovering Physical Directions in Weight Space: Composing Neural PDE Experts
- Title(参考訳): 重み空間における物理的方向の発見:ニューラルPDE専門家による研究
- Authors: Pengkai Wang, Pengwei Liu, Yuanyi Wang, Guanyu Chen, Xingyu Ren, Xiaolong Li, Zhongkai Hao, Yuting Kong, Qixin Zhang, Dong Ni,
- Abstract要約: Merge-Conditioned (CCM)は、この物理的方向に沿って神経PDE専門家を構成するためのポストホック座標読解法である。
我々は,CCMが外挿体制において最強の利益を達成していることを示す。
CCMはPDE体制を横断するトレーニングフリートランスファーのための校正可能な物理的方向を明らかにしている。
- 参考スコア(独自算出の注目度): 23.403795453201294
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent advances in neural operators have made partial differential equation (PDE) surrogate modeling increasingly scalable and transferable through large-scale pretraining and in-context adaptation. However, after a shared operator is fine-tuned to multiple regimes within a continuous physical family, it remains unclear whether the resulting weight-space updates merely form isolated regime experts or reveal reusable physical structure. Starting from a shared family anchor, we fine-tune low- and high-regime endpoint experts and show that their updates can be separated into a family-shared adaptation and a direction aligned with the underlying physical parameter. This separation reinterprets endpoint experts as finite-difference probes of a local physical direction in weight space, explaining why static averaging can interpolate between regimes but attenuates endpoint-specific physics. Building on this perspective, we propose Calibration-Conditioned Merge (CCM), a post-hoc coordinate readout method for composing neural PDE experts along this physical direction. Given physical metadata, a calibrated coordinate mapping, or a short observed rollout prefix, CCM infers the target composition coordinate and deploys a single merged checkpoint for the remaining rollout. We evaluate CCM on the reaction--diffusion system, viscosity-parameterized two-dimensional Navier--Stokes equations, and radial dam-break dynamics. Across these benchmarks, CCM achieves its strongest gains in extrapolative regimes, reducing out-of-distribution rollout error relative to the family anchor by 54.2%, 42.8%, and 13.8%, respectively. Further experiments across FNO scales, a DPOT-style backbone, and ablations confirm that endpoint fine-tuning is not arbitrary checkpoint drift, but reveals a calibratable physical direction for training-free transfer across PDE regimes.
- Abstract(参考訳): ニューラル作用素の最近の進歩は、偏微分方程式(PDE)サロゲートモデリングを、大規模事前学習とインコンテクスト適応を通じて、拡張性が高く、転送しやすくしている。
しかし、共有演算子を連続的な物理系内の複数のレギュレータに微調整した後、結果として得られる重量空間更新が単に独立したレギュレータの専門家を形成しているだけなのか、再利用可能な物理的構造を明らかにしているのかは不明のままである。
共有された家族アンカーから始めて、低い位置と高い位置のエンドポイントの専門家を微調整し、それらの更新を家族共有の適応と、基礎となる物理パラメータに整合した方向に分けることができることを示す。
この分離は、エンドポイントの専門家を重量空間における局所的な物理的方向の有限微分プローブとして再解釈し、なぜ静的平均化がレギュレーション間を補間するが、エンドポイント固有の物理学を減衰させるのかを説明する。
この観点から、この物理方向に沿って神経PDE専門家を構成するためのポストホック座標読解法であるCalibration-Conditioned Merge (CCM)を提案する。
物理メタデータ、キャリブレーションされた座標マッピング、あるいは短いロールアウトプレフィックスが与えられた場合、CCMはターゲット構成座標を推測し、残りのロールアウトに対して単一のマージされたチェックポイントをデプロイする。
我々は, 反応拡散系, 粘度パラメタライズド2次元ナビエ-ストークス方程式, ラジアルダム破砕力学についてCCMを評価した。
これらのベンチマーク全体で、CCMは外挿体制において最大の利益を上げ、家族のアンカーに対する分配外ロールアウトエラーをそれぞれ54.2%、42.8%、13.8%削減した。
FNOスケール、DPOTスタイルのバックボーン、アブレーションによるさらなる実験により、エンドポイントの微調整は任意のチェックポイントドリフトではなく、PDEレシスタンスを横断するトレーニング不要な転送のための調整可能な物理的方向を明らかにする。
関連論文リスト
- Meta-Learned Basis Adaptation for Parametric Linear PDEs [0.0]
メタ学習予測器と最小二乗補正器を組み合わせることでパラメトリック線形偏微分方程式(PDE)の族を解く枠組みを提案する。
軽量なメタネットワークは、PDEパラメータをベースセンター、幅、アクティビティパターンにマッピングすることで、近似空間がどのように適応すべきかを学ぶ。
拡散, 輸送, 混合対流拡散, 可変速輸送にまたがる4つの線形PDE系について検討を行った。
論文 参考訳(メタデータ) (2026-04-10T13:00:03Z) - Adaptive Manipulation Potential and Haptic Estimation for Tool-Mediated Interaction [14.888648782445694]
本稿では,ツール間相互作用の統一表現として,パラメータ化された平衡マニフォールド(EM)を提案する。
我々は,ハプティック推定,オンライン計画,適応剛性制御を統合したクローズドループフレームワークを開発した。
このフレームワークはシミュレーションと260以上の現実世界のスクリューロージング試験によって検証されている。
論文 参考訳(メタデータ) (2026-03-11T02:57:55Z) - ICP-4D: Bridging Iterative Closest Point and LiDAR Panoptic Segmentation [44.68614934602709]
ICP-4Dは、空間的および時間的推論をインスタンスレベルの点集合間の幾何学的関係を通して統一する訓練不要のフレームワークである。
雑音のあるインスタンス予測の下での相関を安定化するために、シンクホーンに基づくソフトマッチングを導入する。
SemanticKITTI と Panoptic nuScenes の2つの実験により,我々の手法が常に最先端の手法より優れていることを示す。
論文 参考訳(メタデータ) (2025-12-22T03:13:08Z) - Flow-Induced Diagonal Gaussian Processes [7.720921989821054]
フロー誘起対角ガウス過程(フロー誘起対角ガウス過程、FiD-GP)は、コンパクトな誘導重み行列を組み込んだ圧縮フレームワークである。
本稿では,FiD-GPがOoD(Out-of-Distribution)検出のための単一パスプロジェクションの設計にどのように役立つかを示す。
論文 参考訳(メタデータ) (2025-09-21T16:49:09Z) - On the Convergence of DP-SGD with Adaptive Clipping [56.24689348875711]
勾配クリッピングによるグラディエントDescentは、微分プライベート最適化を実現するための強力な技術である。
本稿では,量子クリッピング(QC-SGD)を用いたSGDの総合収束解析について述べる。
本稿では,QC-SGDが一定閾値クリッピングSGDに類似したバイアス問題にどのように悩まされているかを示す。
論文 参考訳(メタデータ) (2024-12-27T20:29:47Z) - PACMANN: Point Adaptive Collocation Method for Artificial Neural Networks [41.99844472131922]
PINNは、一組のコロケーションポイントに対して決定されたPDE残差を含む損失関数を最小化する。
PACMANNは勾配に基づく最適化アルゴリズムを用いて、コロケーションポイントを高次残差領域へ段階的に移動させる。
この方法の主な特徴は、計算コストの低減と、既存の物理インフォームドニューラルネットワークパイプラインとの統合の簡易化である。
論文 参考訳(メタデータ) (2024-11-29T11:31:11Z) - Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。
我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。
本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文 参考訳(メタデータ) (2023-06-06T09:12:49Z) - CP-PINNs: Data-Driven Changepoints Detection in PDEs Using Online Optimized Physics-Informed Neural Networks [0.0]
与えられたPDEダイナミクスのパラメータがランダムに変化点を示すシナリオにおける部分微分方程式(PDE)の逆問題について検討する。
物理インフォームドニューラルネットワーク(PINN)は,物理法則の解を推定できる普遍近似器である。
本稿では,PDE力学における複数の変更点を許容できる全変量ペナルティを用いたPINN拡張を提案する。
論文 参考訳(メタデータ) (2022-08-18T04:01:07Z) - Fast Gravitational Approach for Rigid Point Set Registration with
Ordinary Differential Equations [79.71184760864507]
本稿では,FGA(Fast Gravitational Approach)と呼ばれる厳密な点集合アライメントのための物理に基づく新しい手法を紹介する。
FGAでは、ソースとターゲットの点集合は、シミュレーションされた重力場内を移動しながら、世界規模で多重リンクされた方法で相互作用する質量を持つ剛体粒子群として解釈される。
従来のアライメント手法では,新しいメソッドクラスには特徴がないことを示す。
論文 参考訳(メタデータ) (2020-09-28T15:05:39Z) - Revisiting Initialization of Neural Networks [72.24615341588846]
ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。
Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
論文 参考訳(メタデータ) (2020-04-20T18:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。