論文の概要: Physics-Aware Distillation of a Grid Foundation Model for Real-Time Edge Inference
- arxiv url: http://arxiv.org/abs/2610.21833v1
- Date: Thu, 15 Oct 2026 13:15:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.088753
- Title: Physics-Aware Distillation of a Grid Foundation Model for Real-Time Edge Inference
- Title（参考訳）: 実時間エッジ推論のための格子基礎モデルの物理認識蒸留
- Abstract要約: グリッド基礎モデル(グリッド基礎モデル、GridFM)は、マスクされた電力フローの目的に基づいて事前訓練されたグラフ変換器である。
我々は、マスクされたパワーフロー損失と、出力、物理残留、潜時状態、および注意伝達を組み合わせた目的を用いる。
物理-残留項は教師のパワー-残留プロファイルと一致するが、これまではタイプされたパワー-グリッドグラフには適用されていない。
- 参考スコア（独自算出の注目度）: 1.7289819674602296
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Grid foundation models (GridFMs) are graph transformers pretrained on a masked power-flow objective, and evaluate power flow orders of magnitude faster than an iterative solver. Their size, however, targets data-centre inference, whereas low-inertia operation increasingly asks for inference at the edge, next to the measurement, at batch size one and within a single synchrophasor (PMU) reporting frame. We distil a 20.1M-parameter, 12-layer GridFM teacher into a 0.62M-parameter, 6-layer student, a $32.5\times$ parameter reduction at half the message-passing depth, using an objective that combines the masked power-flow loss with output, physics-residual, latent-state and attention transfer. The physics-residual term, which matches the teacher's power-residual profile, has not previously been applied to typed power-grid graphs. We evaluate on a renewable variant of the IEEE 118-bus benchmark grid in which 26 of the conventional (synchronous) generators are replaced by inverter-based renewables with battery flexibility and standardised reactive-power limits (IEEE 1547), giving $97\,529$ physically valid (AC-OPF-feasible) operating scenarios, and we ablate all eight combinations of the transfer terms, reporting accuracy against ground truth and fidelity to the teacher separately. Distillation lowers student error on all four predicted quantities, by up to $48\%$ on active-power dispatch, and every distilled student is more accurate than its teacher on reactive-power dispatch. The gain is largely carried by the output matching term. The physics-residual term, in the layer-aggregated form used here, is consistently harmful, which we attribute to the spatial averaging it applies to a bus-level residual field. The resulting student is $32.5\times$ smaller in parameter count and has half the message-passing depth, making it a candidate for subsequent edge-device benchmarking.
- Abstract（参考訳）: グリッド基礎モデル(グリッド基礎モデル、GridFMs)は、マスクされたパワーフローの目的に事前訓練されたグラフトランスフォーマーであり、反復解法よりも高速に電力フローの順序を評価する。
しかし、そのサイズはデータ中心推論をターゲットとしているのに対し、低慣性演算では、測定値の隣のエッジで、バッチサイズ1と、単一のシンクロファサー(PMU)レポートフレーム内での推論をますます求めている。
我々は,20.1Mパラメータ,12層グリッドFM教師を0.62Mパラメータ,6層学生,32.5\times$パラメータを半分のメッセージ通過深さで削減する。
物理-残留項は教師のパワー-残留プロファイルと一致するが、これまではタイプされたパワー-グリッドグラフには適用されていない。
IEEE 118-busベンチマークグリッドの再生可能変種について検討し、従来の26個の(同期)ジェネレータを、バッテリーの柔軟性と標準化されたリアクティブパワー制限(IEEE 1547)を備えたインバータベースの再生可能デバイスに置き換え、9,7,529ドルの物理的有効(AC-OPF対応)操作シナリオを付与し、転送条件の全てを廃止し、接地真実と忠実さを個別に報告する。
蒸留によって予測される4つの量の生徒の誤差を最大4,8 %まで減らし、蒸留された生徒は反応力の教師よりも正確になる。
ゲインは主に出力整合項によって運ばれる。
ここで用いられる層集合形式の物理残留項は、バスレベル残留場に適用される空間平均化に起因して、一貫して有害である。
結果として得られた学生はパラメータカウントが$32.5\times$小さくなり、メッセージパスの深さが半分になるため、その後のエッジデバイスベンチマークの候補になる。
関連論文リスト
- Simplifying and Improving On-Policy Distillation for Few-Step Diffusion [60.45650436067934]
少ない段階の蒸留は拡散・流動モデルのサンプリングコストを低減させるが、既存の手法では補助的なスコアモデルや特殊なアーキテクチャを必要とすることが多い。
4-NFE生成の基盤として, 簡易なオン・ポリティクス速度回帰法がすでに有効であることを示す。
本稿では,学習者の区間平均予測から局所的な補正を分離する訓練専用残差プロキシであるPivotを紹介する。
論文 参考訳（メタデータ） (2026-10-13T14:35:46Z) - One Block, Multiple Depths: Recurrent Vision Transformers with Depth-Programmed Experts [52.62368406036621]
reViTは、FFNを各繰り返し深さで、小さな共有専門家バンクの凸結合として表現することで、深さ固有の変換を復元する。
reViT-B/16では,約70%の保存パラメータでDeiT IIIの精度が得られた。
論文 参考訳（メタデータ） (2026-10-08T17:58:36Z) - Physics-Informed but Not Physics-Consistent: Error Geometry and Subspace Projection for Neural AC Power Flow [7.672324146121681]
新たな基礎モデルを含む最近のニューラル・パワー・フロー・ソルバは、正確な電圧予測を実現する。
しかし、そのような精度は必ずしも物理的に一貫した解を暗示するとは限らない。
本稿では,PIGNN-GC,GridSFM,Gridfm-graphkit,LUMINA間の精度・一貫性ギャップについて検討する。
論文 参考訳（メタデータ） (2026-10-05T08:12:22Z) - Improved Distributional Diffusion Models [76.7431857619657]
分散拡散モデルでは、標準的な平均予測デノイザを、スコアリングルールの目的によって訓練された固有分布デノイザに置き換える。
本稿では, 時間依存型スコアリングルールのスケジュールを, サーモット・ビロリ2024の動的レギュレーションによって通知する。
4段目で4.48 FID、50段目で2.38 FIDをDiT-XL/2で達成した。
論文 参考訳（メタデータ） (2026-09-29T09:41:56Z) - BRIDGE-EEG: Bridging Self-Supervised Pretraining and Efficient Deployment for Cross-Dataset EEG Classification [10.168267743881337]
本稿では,効率的なマルチタスクEEG分類パイプラインBRIDGE-EEGを紹介する。
統一された前処理方式は、異なるチャンネル数、モンタージュ、サンプリング率の異種記録をデバイスに依存しない62チャンネル時間周波数表現にマッピングする。
異常検出,運動画像,感情認識を対象とする6つのベンチマークを評価した。
論文 参考訳（メタデータ） (2026-09-10T21:27:10Z) - Entropy Across the Bridge: Conditional-Marginal Discretization for Flow and Schrödinger Samplers [68.9946633641494]
フローマッチングとシュルディンガーブリッジは確率を定義するが、その推論格子は通常一点拡散から受け継がれる。
終端条件付き橋梁形状を境界流の進化から分離し, 橋梁を識別する条件付きエントロピーレートを導出する。
EDM/CIFAR-10では、エントロピックな時間分散は5段階のFID(186.3 pm 4.0対200.5 pm 2.9対cosineの238.0 pm 5.3)が最適である。
論文 参考訳（メタデータ） (2026-05-15T16:11:10Z) - Posterior Augmented Flow Matching [64.1559809786948]
後拡張フローマッチング(PAFM)はフローマッチング(FM)の一般化である
PAFMは、異なるモデルスケールで最大3.4FID50KでFMよりも改善されていることを示す。
論文 参考訳（メタデータ） (2026-05-01T17:59:59Z) - PowerModelsGAT-AI: Physics-Informed Graph Attention for Multi-System Power Flow with Continual Learning [0.0]
本稿では,バス電圧とジェネレータインジェクションを予測する物理インフォームドグラフアテンションネットワークPowerModelsGAT-AIを提案する。
14のベンチマークシステム(4～6,470台のバス)でモデルを評価し,N-2(2ブランチ機能停止)条件下で13種類の統一モデルを訓練した。
ベースモデルを新しい1,354バスシステムに適合させると、標準微調整によってエラーが1000%以上増加する。
論文 参考訳（メタデータ） (2026-02-24T15:29:49Z) - Speeding Up MACE: Low-Precision Tricks for Equivarient Force Fields [51.95157731126864]
機械学習力場は高い計算コストで正確な分子動力学(MD)を提供することができる。
この論文は、計算ボトルネックを特定し、低精度の実行ポリシーを評価することで、MACEを安価かつ高速にすることを目的としている。
論文 参考訳（メタデータ） (2025-10-23T14:02:34Z) - Accelerating Attention through Gradient-Based Learned Runtime Pruning [9.109136535767478]
自己認識は、トランスフォーマーベースの自然言語処理モデルにおいて、最先端の精度を実現する重要な手段である。
本稿では、学習の損失関数に組み込まれたソフトな微分可能正規化器による探索を定式化する。
我々は、ビットレベルの早期終了マイクロアーキテクチャ機構を持つトランスフォーマー言語モデルに対して、LeOPArdと呼ばれるビットシリアルアーキテクチャを考案した。
論文 参考訳（メタデータ） (2022-04-07T05:31:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。