論文の概要: Physics-Distilled Neural Network enabled by Large Language Models for Manufacturing Process-Property Predictive Modeling
- arxiv url: http://arxiv.org/abs/2606.11605v1
- Date: Wed, 10 Jun 2026 03:05:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.261497
- Title: Physics-Distilled Neural Network enabled by Large Language Models for Manufacturing Process-Property Predictive Modeling
- Title(参考訳): 大規模言語モデルによる物理蒸留ニューラルネットワークによるプロセス品質予測モデルの構築
- Authors: Ge Song, Kiarash Naghavi Khanghah, Anandkumar Patel, Rajiv Malhotra, Hongyi Xu,
- Abstract要約: 製造におけるプロセス-プロパティ関係の予測は、高い実験コストと複雑な「ブラックボックス」モデルの限定的な解釈可能性によってしばしば挑戦される。
本稿では,データスカースシナリオにおける高精度な予測を実現するための新しい知識蒸留フレームワークを提案する。
- 参考スコア(独自算出の注目度): 8.459710888681117
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Predicting process-property relationships in manufacturing is often challenged by high experimental costs and the limited interpretability of complex 'black-box' models. This paper proposes a novel knowledge distillation framework designed to achieve high-accuracy predictions in data-scarce scenarios. The framework integrates analytical physics priors, which are systematically extracted from scientific literature via Large Language Models, into a privileged teacher model. We employ a Graph-Masked Attention layer to capture the complex physical dependencies among input variables showing strict setpoints or a combination of static and high-frequency temporal signatures. This privileged knowledge is distilled into a lightweight student predictor for inference. The feasibility and robustness of the framework are evaluated through a comprehensive experiment across five diverse manufacturing processes. To ensure statistical reliability, given the small dataset sizes, a repeated K-fold cross-validation technique is employed to quantify model stability and generalization. Results indicate that the proposed framework consistently achieves high predictive accuracy across all evaluated domains. Most importantly, the architecture demonstrates significant fault tolerance by maintaining robust predictive performance even in scenarios where LLM-derived analytical priors are suboptimal or incomplete. Furthermore, the student predictor achieves an inference frequency exceeding 6000 Hz, which facilitates real-time edge deployment on standard industrial hardware. This work provides a scalable solution for bridging the gap between theoretical physics and real-time industrial monitoring in data-limited environments.
- Abstract(参考訳): 製造におけるプロセス-プロパティ関係の予測は、高い実験コストと複雑な「ブラックボックス」モデルの限定的な解釈可能性によってしばしば挑戦される。
本稿では,データスカースシナリオにおける高精度な予測を実現するための新しい知識蒸留フレームワークを提案する。
このフレームワークは、大規模言語モデルを通して科学的文献から体系的に抽出された分析物理学の先行概念を特権的な教師モデルに統合する。
我々は、厳密なセットポイントを示す入力変数間の複雑な物理的依存関係や、静的および高周波の時間的シグネチャの組み合わせをキャプチャするために、Graph-Masked Attentionレイヤを使用します。
この特権知識は、推論のための軽量な学生予測器に蒸留される。
フレームワークの実現可能性と堅牢性は、5つの異なる製造プロセスにわたる総合的な実験を通じて評価される。
データセットサイズが小さいと統計的信頼性を確保するため、モデルの安定性と一般化を定量化するために、繰り返しK-foldクロスバリデーション手法が使用される。
その結果,提案フレームワークは評価されたすべての領域で常に高い予測精度を達成できることがわかった。
最も重要なことは、LLMから派生した分析的前提が最適以下あるいは不完全であるシナリオであっても、堅牢な予測性能を維持することにより、アーキテクチャは重大な耐障害性を示すことである。
さらに、学生予測器は6000Hzを超える推定周波数を達成し、標準産業ハードウェア上でのリアルタイムエッジ展開を容易にする。
この研究は、理論物理学とデータ制限環境におけるリアルタイム産業モニタリングのギャップを埋めるためのスケーラブルなソリューションを提供する。
関連論文リスト
- CLAIRE: Compressed Latent Autoencoder for Industrial Representation and Evaluation -- A Deep Learning Framework for Smart Manufacturing [51.56484100374058]
CLAIREは、教師なしの深層表現学習と、スマート製造システムにおけるインテリジェントな品質管理のための教師付き分類を統合したハイブリッドエンドツーエンド学習フレームワークである。
最適化されたディープオートエンコーダを使用して、生の入力をコンパクトな潜伏空間に変換し、不適切な特徴やノイズを抑えながら本質的なデータ構造を効果的にキャプチャする。
提案したフレームワークは、堅牢な障害検出のために、説明可能なAIと機能認識の正規化を統合する可能性を強調している。
論文 参考訳(メタデータ) (2026-03-06T15:11:58Z) - Demystifying Data-Driven Probabilistic Medium-Range Weather Forecasting [63.8116386935854]
最先端の確率的スキルは、複雑なアーキテクチャ制約や専門的な訓練を必要としないことを実証する。
直下型遅延空間と履歴条件付きローカルプロジェクタを組み合わせることで,マルチスケールの大気力学を学習するためのスケーラブルなフレームワークを提案する。
我々のフレームワーク設計は確率的推定器の選択に頑健であり、補間、拡散モデル、CRPSに基づくアンサンブルトレーニングをシームレスにサポートする。
論文 参考訳(メタデータ) (2026-01-26T03:52:16Z) - Opening the Black Box: An Explainable, Few-shot AI4E Framework Informed by Physics and Expert Knowledge for Materials Engineering [5.815650691228101]
我々は、そのアーキテクチャ全体を通して物理と専門家の知識によって体系的に情報を得る、説明可能な、少数のAI4Eフレームワークを提示する。
私たちのアプローチは、エンジニアリングドメインの知識を直接アーキテクチャに組み込むAIシステムを開発するための青写真を提供します。
論文 参考訳(メタデータ) (2025-11-28T06:50:29Z) - Spatial-Temporal-Spectral Unified Modeling for Remote Sensing Dense Prediction [20.1863553357121]
リモートセンシングのための現在のディープラーニングアーキテクチャは、基本的に堅固である。
本稿では,統合モデリングのための空間時間スペクトル統一ネットワーク(STSUN)について紹介する。
STSUNは任意の空間サイズ、時間長、スペクトル帯域で入力および出力データに適応することができる。
様々な密集した予測タスクと多様な意味クラス予測を統一する。
論文 参考訳(メタデータ) (2025-05-18T07:39:17Z) - Meta-Statistical Learning: Supervised Learning of Statistical Inference [59.463430294611626]
この研究は、大きな言語モデル(LLM)の成功を駆動するツールと原則が、分散レベルのタスクに取り組むために再利用可能であることを実証している。
本稿では,統計的推論タスクを教師付き学習問題として再構成するマルチインスタンス学習に触発されたメタ統計学習を提案する。
論文 参考訳(メタデータ) (2025-02-17T18:04:39Z) - Remaining Useful Life Prediction: A Study on Multidimensional Industrial Signal Processing and Efficient Transfer Learning Based on Large Language Models [6.118896920507198]
本稿では,大言語モデル(LLM)をRUL予測に用いる革新的な回帰フレームワークを提案する。
ターボファンエンジンのRUL予測タスクの実験では、提案モデルが最先端(SOTA)法を超越していることが示されている。
微調整のための最小限のターゲットドメインデータでは、モデルは完全なターゲットドメインデータに基づいて訓練されたSOTAメソッドよりも優れている。
論文 参考訳(メタデータ) (2024-10-04T04:21:53Z) - On the Predictive Accuracy of Neural Temporal Point Process Models for
Continuous-time Event Data [3.13468877208035]
時間的ポイントプロセス(TPP)は、非同期イベントシーケンスを連続的にモデル化するための標準的な数学的フレームワークとして機能する。
ニューラルネットワークのパラメトリゼーションを活用し、より柔軟で効率的なモデリングを提供するNeural TPPを提案する。
本研究では,最先端のニューラルTPPモデルの予測精度を系統的に評価する。
論文 参考訳(メタデータ) (2023-06-29T16:14:43Z) - Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
トレーニングセットとその構造が長期予測の品質に与える影響を考察する。
トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
論文 参考訳(メタデータ) (2021-12-15T20:09:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。