論文の概要: RP-CATE: Recurrent Perceptron-based Channel Attention Transformer Encoder for Industrial Hybrid Modeling
- arxiv url: http://arxiv.org/abs/2512.19147v1
- Date: Mon, 22 Dec 2025 08:44:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-23 18:54:32.675288
- Title: RP-CATE: Recurrent Perceptron-based Channel Attention Transformer Encoder for Industrial Hybrid Modeling
- Title（参考訳）: RP-CATE:産業用ハイブリッドモデリング用リカレントパーセプトロン型チャネルアテンショントランスエンコーダ
- Authors: Haoran Yang, Yinan Zhang, Wenjie Zhang, Dongxia Wang, Peiyu Liu, Yuqi Ye, Kexin Chen, Wenhai Wang,
- Abstract要約: 産業用ハイブリッドモデリングは、メカニスティックモデリングと機械学習に基づくモデリング技術の両方を統合している。
既存の工業用ハイブリッド・モデリング手法には2つの大きな制限がある。
本稿では,Recurrent Perceptron-based Channel Attention Transformer (RP-CATE)を提案する。
- 参考スコア（独自算出の注目度）: 38.59451477828059
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Nowadays, industrial hybrid modeling which integrates both mechanistic modeling and machine learning-based modeling techniques has attracted increasing interest from scholars due to its high accuracy, low computational cost, and satisfactory interpretability. Nevertheless, the existing industrial hybrid modeling methods still face two main limitations. First, current research has mainly focused on applying a single machine learning method to one specific task, failing to develop a comprehensive machine learning architecture suitable for modeling tasks, which limits their ability to effectively represent complex industrial scenarios. Second, industrial datasets often contain underlying associations (e.g., monotonicity or periodicity) that are not adequately exploited by current research, which can degrade model's predictive performance. To address these limitations, this paper proposes the Recurrent Perceptron-based Channel Attention Transformer Encoder (RP-CATE), with three distinctive characteristics: 1: We developed a novel architecture by replacing the self-attention mechanism with channel attention and incorporating our proposed Recurrent Perceptron (RP) Module into Transformer, achieving enhanced effectiveness for industrial modeling tasks compared to the original Transformer. 2: We proposed a new data type called Pseudo-Image Data (PID) tailored for channel attention requirements and developed a cyclic sliding window method for generating PID. 3: We introduced the concept of Pseudo-Sequential Data (PSD) and a method for converting industrial datasets into PSD, which enables the RP Module to capture the underlying associations within industrial dataset more effectively. An experiment aimed at hybrid modeling in chemical engineering was conducted by using RP-CATE and the experimental results demonstrate that RP-CATE achieves the best performance compared to other baseline models.
- Abstract（参考訳）: 近年,機械的モデリングと機械学習に基づくモデリング技術を統合した産業用ハイブリッドモデリングが,高い精度,低い計算コスト,良好な解釈可能性によって,研究者の関心を集めている。
それでも、既存の工業用ハイブリッドモデリング手法には2つの大きな制限がある。
第一に、最近の研究は1つの特定のタスクに1つの機械学習手法を適用することに重点を置いており、複雑な産業シナリオを効果的に表現する能力を制限する、モデリングタスクに適した包括的な機械学習アーキテクチャの開発に失敗した。
第二に、産業データセットには、しばしば、現在の研究で適切に活用されていない基礎的な関連(例えば、単調性、周期性)が含まれており、モデルの性能を劣化させる可能性がある。
本稿では,Recurrent Perceptron-based Channel Attention Transformer Encoder (RP-CATE)を提案する。1: 自己認識機構をチャネルアテンションに置き換え,提案したRecurrent Perceptron (RP)モジュールをTransformerに組み込むことにより,従来のTransformerと比較して産業モデリングタスクの効率の向上を実現することにより,新しいアーキテクチャを開発した。
2: Pseudo-Image Data (PID) と呼ばれる新しいデータ型を提案し,PID生成のための周期的スライディングウインドウ法を開発した。
3: Pseudo-Sequential Data(PSD)の概念と産業用データセットをPSDに変換する手法を導入し, RPモジュールが産業用データセットの基盤となる関連性をより効率的に把握できるようにする。
化学工学におけるハイブリッドモデリングを目的とした実験は, RP-CATEを用いて行われ, 実験結果から, RP-CATEが他のベースラインモデルと比較して最高の性能を発揮することが示された。
関連論文リスト
- Probing then Editing: A Push-Pull Framework for Retain-Free Machine Unlearning in Industrial IoT [6.973959179359068]
我々は、Probing then Editing (PTE)と呼ばれる、新しい保持不要な未学習フレームワークを提案する。
PTEは、アンラーニングをプローブ編集プロセスとしてフレーム化し、モデル独自の予測を用いて対応する編集命令を生成する。
このメカニズムから、PTEは、忘れられるデータと元のモデルのみを使用して、効率的でバランスの取れた知識編集を実現する。
論文 参考訳（メタデータ） (2025-11-12T15:28:56Z) - DIFFUMA: High-Fidelity Spatio-Temporal Video Prediction via Dual-Path Mamba and Diffusion Enhancement [5.333662480077316]
我々は,半導体ウェハダイシングプロセスに特化した最初の公開時空間画像データセットであるChip Dicing Laneデータセット(CHDL)をリリースする。
このような微細なダイナミクスに特化して設計された、革新的なデュアルパス予測アーキテクチャであるDIFFUMAを提案する。
実験の結果、DIFFUMAは既存の手法よりも優れており、平均二乗誤差(MSE)を39%削減し、類似性(SSIM)を0.926から0.988に改善した。
論文 参考訳（メタデータ） (2025-07-09T10:51:54Z) - Triple Attention Transformer Architecture for Time-Dependent Concrete Creep Prediction [0.0]
本稿では, 時間依存コンクリートクリープ予測のための新しい三重注意変換器アーキテクチャを提案する。
具体的なクリープ予測を言語処理に類似した自己回帰シーケンスモデリングタスクに変換することで,我々のアーキテクチャはトランスフォーマーの自己認識機構を活用する。
このアーキテクチャは、平均絶対パーセンテージ誤差1.63%、R2値0.999を全データセットで達成する。
論文 参考訳（メタデータ） (2025-05-28T22:30:35Z) - Sustainable Diffusion-based Incentive Mechanism for Generative AI-driven Digital Twins in Industrial Cyber-Physical Systems [65.22300383287904]
産業用サイバー物理システム(ICPS)は、現代の製造業と産業にとって不可欠なコンポーネントである。
製品ライフサイクルを通じてデータをデジタル化することにより、ICPSのDigital Twins(DT)は、現在の産業インフラからインテリジェントで適応的なインフラへの移行を可能にします。
GenAIはDTの構築と更新を推進し、予測精度を改善し、多様なスマート製造に備える。
論文 参考訳（メタデータ） (2024-08-02T10:47:10Z) - End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。
我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
論文 参考訳（メタデータ） (2023-05-25T10:58:46Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳（メタデータ） (2023-01-05T13:59:29Z) - Directed Acyclic Graph Factorization Machines for CTR Prediction via
Knowledge Distillation [65.62538699160085]
本稿では,既存の複雑な相互作用モデルから,知識蒸留によるCTR予測のための高次特徴相互作用を学習するための非巡回グラフファクトリゼーションマシン(KD-DAGFM)を提案する。
KD-DAGFMは、オンラインとオフラインの両方の実験において、最先端のFLOPの21.5%未満で最高の性能を達成する。
論文 参考訳（メタデータ） (2022-11-21T03:09:42Z) - A Generative Approach for Production-Aware Industrial Network Traffic
Modeling [70.46446906513677]
ドイツにあるTrumpf工場に配備されたレーザー切断機から発生するネットワークトラフィックデータについて検討した。
我々は、トラフィック統計を分析し、マシンの内部状態間の依存関係をキャプチャし、ネットワークトラフィックを生産状態依存プロセスとしてモデル化する。
可変オートエンコーダ(VAE)、条件付き可変オートエンコーダ(CVAE)、生成逆ネットワーク(GAN)など、様々な生成モデルの性能の比較を行った。
論文 参考訳（メタデータ） (2022-11-11T09:46:58Z) - Development of Deep Transformer-Based Models for Long-Term Prediction of
Transient Production of Oil Wells [9.832272256738452]
本稿では,油井の過渡生産に関するデータ駆動型モデリング手法を提案する。
油井の様々なパラメータからなる多変量時系列に基づいて訓練された変圧器ベースニューラルネットワークを適用した。
複素過渡的な油田レベルのパターンをシミュレートするために,複数井戸に対するトランスフォーマーアーキテクチャに基づく単一井戸モデルを一般化する。
論文 参考訳（メタデータ） (2021-10-12T15:00:45Z) - KNODE-MPC: A Knowledge-based Data-driven Predictive Control Framework
for Aerial Robots [5.897728689802829]
我々は、知識に基づくニューラル常微分方程式(KNODE)というディープラーニングツールを用いて、第一原理から得られたモデルを拡張する。
得られたハイブリッドモデルは、名目上の第一原理モデルと、シミュレーションまたは実世界の実験データから学習したニューラルネットワークの両方を含む。
閉ループ性能を改善するため、ハイブリッドモデルはKNODE-MPCとして知られる新しいMPCフレームワークに統合される。
論文 参考訳（メタデータ） (2021-09-10T12:09:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。