論文の概要: Contextual Mixture of Experts: Integrating Knowledge into Predictive Modeling

• arxiv url: http://arxiv.org/abs/2211.00558v1
• Date: Tue, 1 Nov 2022 16:12:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-02 14:17:48.642079
• Title: Contextual Mixture of Experts: Integrating Knowledge into Predictive Modeling
• Title（参考訳）: 専門家の文脈混合:知識を予測モデリングに統合する
• Authors: Francisco Souza, Tim Offermans, Ruud Barendse, Geert Postma, Jeroen Jansen
• Abstract要約: この研究は、プロセス産業における人-機械のシナジーを高めるために、プロセス知識をその構造に統合するために考案された新しいデータ駆動モデルを提案する。 提案したContextual Mixture of Experts (cMoE)は、モデル学習段階に沿ったプロセス知識を明示的に使用して、履歴データを形成して、可能性分布を通じてプロセスに関連するオペレータのコンテキストを表現する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: This work proposes a new data-driven model devised to integrate process knowledge into its structure to increase the human-machine synergy in the process industry. The proposed Contextual Mixture of Experts (cMoE) explicitly uses process knowledge along the model learning stage to mold the historical data to represent operators' context related to the process through possibility distributions. This model was evaluated in two real case studies for quality prediction, including a sulfur recovery unit and a polymerization process. The contextual mixture of experts was employed to represent different contexts in both experiments. The results indicate that integrating process knowledge has increased predictive performance while improving interpretability by providing insights into the variables affecting the process's different regimes.
• Abstract（参考訳）: この研究は、プロセス産業における人-機械のシナジーを高めるために、プロセス知識をその構造に統合するために考案された新しいデータ駆動モデルを提案する。 提案したContextual Mixture of Experts (cMoE)は、モデル学習段階に沿ったプロセス知識を明示的に使用して、履歴データを形成して、可能性分布を通じてプロセスに関連するオペレータのコンテキストを表現する。 このモデルは, 硫黄回収ユニットと重合プロセスを含む品質予測のための2つの実例で評価された。 両方の実験で異なるコンテキストを表現するために、専門家のコンテキスト混合が用いられました。 その結果、プロセス知識の統合は、プロセスの異なる状態に影響を与える変数に関する洞察を提供することで、解釈可能性を改善しながら予測性能を高めた。

関連論文リスト

• Fast Training Dataset Attribution via In-Context Learning [9.542023122304096]
  我々は、インコンテキスト学習とプロンプトエンジニアリングを用いて、インストラクションチューニングされた大規模言語モデル(LLM)におけるトレーニングデータの貢献度を推定する。 本研究では,(1)LLM出力のコンテクストと非コンテクストとの差を測定する類似性に基づくアプローチと,(2)コントリビューションスコアを行列因数分解タスクとして識別する問題をモデル化する混合分布モデルアプローチを提案する。
  論文  参考訳（メタデータ） (2024-08-14T20:48:45Z)
• Diversifying the Expert Knowledge for Task-Agnostic Pruning in Sparse Mixture-of-Experts [75.85448576746373]
  本稿では,モデルのパラメータ効率を向上させるために,類似の専門家をグループ化し,グループ化する方法を提案する。 提案手法の有効性を3つの最先端MoEアーキテクチャを用いて検証する。 評価の結果,本手法は自然言語タスクにおいて,他のモデルプルーニング手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2024-07-12T17:25:02Z)
• Interpretable and Explainable Machine Learning Methods for Predictive Process Monitoring: A Systematic Literature Review [1.3812010983144802]
  本稿では,機械学習モデル(ML)の予測プロセスマイニングの文脈における説明可能性と解釈可能性について,系統的に検討する。 我々は、様々なアプリケーション領域にまたがる現在の方法論とその応用の概要を概観する。 我々の研究は、プロセス分析のためのより信頼性が高く透明で効果的なインテリジェントシステムの開発と実装方法について、研究者や実践者がより深く理解することを目的としている。
  論文  参考訳（メタデータ） (2023-12-29T12:43:43Z)
• Contextualized Machine Learning [40.415518395978204]
  文脈化された機械学習は、文脈情報と文脈固有のパラメトリックモデルの間のメタ関係にディープラーニングを適用することによって異種関数を推定する。 本稿では、オープンソースのPyTorchパッケージContextualizedMLを紹介する。
  論文  参考訳（メタデータ） (2023-10-17T15:23:00Z)
• Multimodal Relation Extraction with Cross-Modal Retrieval and Synthesis [89.04041100520881]
  本研究は,対象物,文,画像全体に基づいて,テキストおよび視覚的証拠を検索することを提案する。 我々は,オブジェクトレベル,画像レベル,文レベル情報を合成し,同一性と異なるモダリティ間の推論を改善する新しい手法を開発した。
  論文  参考訳（メタデータ） (2023-05-25T15:26:13Z)
• A Mechanistic Interpretation of Arithmetic Reasoning in Language Models using Causal Mediation Analysis [128.0532113800092]
  算数問題に対するトランスフォーマーに基づくLMの機械的解釈を提案する。 これにより、算術に関連する情報がLMによってどのように処理されるかについての洞察が得られる。
  論文  参考訳（メタデータ） (2023-05-24T11:43:47Z)
• Extending Process Discovery with Model Complexity Optimization and Cyclic States Identification: Application to Healthcare Processes [62.997667081978825]
  モデル最適化のための半自動支援を実現するプロセスマイニング手法を提案する。 所望の粒度で生モデルを抽象化するモデル単純化手法が提案されている。 医療分野の異なるアプリケーションから得られた3つのデータセットを用いて、技術的ソリューションの能力を実証することを目的としている。
  論文  参考訳（メタデータ） (2022-06-10T16:20:59Z)
• KAT: A Knowledge Augmented Transformer for Vision-and-Language [56.716531169609915]
  我々は、OK-VQAのオープンドメインマルチモーダルタスクにおいて、最先端の強力な結果をもたらす新しいモデルである知識拡張トランスフォーマー(KAT)を提案する。 提案手法は,エンド・ツー・エンドのエンコーダ・デコーダアーキテクチャにおいて暗黙的かつ明示的な知識を統合しつつ,回答生成時に両知識源を共同で推論する。 我々の分析では、モデル予測の解釈可能性の向上に、明示的な知識統合のさらなる利点が見られる。
  論文  参考訳（メタデータ） (2021-12-16T04:37:10Z)
• Explainable AI Enabled Inspection of Business Process Prediction Models [2.5229940062544496]
  本稿では,モデル説明を用いて,機械学習の予測によって適用された推論を解析する手法を提案する。 本手法の新たな貢献は,解釈可能な機械学習機構によって生成された説明と,過去のプロセス実行を記録するイベントログから抽出された文脈的,あるいはドメイン的知識の両方を活用するモデル検査の提案である。
  論文  参考訳（メタデータ） (2021-07-16T06:51:18Z)
• Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
  本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。 提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。 分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
  論文  参考訳（メタデータ） (2020-11-13T10:53:27Z)
• Local Post-Hoc Explanations for Predictive Process Monitoring in Manufacturing [0.0]
  本研究では,製造におけるデータ駆動型意思決定を容易にするための,革新的な予測品質分析ソリューションを提案する。 プロセスマイニング、機械学習、説明可能な人工知能(XAI)メソッドを組み合わせる。
  論文  参考訳（メタデータ） (2020-09-22T13:07:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。