論文の概要: Using Large Language Models and Knowledge Graphs to Improve the Interpretability of Machine Learning Models in Manufacturing

• arxiv url: http://arxiv.org/abs/2604.16280v1
• Date: Fri, 17 Apr 2026 17:41:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-20 22:00:20.034907
• Title: Using Large Language Models and Knowledge Graphs to Improve the Interpretability of Machine Learning Models in Manufacturing
• Title（参考訳）: 大規模言語モデルと知識グラフを用いた製造業における機械学習モデルの解釈可能性の向上
• Authors: Thomas Bayer, Alexander Lohr, Sarah Weiß, Bernd Michelberger, Wolfram Höpken,
• Abstract要約: 知識グラフ(KG)を用いた機械学習モデルの解釈可能性向上手法を提案する。 ドメイン固有のデータをML結果とそれに対応する説明とともに保存し、ドメイン知識とMLインサイトとの構造化された接続を確立する。 これらの知見をユーザに提供するために,KGから関連する三重項を抽出し,大言語モデルで処理する選択的検索手法を考案した。
• 参考スコア（独自算出の注目度）: 36.94429692322632
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Explaining Machine Learning (ML) results in a transparent and user-friendly manner remains a challenging task of Explainable Artificial Intelligence (XAI). In this paper, we present a method to enhance the interpretability of ML models by using a Knowledge Graph (KG). We store domain-specific data along with ML results and their corresponding explanations, establishing a structured connection between domain knowledge and ML insights. To make these insights accessible to users, we designed a selective retrieval method in which relevant triplets are extracted from the KG and processed by a Large Language Model (LLM) to generate user-friendly explanations of ML results. We evaluated our method in a manufacturing environment using the XAI Question Bank. Beyond standard questions, we introduce more complex, tailored questions that highlight the strengths of our approach. We evaluated 33 questions, analyzing responses using quantitative metrics such as accuracy and consistency, as well as qualitative ones such as clarity and usefulness. Our contribution is both theoretical and practical: from a theoretical perspective, we present a novel approach for effectively enabling LLMs to dynamically access a KG in order to improve the explainability of ML results. From a practical perspective, we provide empirical evidence showing that such explanations can be successfully applied in real-world manufacturing environments, supporting better decision-making in manufacturing processes.
• Abstract（参考訳）: 機械学習(ML)の結果を透明でユーザフレンドリな方法で説明することは、説明可能な人工知能(XAI)の難しい課題である。 本稿では,知識グラフ(KG)を用いて,MLモデルの解釈可能性を高める手法を提案する。 ドメイン固有のデータをML結果とそれに対応する説明とともに保存し、ドメイン知識とMLインサイトとの構造化された接続を確立する。 これらの知見をユーザに提供するために,KGから関連する三重項を抽出し,Large Language Model (LLM) によって処理し,ML結果のユーザフレンドリな説明を生成する選択的検索手法を考案した。 XAI質問銀行を用いた製造環境における手法の評価を行った。 標準的な質問以外にも、アプローチの強みを強調する、より複雑で調整された質問を導入しています。 我々は33の質問を評価し,正確性や一貫性などの定量的指標と,明確さや有用性などの質的な指標を用いて回答を分析した。 我々の貢献は理論的および実用的であり、理論的な観点からは、ML結果の説明可能性を改善するために、LLMがKGに動的にアクセスできるようにするための新しいアプローチを提案する。 実践的な観点からは、そのような説明が実世界の製造環境に適用可能であることを示す実証的な証拠を提供し、製造プロセスにおけるより良い意思決定を支援する。

関連論文リスト

• Ontology-Enhanced Knowledge Graph Completion using Large Language Models [14.954155147351623]
  大言語モデル(LLM)は知識グラフ補完(KGC)において広く採用されている。 OL-KGCを用いた拡張KGC法を提案する。 まず、神経知覚機構を利用して、構造情報をテキスト空間に効果的に埋め込む。
  論文  参考訳（メタデータ） (2025-07-28T09:00:48Z)
• Injecting Knowledge Graphs into Large Language Models [0.0]
  我々は,大規模言語モデル内のグラフ埋め込みをトークンとして統合するエンコーディング技術を構築した。 我々のアプローチは、モデルに依存しず、リソース効率が良く、どのLLMとも互換性がある。
  論文  参考訳（メタデータ） (2025-05-12T13:31:26Z)
• LightPROF: A Lightweight Reasoning Framework for Large Language Model on Knowledge Graph [57.382255728234064]
  大きな言語モデル(LLM)は、テキスト理解とゼロショット推論において素晴らしい能力を持っている。 知識グラフ(KG)は、LLMの推論プロセスに対して、リッチで信頼性の高いコンテキスト情報を提供する。 我々は、KGQA(LightPROF)のための新しい軽量で効率的なPrompt Learning-ReasOning Frameworkを提案する。
  論文  参考訳（メタデータ） (2025-04-04T03:03:47Z)
• MoRE-LLM: Mixture of Rule Experts Guided by a Large Language Model [54.14155564592936]
  大規模言語モデル(MoRE-LLM)によるルールエキスパートの混合を提案する。 MoRE-LLMは、トレーニング中の局所的なルールベースのサロゲートの発見と、それらの分類タスクの利用を操縦する。 LLMはルールを修正・コンテキスト化することで、ルールのドメイン知識の整合性を高める役割を担います。
  論文  参考訳（メタデータ） (2025-03-26T11:09:21Z)
• LLMs for XAI: Future Directions for Explaining Explanations [50.87311607612179]
  既存のXAIアルゴリズムを用いて計算した説明の精細化に着目する。 最初の実験とユーザスタディは、LLMがXAIの解釈可能性とユーザビリティを高めるための有望な方法を提供することを示唆している。
  論文  参考訳（メタデータ） (2024-05-09T19:17:47Z)
• From Understanding to Utilization: A Survey on Explainability for Large Language Models [27.295767173801426]
  この調査は、Large Language Models (LLMs) における説明可能性の向上を示唆している。 主に、トレーニング済みの Transformer ベースの LLM に重点を置いています。 説明可能性の活用を考える際に、モデル編集、制御生成、モデル拡張に集中するいくつかの魅力的な方法を検討する。
  論文  参考訳（メタデータ） (2024-01-23T16:09:53Z)
• Empowering Language Models with Knowledge Graph Reasoning for Question Answering [117.79170629640525]
  我々はknOwledge ReasOning empowered Language Model (OREO-LM)を提案する。 OREO-LMは、既存のTransformerベースのLMに柔軟に接続できる新しい知識相互作用層で構成されている。 クローズド・ブック・セッティングにおいて,最先端の成果が得られ,性能が著しく向上した。
  論文  参考訳（メタデータ） (2022-11-15T18:26:26Z)
• Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
  説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。 本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。 実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
  論文  参考訳（メタデータ） (2022-03-15T15:44:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。