論文の概要: Designing for Imperfect Prompts: A Simulation-Based Evaluation of an LLM-Based Enterprise Data Assistant Using Knowledge Graphs
- arxiv url: http://arxiv.org/abs/2610.23304v1
- Date: Fri, 16 Oct 2026 11:07:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.899213
- Title: Designing for Imperfect Prompts: A Simulation-Based Evaluation of an LLM-Based Enterprise Data Assistant Using Knowledge Graphs
- Title(参考訳): 不完全なプロンプトの設計:知識グラフを用いたLLM型エンタープライズデータアシスタントのシミュレーションによる評価
- Abstract要約: 本研究では,意味媒介層を用いた自動分解能について検討した。
セマンティックな類似性によるスキーマベースの調停と知識グラフベースの調停の2つの設計バリエーションを設計・評価する。
本稿では,知識グラフに基づく仲介の設計原理を提案し,構造化知識表現がユーザ意図とデータベース構造を橋渡しすることを示す。
- 参考スコア(独自算出の注目度): 48.58849490157966
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Enterprise data assistants using large language models (LLMs) promise democratized data access in organizations. Yet in our real-world deployment within the CFO unit's data lake at an industry partner, we observed that business users frequently pose imperfect prompts that include domain-specific vocabulary and lack schema references or structural information. This Design Science Research study examines automatic resolution using a semantic mediation layer. We design and evaluate two design variants: schema-based mediation via semantic similarity, and knowledge graph-based mediation leveraging an automatically constructed knowledge graph from the data lake. Our simulation-based evaluation using real-world data, supported by LLM-as-a-Judge assessments and human validation, shows that knowledge graph-based mediation outperforms the schema-based approach in Precision, Recall, F1, and preserving user intent. We propose a design principle for knowledge graph-based mediation, demonstrating that structured knowledge representation bridges user intent and database structure and guides the design of enterprise data assistants across skill levels.
- Abstract(参考訳): 大規模言語モデル(LLM)を使用したエンタープライズデータアシスタントは、組織における民主化されたデータアクセスを約束する。
しかし、業界パートナのCFOユニットのデータレイク内の現実的なデプロイメントでは、ビジネスユーザがドメイン固有の語彙を含む不完全なプロンプトを頻繁に実施し、スキーマ参照や構造情報の欠如を目の当たりにしています。
本研究は,セマンティック・メディエーション・レイヤを用いた自動分解能の研究である。
我々は、セマンティックな類似性によるスキーマベースの仲介と、データレイクから自動的に構築された知識グラフを活用する知識グラフベースの仲介の2つの設計バリエーションを設計し、評価する。
LLM-as-a-Judgeアセスメントと人間による検証によって支援された実世界のデータを用いたシミュレーションに基づく評価は、知識グラフに基づく仲介が、精度、リコール、F1、およびユーザ意図の保存において、スキーマベースのアプローチより優れていることを示す。
本稿では,知識グラフに基づく仲介の設計原則を提案し,構造化知識表現がユーザ意図とデータベース構造を橋渡しし,スキルレベルを越えたエンタープライズデータアシスタントの設計を導くことを実証する。
関連論文リスト
- LLM/Agent-as-Data-Analyst: A Survey [54.08761322298559]
大規模言語モデル(LLM)とエージェント技術は、データ分析タスクの機能と開発パラダイムに根本的な変化をもたらした。
LLMは複雑なデータ理解、自然言語、意味分析機能、自律パイプラインオーケストレーションを可能にする。
論文 参考訳(メタデータ) (2025-09-28T17:31:38Z) - A Pre-training Framework for Relational Data with Information-theoretic Principles [57.93973948947743]
本稿では,リレーショナルグラフ上の集合に基づくアグリゲーションを通じて,監視信号を構成する新しい事前学習フレームワークであるTask Vector Estimation (TVE)を紹介する。
TVEは従来のトレーニング前のベースラインを一貫して上回っている。
本研究は,関係データベース上での予測モデルの設計原則として,タスクの不均一性と時間構造を符号化する事前学習目的を提唱する。
論文 参考訳(メタデータ) (2025-07-14T00:17:21Z) - Data-to-Dashboard: Multi-Agent LLM Framework for Insightful Visualization in Enterprise Analytics [2.7933239275667545]
モジュール型LCMエージェントによるデータ・ダッシュボード・パイプラインの自動化を行うエージェントシステムを提案する。
既存のグラフシステムとは異なり、我々のフレームワークはビジネスアナリストの分析的推論プロセスをシミュレートする。
提案手法は, 評価指標の調整により, 洞察力, ドメイン関連性, 分析深度が向上したことを示す。
論文 参考訳(メタデータ) (2025-05-29T17:32:15Z) - Automated Extraction and Creation of FBS Design Reasoning Knowledge Graphs from Structured Data in Product Catalogues Lacking Contextual Information [0.10840985826142427]
オントロジーに基づく知識グラフ(KG)は,様々な意思決定シナリオにおいて,効果的な知識管理と再利用が望ましい。
KGの自動抽出と生成に関するほとんどの研究は、広範囲な非構造化データセットに基づいている。
本研究は,このギャップに対処するために開発された手法とデジタルワークフローについて報告する。
論文 参考訳(メタデータ) (2024-12-08T09:20:25Z) - Web-Scale Visual Entity Recognition: An LLM-Driven Data Approach [56.55633052479446]
Webスケールのビジュアルエンティティ認識は、クリーンで大規模なトレーニングデータがないため、重大な課題を呈している。
本稿では,ラベル検証,メタデータ生成,合理性説明に多モーダル大言語モデル(LLM)を活用することによって,そのようなデータセットをキュレートする新しい手法を提案する。
実験により、この自動キュレートされたデータに基づいてトレーニングされたモデルは、Webスケールの視覚的エンティティ認識タスクで最先端のパフォーマンスを達成することが示された。
論文 参考訳(メタデータ) (2024-10-31T06:55:24Z) - Customized Information and Domain-centric Knowledge Graph Construction with Large Language Models [0.0]
本稿では,構造化情報へのタイムリーなアクセスを実現するための知識グラフに基づく新しいアプローチを提案する。
本フレームワークは,情報検索,キーフレーズ抽出,セマンティックネットワーク生成,トピックマップ可視化などを含むテキストマイニングプロセスを含む。
当社の方法論を自動車電気システムの領域に適用して,スケーラブルなアプローチを実証する。
論文 参考訳(メタデータ) (2024-09-30T07:08:28Z) - Procedure Model for Building Knowledge Graphs for Industry Applications [0.0]
グラフベースの未接続情報とドメイン知識の統合は、新たな洞察を提供する。
本稿では,RDF知識グラフ構築のための実践的なステップバイステッププロシージャモデルを提案する。
論文 参考訳(メタデータ) (2024-09-20T11:46:37Z) - Proficient Graph Neural Network Design by Accumulating Knowledge on Large Language Models [20.31388126105889]
DesiGNNは知識中心のフレームワークで、過去のモデル設計の経験を構造化されたきめ細かな知識に変換する。
目に見えないグラフ理解と既知の効果的なアーキテクチャパターンの固いメタ知識を構築することで、DesiGNNは、目に見えないデータセットに対するトップ5.77%の初期モデル提案を数秒で提供できる。
論文 参考訳(メタデータ) (2024-08-13T08:22:01Z) - CateCom: a practical data-centric approach to categorization of
computational models [77.34726150561087]
本稿では,物理モデルとデータ駆動型計算モデルのランドスケープを整理する取り組みについて述べる。
オブジェクト指向設計の概念を適用し、オープンソース協調フレームワークの基礎を概説する。
論文 参考訳(メタデータ) (2021-09-28T02:59:40Z) - Edge-assisted Democratized Learning Towards Federated Analytics [67.44078999945722]
本稿では,エッジ支援型民主化学習機構であるEdge-DemLearnの階層的学習構造を示す。
また、Edge-DemLearnを柔軟なモデルトレーニングメカニズムとして検証し、リージョンに分散制御と集約の方法論を構築する。
論文 参考訳(メタデータ) (2020-12-01T11:46:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。