論文の概要: Discovering Relationships in Data Lakes Using Large Language Models: An Industrial Case
- arxiv url: http://arxiv.org/abs/2608.26750v1
- Date: Thu, 27 Aug 2026 07:44:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.294025
- Title: Discovering Relationships in Data Lakes Using Large Language Models: An Industrial Case
- Title(参考訳): 大規模言語モデルを用いたデータレイクの関連性発見--産業事例を中心に
- Abstract要約: ColRelは、メタデータとデータの取り込み時に利用可能なカラム埋め込みを構築する。
公開ベンチマークと産業用ERPデータセットの実験は、ColRelが特に意味的に関連し、弱い信号設定に有効であることを示している。
- 参考スコア(独自算出の注目度): 0.5833117322405447
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Data lakes rely on metadata to remain usable, yet this meta data is often limited or weakly informative for column relationship discovery, especially in ERP-derived datasets with coded or abbreviated schema labels. We propose ColRel, a two-stage method that builds column embeddings from metadata and data available at ingestion time. In difficult cases, such as coded schemata, business dictionaries help better interpret column names and support the generation of short natural-language descriptions used in the second stage. Experiments on public benchmarks and an industrial ERP dataset show that ColRel is particularly effective in semantically related, weak-signal settings.
- Abstract(参考訳): データレイクはメタデータに頼って使い続けるが、このメタデータデータは列関係の発見のために制限されたり弱かったりすることが多い。
ColRelは,メタデータとデータの取り込み時に利用可能なデータから列埋め込みを構築する2段階の手法である。
コードスキーマのような難しいケースでは、ビジネス辞書はカラム名をよりよく解釈し、第2段階で使用される短い自然言語記述の生成をサポートする。
公開ベンチマークと産業用ERPデータセットの実験は、ColRelが特に意味的に関連し、弱い信号設定に有効であることを示している。
関連論文リスト
- TACO: Task-Aware Column Description Generation Using LLMs [21.74596076142191]
大規模言語モデル(LLM)を用いた自動列記述生成のためのタスク認識フレームワークTACOを提案する。
大規模な実験の結果、TACOは既存の手法を一貫して上回り、ダウンストリームタスクのパフォーマンスを最大32%向上させた。
論文 参考訳(メタデータ) (2026-06-19T18:49:56Z) - CAE: Character-Level Autoencoder for Non-Semantic Relational Data Grouping [0.9595254895337946]
本稿では,非意味的関係データセットにおいて,意味論的に同一の列を自動的に識別し,グループ化する新しい文字レベルオートエンコーダ(CAE)手法を提案する。
意味的解釈可能性の制限に苦しむ従来の自然言語処理(NLP)モデルとは異なり、我々の手法は固定辞書制約で文字レベルで動作する。
固定辞書サイズを維持することにより、メモリ要件とトレーニング時間の両方を著しく削減し、大規模産業データ環境の効率的な処理を可能にする。
論文 参考訳(メタデータ) (2025-11-10T22:07:22Z) - Schema Inference for Tabular Data Repositories Using Large Language Models [12.626848016550051]
本稿では,カラムヘッダとセル値のみを用いて,データに対する簡潔な概念スキーマを推論するSI-LLMを提案する。
SI-LLMは有望なエンドツーエンドの結果を達成し、各ステップにおける最先端のメソッドよりも良いか同等の結果が得られる。
論文 参考訳(メタデータ) (2025-09-04T19:50:16Z) - Beyond Isolated Dots: Benchmarking Structured Table Construction as Deep Knowledge Extraction [80.88654868264645]
Arranged and Organized extract Benchmarkは、断片化された文書を理解するための大規模言語モデルの能力を評価するために設計された。
AOEには3つの異なるドメインにまたがる11のタスクが含まれており、さまざまな入力クエリに適したコンテキスト固有のスキーマを生成するモデルが必要である。
結果は、最も先進的なモデルでさえ、かなり苦労したことを示している。
論文 参考訳(メタデータ) (2025-07-22T06:37:51Z) - Large Language Models are Good Relational Learners [55.40941576497973]
本稿では,グラフニューラルネットワーク(GNN)に基づくエンコーダを用いて,大規模言語モデル(LLM)のための構造化リレーショナルプロンプトを生成する新しいアーキテクチャであるRel-LLMを紹介する。
従来のテキストベースのシリアライズ手法とは異なり,本手法はデータベース固有の関係構造を保ちながら,LLMが複雑なエンティティ関係を処理・推論することを可能にする。
論文 参考訳(メタデータ) (2025-06-06T04:07:55Z) - UNJOIN: Enhancing Multi-Table Text-to-SQL Generation via Schema Simplification [50.59009084277447]
論理生成からスキーマ要素の検索を分離するフレームワークUNJOINを紹介する。
最初の段階では、各列をテーブル名でプレフィックスすることで、データベース内のすべてのテーブルの列名を単一のテーブル表現にマージします。
第2段階では、クエリは、この単純化されたスキーマに基づいて生成され、JOIN、UNION、リレーショナルロジックを再構築することで、元のスキーマにマップされる。
論文 参考訳(メタデータ) (2025-05-23T17:28:43Z) - NameGuess: Column Name Expansion for Tabular Data [28.557115822407294]
我々は列名を自然言語生成問題として拡張するための新しいタスクであるNameGuessを紹介した。
384K短縮カラムペアのトレーニングデータセットを作成します。
表の内容や列のヘッダー名を条件にすることで、自動回帰言語モデルを強化する。
論文 参考訳(メタデータ) (2023-10-19T23:11:37Z) - Matching Table Metadata with Business Glossaries Using Large Language
Models [18.1687301652456]
データラベルと記述を含むビジネス用語集とテーブルメタデータをマッチングする問題について検討する。
結果として得られるマッチングにより、データコンテンツへのアクセスを要求しなくても、検索および分析に利用可能な、または、キュレートされたビジネス用語集を使用できる。
大規模言語モデル(LLM)のパワーを活用して,手動チューニングを必要としない汎用的なマッチング手法を設計する。
論文 参考訳(メタデータ) (2023-09-08T02:23:59Z) - Neural Label Search for Zero-Shot Multi-Lingual Extractive Summarization [80.94424037751243]
ゼロショット多言語抽出テキスト要約では、通常、モデルは英語のデータセットに基づいて訓練され、他の言語の要約データセットに適用される。
本研究では,NLS(Neural Label Search for Summarization)を提案する。
我々はMLSUMとWikiLinguaのデータセット上で多言語ゼロショット要約実験を行い、人間と自動両方の評価を用いて最先端の結果を得る。
論文 参考訳(メタデータ) (2022-04-28T14:02:16Z) - Deep Graph Matching and Searching for Semantic Code Retrieval [76.51445515611469]
本稿では,グラフニューラルネットワークに基づくエンドツーエンドのディープグラフマッチングと探索モデルを提案する。
まず、自然言語クエリテキストとプログラミング言語のコードスニペットをグラフ構造化データで表現する。
特に、DGMSは、個々のクエリテキストやコードスニペットのより構造的な情報をキャプチャするだけでなく、それらの微妙な類似性も学習する。
論文 参考訳(メタデータ) (2020-10-24T14:16:50Z) - DART: Open-Domain Structured Data Record to Text Generation [91.23798751437835]
82k以上のインスタンス(DART)を持つオープンドメイン構造化DAta Record to Text生成データセットであるDARTを提案する。
本稿では,テーブルヘッダとテーブルタイトル間の意味的依存関係を利用して,その構造を符号化するテーブルから意味的三重項を抽出する手法を提案する。
我々のデータセット構築フレームワークは、オープンドメイン意味解析と対話行動に基づく意味表現タスクからヘテロジニアスソースを効果的に統合する。
論文 参考訳(メタデータ) (2020-07-06T16:35:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。