論文の概要: Construction of Historical Knowledge Graphs Based on BERT and Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2606.01747v1
- Date: Mon, 01 Jun 2026 06:10:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:31.410269
- Title: Construction of Historical Knowledge Graphs Based on BERT and Graph Neural Networks
- Title(参考訳): BERTとグラフニューラルネットワークに基づく歴史知識グラフの構築
- Authors: Ping Li, Bartlomiej Brzozka,
- Abstract要約: 本稿では,変換器(BERT)とグラフニューラルネットワーク(GNN)のエンコーダ双方向表現を組み合わせた高レベルアーキテクチャを提案する。
伝統的な歴史のテキストは言語的曖昧さ、文脈によって制限された参照、体系的な方法で確立された文法規範の欠如を解決している。
この実験は、自治体の記録、議会文書、歴史文書の総合的な収集を全面的に活用している。
- 参考スコア(独自算出の注目度): 6.470944338393257
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Through digital humanities research and scale-up historical data analysis, a significant amount of traditional historical text is converted into structured knowledge graphs. This paper provides a high-level architecture that combines bidirectional encoder representations of transformers (BERT) and graph neural networks (GNN) to extract the entities and relationships from various types of historical texts. The texts of traditional history resolve linguistic ambiguities, references limited by context, and a lack of established grammatical norms in a systematic way. This study develops a new image retrieval system based on FastRQNet and pre-trained vision-language model Vilt-qaformer+RoBInet in accordance with the aforementioned recommendations. The experiments make full use of a comprehensive collection of municipal records, parliamentary documents, and historical correspondence. When compared to conventional rule-based techniques and other popular deep-learning baselines, the joint BERT-GNN system obtains greater Precision, Recall, and F1-score (Table 2). Complex nested structures and implicit reference issues can be handled by this structure with sufficient accuracy and thoroughness when creating knowledge graphs. The aforementioned experiments show that combining relational graph learning algorithms with context-sensitive semantic representation techniques can automatically extract historical data to add accumulated wisdom to the knowledge repository.
- Abstract(参考訳): デジタル人文科学研究と大規模歴史データ分析を通じて、膨大な量の歴史的テキストが構造化知識グラフに変換される。
本稿では,変換器 (BERT) とグラフニューラルネットワーク (GNN) の双方向エンコーダ表現を組み合わせた高レベルのアーキテクチャを提案する。
伝統的な歴史のテキストは言語的曖昧さ、文脈によって制限された参照、体系的な方法で確立された文法規範の欠如を解決している。
本研究では,FastRQNetと事前学習型視覚言語モデルであるVilt-qaformer+RoBInetに基づく画像検索システムを開発した。
この実験は、自治体の記録、議会文書、歴史文書の総合的な収集を全面的に活用している。
従来のルールベースの手法や他の一般的なディープラーニングベースラインと比較して、BERT-GNNシステムはより高精度、リコール、F1スコア(Table 2)を得る。
複雑なネスト構造と暗黙の参照問題は、知識グラフを作成する際に十分な正確さと徹底性でこの構造によって処理できる。
上記の実験により、関係グラフ学習アルゴリズムと文脈依存意味表現技術を組み合わせることで、履歴データを自動抽出し、知識リポジトリに蓄積した知恵を付加できることが示されている。
関連論文リスト
- KGPFN: Unlocking the Potential of Knowledge Graph Foundation Model via In-Context Learning [51.44698654440413]
知識グラフ(KG)基盤モデルは、伝達可能な関係構造を学習することによって、目に見えない実体と関係を持つグラフを一般化することを目的としている。
そこで我々は,KGPFNを提案する。KGPFN,KGPFN,KGPFN,KGPFN,KGPFN,KGPFN,KGPFN,KGPFN,KGPFN。
57KGベンチマークの実験では、KGPFNは、文脈内学習だけで、これまで見られなかったグラフに強く適応することを示した。
論文 参考訳(メタデータ) (2026-05-14T14:41:19Z) - CADGE: Context-Aware Dialogue Generation Enhanced with Graph-Structured Knowledge Aggregation [25.56539617837482]
コンテキスト対応グラフアテンションモデル(Context-aware GAT)を提案する。
これは、コンテキスト強化された知識集約機構を通じて、関連する知識グラフからグローバルな特徴を同化する。
実験により,本フレームワークは従来のGNNベース言語モデルよりも性能が優れていることが示された。
論文 参考訳(メタデータ) (2023-05-10T16:31:35Z) - KELM: Knowledge Enhanced Pre-Trained Language Representations with
Message Passing on Hierarchical Relational Graphs [26.557447199727758]
本稿では,微調整プロセスに基づく知識認識型言語モデルフレームワークを提案する。
我々のモデルは、KGからの世界知識をBERTのような既存の言語モデルに効率的に組み込むことができる。
論文 参考訳(メタデータ) (2021-09-09T12:39:17Z) - GraphFormers: GNN-nested Transformers for Representation Learning on
Textual Graph [53.70520466556453]
階層的にGNNコンポーネントを言語モデルのトランスフォーマーブロックと一緒にネストするGraphFormerを提案する。
提案したアーキテクチャでは、テキストエンコーディングとグラフ集約を反復的なワークフローに融合する。
さらに、プログレッシブ・ラーニング・ストラテジーを導入し、そのモデルが操作されたデータと元のデータに基づいて連続的に訓練され、グラフ上の情報を統合する能力を強化する。
論文 参考訳(メタデータ) (2021-05-06T12:20:41Z) - ENT-DESC: Entity Description Generation by Exploring Knowledge Graph [53.03778194567752]
実際には、出力記述が最も重要な知識のみをカバーするため、入力知識は十分以上である可能性がある。
我々は、KG-to-textにおけるこのような実践的なシナリオの研究を容易にするために、大規模で挑戦的なデータセットを導入する。
本稿では,元のグラフ情報をより包括的に表現できるマルチグラフ構造を提案する。
論文 参考訳(メタデータ) (2020-04-30T14:16:19Z) - Exploiting Structured Knowledge in Text via Graph-Guided Representation
Learning [73.0598186896953]
本稿では、知識グラフからのガイダンスを用いて、生テキスト上で学習する2つの自己教師型タスクを提案する。
エンティティレベルのマスキング言語モデルに基づいて、最初のコントリビューションはエンティティマスキングスキームです。
既存のパラダイムとは対照的に,本手法では事前学習時にのみ,知識グラフを暗黙的に使用する。
論文 参考訳(メタデータ) (2020-04-29T14:22:42Z) - Improved Code Summarization via a Graph Neural Network [96.03715569092523]
一般に、ソースコード要約技術はソースコードを入力として使用し、自然言語記述を出力する。
これらの要約を生成するために、ASTのデフォルト構造によくマッチするグラフベースのニューラルアーキテクチャを使用するアプローチを提案する。
論文 参考訳(メタデータ) (2020-04-06T17:36:42Z) - Generative Adversarial Zero-Shot Relational Learning for Knowledge
Graphs [96.73259297063619]
我々は、この厄介なキュレーションを解放するために、新しい定式化、ゼロショット学習を考える。
新たに追加された関係について,テキスト記述から意味的特徴を学習しようと試みる。
我々は,GAN(Generative Adrial Networks)を活用し,テキストと知識グラフ領域の接続を確立する。
論文 参考訳(メタデータ) (2020-01-08T01:19:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。