論文の概要: Linguistic and Structural Basis of Engineering Design Knowledge
- arxiv url: http://arxiv.org/abs/2312.06355v2
- Date: Tue, 16 Jan 2024 13:35:20 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-18 00:10:07.207599
- Title: Linguistic and Structural Basis of Engineering Design Knowledge
- Title(参考訳): 工学設計知識の言語的・構造的基礎
- Authors: L. Siddharth, Jianxi Luo
- Abstract要約: 我々は,33,881件の特許文書の膨大なサンプルから,知識グラフとしてのエンジニアリング設計知識を抽出する。
言語基盤の観点では、実体と関係性は64と24の言語構文に一般化できる。
構造的基盤を理解するため,生物・生態ネットワークに関する様々な研究からインスピレーションを得た。
- 参考スコア(独自算出の注目度): 2.06682776181122
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artefact descriptions are the primary carriers of engineering design
knowledge that is both an outcome and a driver of the design process. While an
artefact could be described in different connotations, the design process
requires a description to embody engineering design knowledge, which is
expressed in the text through intricate placement of entities and
relationships. As large-language models learn from all kinds of text merely as
a sequence of characters/tokens, these are yet to generate text that embodies
explicit engineering design facts. Existing ontological design theories are
less likely to guide the large-language models whose applications are currently
limited to ideation and learning purposes. In this article, we explicate
engineering design knowledge as knowledge graphs from a large sample of 33,881
patent documents. We examine the constituents of these knowledge graphs to
understand the linguistic and structural basis of engineering design knowledge.
In terms of linguistic basis, we observe that entities and relationships could
be generalised to 64 and 24 linguistic syntaxes. While relationships mainly
capture attributes ('of'), structure ('in', 'with'), purpose ('to', 'for'),
hierarchy ('include'), exemplification ('such as'), and behaviour ('to',
'from'), the hierarchical relationships could specifically be identified using
75 unique syntaxes. To understand the structural basis, we draw inspiration
from various studies on biological/ecological networks and discover motifs from
patent knowledge graphs. We identify four 3-node and four 4-node patterns that
could further be converged and simplified into sequence [->...->], aggregation
[->...<-], and hierarchy [<-...->]. Expected to guide large-language model
based design tools, we propose few regulatory precepts for concretising
abstract entities and relationships within subgraphs, while explicating
hierarchical structures.
- Abstract(参考訳): アーティファクト記述(Artefact descriptions)は、設計プロセスの成果とドライバの両方であるエンジニアリング設計知識の主要なキャリアである。
アーティファクトは異なる意味で記述できるが、設計プロセスは、エンティティと関係の複雑な配置を通じてテキストで表現されるエンジニアリング設計の知識を具現化する記述を必要とする。
大言語モデルは、文字/文字のシーケンスとしてのみ、あらゆる種類のテキストから学習するので、これらはまだ明示的なエンジニアリングデザインの事実を具現化するテキストを生成していない。
既存の存在論的設計理論は、アイデアや学習目的に制限されている大規模言語モデルを導く可能性が低い。
本稿では,33,881件の特許文書から工学的設計知識を知識グラフとして解説する。
工学設計知識の言語的・構造的基礎を理解するために,これらの知識グラフの構成式を検討する。
言語基盤の観点からは、実体と関係を64と24の言語構文に一般化することができる。
主に属性('in'、'with')、構造('in'、'with')、目的('to'、'for')、階層('include')、例示(' such')、行動('to'、'from')をキャプチャするが、階層的な関係は75のユニークな構文を用いて明確に識別できる。
構造的基盤を理解するため,生物・生態ネットワークの研究からインスピレーションを得て,特許知識グラフからモチーフを発見する。
4つの3ノードパターンと4つの4ノードパターンを、さらに収束して、シーケンス [->...->]、アグリゲーション [->...<-]、階層 [<-...->] に単純化することができる。
大規模言語モデルに基づく設計ツールの指針として,階層構造を解明しつつ,抽象エンティティやサブグラフ内の関係を拡大するための規制規範をほとんど提案しない。
関連論文リスト
- How Do Transformers Learn Topic Structure: Towards a Mechanistic
Understanding [56.222097640468306]
我々は、トランスフォーマーが「意味構造」を学ぶ方法の機械的理解を提供する
数学的解析とウィキペディアデータの実験を組み合わせることで、埋め込み層と自己保持層がトピック構造をエンコードしていることを示す。
論文 参考訳(メタデータ) (2023-03-07T21:42:17Z) - Joint Language Semantic and Structure Embedding for Knowledge Graph
Completion [66.15933600765835]
本稿では,知識三重項の自然言語記述と構造情報とを共同で組み込むことを提案する。
本手法は,学習済み言語モデルを微調整することで,完了作業のための知識グラフを埋め込む。
各種知識グラフベンチマーク実験により,本手法の最先端性能を実証した。
論文 参考訳(メタデータ) (2022-09-19T02:41:02Z) - Integrating Knowledge Graph embedding and pretrained Language Models in
Hypercomplex Spaces [29.71047521165222]
我々は、単一モジュラリティの既存の強表現の上に構築し、(i)単一モジュラリティ埋め込みと(ii)異なるモジュラリティ間の相互作用を表現するために超複素代数を使用する。
より具体的には、4次元超複素数のディヘドロンと四元数表現を、構造知識グラフの埋め込み、単語レベルの表現、文書レベルの表現という4つのモダリティを統合するよう提案する。
我々の統一ベクトル表現はハミルトン積とディヘドロン積を通じてラベル付きエッジの可算性を評価し、異なるモジュラリティ間のペアワイズ相互作用をモデル化する。
論文 参考訳(メタデータ) (2022-08-04T16:18:16Z) - One-shot Scene Graph Generation [130.57405850346836]
ワンショットシーングラフ生成タスクに対して,複数の構造化知識(関係知識知識)を提案する。
提案手法は既存の最先端手法よりも大きなマージンで優れる。
論文 参考訳(メタデータ) (2022-02-22T11:32:59Z) - Entity Context Graph: Learning Entity Representations
fromSemi-Structured Textual Sources on the Web [44.92858943475407]
エンティティ中心のテキスト知識ソースを処理してエンティティ埋め込みを学ぶアプローチを提案する。
私たちのアプローチから学んだ埋め込みは、(i)高品質で、既知の知識グラフベースの埋め込みに匹敵し、それらをさらに改善するために使用することができます。
論文 参考訳(メタデータ) (2021-03-29T20:52:14Z) - Fusing Context Into Knowledge Graph for Commonsense Reasoning [21.33294077354958]
外部エンティティ記述を利用して,グラフエンティティのコンテキスト情報を提供する。
CommonsenseQAタスクでは、まず質問と選択から概念を抽出し、これらの概念の間に関連するトリプルを見つけます。
CommonsenseQAデータセットでは、80.7%(シングルモデル)と83.3%(アンサンブルモデル)の精度で最新の結果を達成しています。
論文 参考訳(メタデータ) (2020-12-09T00:57:49Z) - Modelling Compositionality and Structure Dependence in Natural Language [0.12183405753834563]
言語学と集合論に基づいて、これらの概念の形式化がこの論文の前半で述べられている。
言語処理を行う認知システムは,特定の機能的制約を持つ必要がある。
単語埋め込み技術の進歩を利用して、関係学習のモデルがシミュレートされる。
論文 参考訳(メタデータ) (2020-11-22T17:28:50Z) - ENT-DESC: Entity Description Generation by Exploring Knowledge Graph [53.03778194567752]
実際には、出力記述が最も重要な知識のみをカバーするため、入力知識は十分以上である可能性がある。
我々は、KG-to-textにおけるこのような実践的なシナリオの研究を容易にするために、大規模で挑戦的なデータセットを導入する。
本稿では,元のグラフ情報をより包括的に表現できるマルチグラフ構造を提案する。
論文 参考訳(メタデータ) (2020-04-30T14:16:19Z) - Structure-Augmented Text Representation Learning for Efficient Knowledge
Graph Completion [53.31911669146451]
人為的な知識グラフは、様々な自然言語処理タスクに重要な支援情報を提供する。
これらのグラフは通常不完全であり、自動補完を促す。
グラフ埋め込みアプローチ(例えばTransE)は、グラフ要素を密度の高い埋め込みに表現することで構造化された知識を学ぶ。
テキストエンコーディングアプローチ(KG-BERTなど)は、グラフトリプルのテキストとトリプルレベルの文脈化表現を利用する。
論文 参考訳(メタデータ) (2020-04-30T13:50:34Z) - Exploiting Structured Knowledge in Text via Graph-Guided Representation
Learning [73.0598186896953]
本稿では、知識グラフからのガイダンスを用いて、生テキスト上で学習する2つの自己教師型タスクを提案する。
エンティティレベルのマスキング言語モデルに基づいて、最初のコントリビューションはエンティティマスキングスキームです。
既存のパラダイムとは対照的に,本手法では事前学習時にのみ,知識グラフを暗黙的に使用する。
論文 参考訳(メタデータ) (2020-04-29T14:22:42Z) - Dependently Typed Knowledge Graphs [4.157595789003928]
本稿では,標準セマンティックWeb技術(RDFとそのクエリ言語SPARQL)を依存型理論と統一的に再現する方法を示す。
知識グラフの基本機能を提供するのに加えて、依存型はエンティティとクエリの両方をエンコードする表現力を与えます。
論文 参考訳(メタデータ) (2020-03-08T14:04:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。