論文の概要: From Rules to Neural Graphs: Scalable Structured Prediction for Patent Prior Art Search
- arxiv url: http://arxiv.org/abs/2610.01553v1
- Date: Thu, 01 Oct 2026 12:20:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:24.108916
- Title: From Rules to Neural Graphs: Scalable Structured Prediction for Patent Prior Art Search
- Title(参考訳): ルールからニューラルグラフへ:特許先行検索のためのスケーラブルな構造化予測
- Abstract要約: 特許の検索には、通常何万ものトークンを超える文書が必要である。
グラフベースの検索は、各特許を構造化された発明グラフとして表現することでこの問題に対処する。
本稿では,特許文書から直接発明グラフを予測するために,依存解析からバイファイン注意を適応させるニューラルネットワークを提案する。
- 参考スコア(独自算出の注目度): 3.007949058551534
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Patent search requires processing documents routinely exceeding tens of thousands of tokens. Most neural retrieval approaches operate on truncated inputs, limiting their effectiveness. Graph-based retrieval addresses this by representing each patent as a structured invention graph, but constructing these graphs relies on brittle rule-based parsers. We present the neural parser, which adapts biaffine attention from dependency parsing to predict invention graphs directly from patent text. Our local biaffine attention restricts pairwise scoring to a sliding window, reducing complexity from $O(n^2)$ to $O(n \cdot w)$. Since local and global scoring share the same weights, the model trains on short sequences and deploys on documents exceeding 40,000 tokens without retraining. Distilled from 1 million rule-parsed documents, it surpasses its teacher at 3$\times$ lower inference cost: neural graphs improve citation recall by 0.5% on short queries and 1.1% on full documents in a downstream Graph Transformer retrieval system.
- Abstract(参考訳): 特許の検索には、通常何万枚ものトークンを処理しなければならない。
ほとんどのニューラル検索アプローチは、切り刻まれた入力で動作し、その有効性を制限している。
グラフベースの検索は、各特許を構造化された発明グラフとして表現することでこの問題に対処するが、これらのグラフの構築は不安定なルールベースのパーサに依存している。
本稿では, 特許文書から直接, 発明グラフを予測するために, 依存解析からバイファイン注意を適応させるニューラルパーザを提案する。
我々のローカルなバイアスアテンションは、ペアのスコアリングをスライディングウィンドウに制限し、複雑さを$O(n^2)$から$O(n \cdot w)$に減らします。
ローカルとグローバルのスコアは同じ重みを持つため、モデルは短いシーケンスでトレーニングし、再トレーニングなしで4万枚を超えるトークンを文書に展開する。
100万のルールパースされたドキュメントから切り離され、教師を3$\times$低い推論コストで上回り、ニューラルネットワークは短いクエリで0.5%改善し、下流のGraph Transformer検索システムでフルドキュメントで1.1%改善した。
関連論文リスト
- Scaffold: Support Graph Theory Based Sparsification for Graph Neural Networks [33.313101633897894]
グラフニューラルネットワークは、グラフエッジ上のメッセージパッシングに依存している。
エッジを無差別に除去することは、重要な通信構造を歪曲し、予測性能を低下させる。
トポロジに基づく教師なしグラフスパース化フレームワークであるScaffoldを紹介する。
論文 参考訳(メタデータ) (2026-09-25T16:17:09Z) - NodeFormer: A Scalable Graph Structure Learning Transformer for Node
Classification [70.51126383984555]
本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。
効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。
グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
論文 参考訳(メタデータ) (2023-06-14T09:21:15Z) - Triple Sparsification of Graph Convolutional Networks without
Sacrificing the Accuracy [4.023062108297454]
我々は、GNNにおける全てのスペーサー化を研究するために、SparseGCNパイプラインを開発した。
一般的に使用されているベンチマークグラフデータセットの精度を犠牲にすることなく、埋め込み行列に最大11.6%の間隔を追加できることを実証的に示す。
論文 参考訳(メタデータ) (2022-08-06T18:26:30Z) - Certified Graph Unlearning [39.29148804411811]
グラフ構造化データは実際にユビキタスであり、しばしばグラフニューラルネットワーク(GNN)を使用して処理される
我々は,GNNのemph認定グラフアンラーニングのための最初のフレームワークを紹介する。
ノード機能、エッジ、ノードアンラーニングの3つの異なるタイプのアンラーニング要求を検討する必要がある。
論文 参考訳(メタデータ) (2022-06-18T07:41:10Z) - DOTIN: Dropping Task-Irrelevant Nodes for GNNs [119.17997089267124]
最近のグラフ学習アプローチでは、学習のためのグラフのサイズを減らすためのプール戦略が導入されている。
我々はDOTIN(underlineDrunderlineopping underlineTask-underlineIrrelevant underlineNodes)と呼ばれる新しいアプローチを設計し、グラフのサイズを減らす。
本手法は,グラフ分類やグラフ編集距離を含むグラフレベルのタスクにおいて,GATを約50%高速化する。
論文 参考訳(メタデータ) (2022-04-28T12:00:39Z) - Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。
GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。
提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
論文 参考訳(メタデータ) (2022-03-03T09:53:53Z) - Transformation of Node to Knowledge Graph Embeddings for Faster Link
Prediction in Social Networks [2.458658951393896]
ニューラルネットワークの最近の進歩は、リンク予測、ノード分類、ノードクラスタリング、ノードレコメンデーションといった一般的なグラフ問題を解決している。
本研究では,ランダムウォーク法から得られるノード埋め込みを,計算コストを増大させることなく,知識グラフ法から直接得られる埋め込みに変換する変換モデルについて検討する。
論文 参考訳(メタデータ) (2021-11-17T04:57:41Z) - Node Feature Extraction by Self-Supervised Multi-scale Neighborhood
Prediction [123.20238648121445]
我々は、新しい自己教師型学習フレームワーク、グラフ情報支援ノード機能exTraction (GIANT)を提案する。
GIANT は eXtreme Multi-label Classification (XMC) 形式を利用しており、これはグラフ情報に基づいた言語モデルの微調整に不可欠である。
我々は,Open Graph Benchmarkデータセット上での標準GNNパイプラインよりもGIANTの方が優れた性能を示す。
論文 参考訳(メタデータ) (2021-10-29T19:55:12Z) - Large-Scale Network Embedding in Apache Spark [1.3769786711365102]
本稿では,Apache Sparkを用いた大規模グラフへのネットワーク埋め込みのための効率的かつ効率的な分散アルゴリズムを提案する。
提案手法は数時間で数十億のエッジを持つグラフを処理でき、最先端のアプローチよりも少なくとも4倍高速であることを示す。
論文 参考訳(メタデータ) (2021-06-20T04:42:24Z) - Scaling Graph Neural Networks with Approximate PageRank [64.92311737049054]
GNNにおける情報拡散の効率的な近似を利用したPPRGoモデルを提案する。
高速であることに加えて、PPRGoは本質的にスケーラブルであり、業界設定で見られるような大規模なデータセットに対して、自明に並列化することができる。
このグラフのすべてのノードに対するPPRGoのトレーニングとラベルの予測には1台のマシンで2分未満で、同じグラフ上の他のベースラインをはるかに上回ります。
論文 参考訳(メタデータ) (2020-07-03T09:30:07Z) - Heterogeneous Graph Neural Networks for Extractive Document
Summarization [101.17980994606836]
クロス文関係は、抽出文書要約における重要なステップである。
We present a graph-based neural network for extractive summarization (HeterSumGraph)
抽出文書要約のためのグラフベースニューラルネットワークに異なる種類のノードを導入する。
論文 参考訳(メタデータ) (2020-04-26T14:38:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。