論文の概要: PHAGE: Patent Heterogeneous Attention-Guided Graph Encoder for Representation Learning
- arxiv url: http://arxiv.org/abs/2605.10073v1
- Date: Mon, 11 May 2026 06:54:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.582949
- Title: PHAGE: Patent Heterogeneous Attention-Guided Graph Encoder for Representation Learning
- Title(参考訳): PHAGE:表現学習のための特許不均一注意誘導グラフエンコーダ
- Authors: Yongmin Yoo, Qiongkai Xu, Zhangkai Wu, Longbing Cao,
- Abstract要約: 特許クレームは、従属クレームが以前のクレームの範囲を継承し、洗練する有向依存構造を形成する。
以前の特許エンコーダは、請求をテキストとしてリニアライズし、この階層を捨てた。
PHAGEは2つの課題に対処する: クレーム依存関係はセマンティクスと抽出信頼性が異なる関係タイプを混合する。
接続マスクと学習可能な関係認識バイアスによって、クレームレベルのトポロジをトークンレベルの注意に高める。
- 参考スコア(独自算出の注目度): 34.811071993895304
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Patent claims form a directed dependency structure in which dependent claims inherit and refine the scope of earlier claims; however, existing patent encoders linearize claims as text and discard this hierarchy. Directly encoding this structure into self-attention poses two challenges: claim dependencies mix relation types that differ in semantics and extraction reliability, and the dependency graph is defined over claims while Transformers attend over tokens. PHAGE addresses the first challenge through a deterministic graph construction pipeline that separates near-deterministic legal citations from noisier rule-based technical relations, preserving type distinctions as heterogeneous edges. It addresses the second through a connectivity mask and learnable relation-aware biases that lift claim-level topology into token-level attention, allowing the encoder to differentially weight each relation type. A dual-granularity contrastive objective then aligns representations with both inter-patent taxonomy and intra-patent topology. PHAGE outperforms all baselines on classification, retrieval, and clustering, showing that intra-document claim topology is a stronger inductive bias than inter-document structure and that this bias persists in the encoder weights after training.
- Abstract(参考訳): しかし、既存の特許エンコーダは、請求をテキストとして線形化し、この階層を破棄する。
クレーム依存はセマンティクスと抽出信頼性が異なる関係型を混合し、依存グラフはクレームよりも定義され、トランスフォーマーはトークンよりも参加する。
PHAGEは、決定論的グラフ構築パイプラインを通じて、よりノイズの多い規則に基づく技術的関係からほぼ決定論的法的な引用を分離し、型区別を異質なエッジとして保存する、という最初の課題に対処する。
接続マスクと学習可能なリレーショナル・アウェア・バイアスを通じて2番目の問題に対処し、クレームレベルのトポロジをトークンレベルの注意に引き上げ、エンコーダがそれぞれの関係タイプを差分重み付けできるようにする。
二重粒度の対照的な目的は、接点内トポロジーと接点内トポロジーの両方で表わされる。
PHAGEは、分類、検索、クラスタリングにおいて全てのベースラインを上回り、文書内クレームトポロジーがドキュメント間構造よりも強い帰納バイアスであり、トレーニング後のエンコーダ重みにこのバイアスが持続することを示す。
関連論文リスト
- Weight-Informed Self-Explaining Clustering for Mixed-Type Tabular Data [63.62853416081748]
WISEは表現、特徴重み付け、クラスタリング、解釈を統一するフレームワークである。
クラスタリングを駆動する同じプリミティブに根ざした、忠実で人間解釈可能な説明を生成する。
論文 参考訳(メタデータ) (2026-04-07T13:18:31Z) - Graph Alignment via Dual-Pass Spectral Encoding and Latent Space Communication [31.43539830271355]
本稿では,ノードの特異性を同時に強化し,潜在空間間の幾何的整合性を実現する新しいグラフアライメントフレームワークを提案する。
提案手法では,低域通過スペクトルフィルタと高域通過スペクトルフィルタを組み合わせたデュアルパスエンコーダを導入し,構造認識と高判別の両方が可能な埋め込みを生成する。
論文 参考訳(メタデータ) (2025-09-11T16:36:16Z) - StructCoh: Structured Contrastive Learning for Context-Aware Text Semantic Matching [10.000850856259866]
StructCohはグラフ強化のコントラスト学習フレームワークである。
階層的な対照的な目的は、複数の粒度で一貫性を強制する。
3つの法的な文書マッチングベンチマークと学術的プラジャリズム検出データセットの実験は、大幅な改善を示している。
論文 参考訳(メタデータ) (2025-09-02T07:21:36Z) - DART: Dual Adaptive Refinement Transfer for Open-Vocabulary Multi-Label Recognition [59.203152078315235]
Open-Vocabulary Multi-Label Recognition (OV-MLR)は、画像内の複数の見えないオブジェクトカテゴリを識別することを目的としている。
ビジョンランゲージ事前学習モデルは強力なオープン語彙基盤を提供するが、弱い監督下では微粒な局所化に苦慮する。
本稿では,これらの制約を克服するためのDART(Dual Adaptive Refinement Transfer)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-07T17:22:33Z) - Bidirectional Logits Tree: Pursuing Granularity Reconcilement in Fine-Grained Classification [89.20477310885731]
本稿では,粒度分類タスクにおけるグラニュラリティコンペティションの課題について述べる。
既存のアプローチは通常、共通のベースエンコーダから抽出された共有特徴に基づいて、独立した階層認識モデルを開発する。
グラニュラリティ再構成のための双方向ロジットツリー(BiLT)と呼ばれる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-17T10:42:19Z) - Deep Regression Representation Learning with Topology [57.203857643599875]
回帰表現の有効性は,そのトポロジによってどのように影響されるかを検討する。
本稿では,特徴空間の内在次元と位相を対象空間と一致させる正則化器PH-Regを紹介する。
合成および実世界の回帰タスクの実験はPH-Regの利点を示している。
論文 参考訳(メタデータ) (2024-04-22T06:28:41Z) - A Semantic Mention Graph Augmented Model for Document-Level Event Argument Extraction [12.286432133599355]
Document-level Event Argument extract (DEAE)は、構造化されていないドキュメントから引数とその特定の役割を特定することを目的としている。
DEAEの先進的なアプローチは、事前訓練された言語モデル(PLM)を誘導するプロンプトベースの手法を用いて、入力文書から引数を抽出する。
本稿では,この2つの問題に対処するために,グラフ拡張モデル (GAM) のセマンティック言及を提案する。
論文 参考訳(メタデータ) (2024-03-12T08:58:07Z) - DiscoPrompt: Path Prediction Prompt Tuning for Implicit Discourse
Relation Recognition [27.977742959064916]
本稿では,IDRRにおける階層間の対話的情報と本質的な感覚を利用するために,プロンプトに基づく経路予測手法を提案する。
これは、プロンプトチューニングを通じて事前訓練された言語モデルにそのような構造情報を注入する最初の作品である。
論文 参考訳(メタデータ) (2023-05-06T08:16:07Z) - Transformer-based Dual Relation Graph for Multi-label Image Recognition [56.12543717723385]
本稿では,トランスフォーマーをベースとしたデュアルリレーショナル学習フレームワークを提案する。
相関の2つの側面、すなわち構造関係グラフと意味関係グラフについて検討する。
提案手法は,2つのポピュラーなマルチラベル認識ベンチマークにおいて,最先端性を実現する。
論文 参考訳(メタデータ) (2021-10-10T07:14:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。