論文の概要: Pointer-Augmented Autoregressive Generation of Patent Claims with Joint Topology and Content Decoding
- arxiv url: http://arxiv.org/abs/2607.24040v1
- Date: Mon, 27 Jul 2026 06:27:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.329065
- Title: Pointer-Augmented Autoregressive Generation of Patent Claims with Joint Topology and Content Decoding
- Title(参考訳): コンテントデコードとトポロジを併用したポインター強化自己回帰生成
- Abstract要約: 本稿では,自己回帰パス内のトポロジを予測するSPG(Structure-aware Patent Generation)を提案する。
ポインタヘッドは、それぞれの依存するクレームの親と勾配を選択し、深さ適応スコープ正規化器とともに共有デコーダの表現を再設定する。
HUPD-DCGでは、Llama-3-8B-Instruct上のSPGは79.0%の金の親リンクを回復する。
- 参考スコア(独自算出の注目度): 28.744574282487225
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autoregressive decoders emit flat token sequences and cannot enforce hierarchical constraints across output segments, a limitation that becomes acute in patent claim generation, where a claim set forms a dependency forest whose scope must narrow monotonically with depth. Topology and content are mutually dependent: a dependent claim's wording must reflect its parent's scope, yet the parent must be chosen before that wording exists, so neither post-hoc parsing nor grammar-constrained decoding suffices. We propose SPG (Structure-aware Patent Generation), which predicts topology inside the autoregressive pass. A pointer head selects each dependent claim's parent, and its gradients, together with a depth-adaptive scope regularizer, reshape the shared decoder's representations during training. A second stage then applies a violation-weighted preference objective over self-generated deficient candidates, supplying the negative signal that granted-patent corpora lack. On HUPD-DCG, SPG on Llama-3-8B-Instruct recovers 79.0\% of gold parent links, a quantity its training reward never supervises, and raises antecedent consistency from 0.292 to 0.478 over a supervised baseline of equal scale, with expert evaluation corroborating these gains.
- Abstract(参考訳): 自己回帰デコーダは平らなトークンシーケンスを出力セグメント間で階層的制約を課すことができない。これは特許クレーム生成において急激な制限であり、クレームセットが1つの依存性の森を形成し、その範囲は深さとともに単調に狭めなければならない。
従属クレームの言葉は親のスコープを反映しなければならないが、その単語が存在する前に親は選択されなければならない。
本稿では,自己回帰パス内のトポロジを予測するSPG(Structure-aware Patent Generation)を提案する。
ポインタヘッドは、各依存するクレームの親と勾配を、深さ適応スコープ正規化器と共に選択し、トレーニング中に共有デコーダの表現を再構成する。
次に、第2段階は、自己生成の欠陥のある候補に対して違反重み付けされた選好目標を適用し、付与されたコーパスが欠落する負の信号を供給する。
HUPD-DCG では、Llama-3-8B-Instruct 上の SPG は 79.0\% の金の親リンクを回復し、そのトレーニング報酬は決して監督されない。
関連論文リスト
- Structuring Semantic Embeddings for Principle Evaluation: A Prototype-Guided Contrastive Learning Approach [58.15427952222424]
汎用的なテキスト埋め込みはそのようなタスクに広くデプロイされているが、意味的類似性は意味的に似ているがタスク固有の例を示すことができる。
本稿では,凍結したテキスト埋め込み上に構築された幾何正規化モジュールであるPGCL(Prototype-Guided Contrastive Learning)を紹介する。
論文 参考訳(メタデータ) (2026-08-15T13:19:25Z) - Detecting Hallucinations in Retrieval-Augmented Generation through Grounding-Aware Sensitivity by Perturbation (GASP) [1.827510863075184]
Grounding-Aware Sensitivity by Perturbation (GASP) は、抽出された証拠にどれだけ強く依存するかによって、各回答文をスコアするスパンレベル検出器である。
GASPは、完全なコンテキスト下で修正され、コンテキストなしで再スコアされ、各チャンクが削除された後、ログライクなドロップとJensen-Shannonの発散を測定する。
2つのモデルファミリーの3つのインストラクションチューニングスコアを用いた3つのベンチマーク(RAGTruth, TofuEval, RAGBench)でGASPを評価する。
論文 参考訳(メタデータ) (2026-07-05T10:35:30Z) - C$^{2}$R: Cross-sample Consistency Regularization Mitigates Feature Splitting and Absorption in Sparse Autoencoders [56.67585330425431]
スパースオートエンコーダ(SAE)は、アクティベーションをスパースで人間の理解可能な機能に分解することで、大きな言語モデルを解釈するために広く使われている。
これらの問題は、サンプル間の一貫性のない潜在的な割り当てに起因している。
我々はC$2$Rを導入し、これは方向的に類似した潜伏剤の共活性化を罰する。
論文 参考訳(メタデータ) (2026-06-29T17:45:31Z) - Ghost: Plausible Yet Unlearnable Trajectories via On-Manifold Substitution for Next-POI Privacy [34.07056031726073]
チェックイントラジェクトリをリリースするパブリッシャは、ユーザの将来位置の強い予測器を不注意に公開する。
このリスクに対処するために、クリーンなテスト入力に対して次点次点(next-POI)の精度を低下させた被害者モデルを生成する、学習不能なトラジェクトリ、摂動シーケンスを生成する。
我々はGhostを提案する。Ghostは、摂動が人間のチェックインシーケンスのように見えるが、学習可能な信号は残っていない。
論文 参考訳(メタデータ) (2026-06-02T14:31:14Z) - Benchmarking Recursive-Collapse Warning Claims Under Matched False-Positive Control [0.0]
再帰的なシステムは、過度な失敗が見える前に、崩壊のような状態に入ることができる。
障害が指向性テレメトリパターンに従うかどうかをテストするためのクレームバウンド型ベンチマークフレームワークであるLoopzeroを紹介した。
凍結した2つの公開アーティファクトベンチマークのブリッジを評価する。
論文 参考訳(メタデータ) (2026-05-29T20:12:42Z) - PHAGE: Patent Heterogeneous Attention-Guided Graph Encoder for Representation Learning [34.811071993895304]
特許クレームは、従属クレームが以前のクレームの範囲を継承し、洗練する有向依存構造を形成する。
以前の特許エンコーダは、請求をテキストとしてリニアライズし、この階層を捨てた。
PHAGEは2つの課題に対処する: クレーム依存関係はセマンティクスと抽出信頼性が異なる関係タイプを混合する。
接続マスクと学習可能な関係認識バイアスによって、クレームレベルのトポロジをトークンレベルの注意に高める。
論文 参考訳(メタデータ) (2026-05-11T06:54:44Z) - TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。
我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。
我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
論文 参考訳(メタデータ) (2026-04-30T13:44:01Z) - LatticeBridge: Rare-Event Sequential Inference for Faithful Structured Sequence Synthesis [0.5729426778193398]
構造的シーケンス生成は、1つの出力で複数の入力由来の制約を満たすためにモデルを必要とすることが多い。
LatticeBridgeは、コンパクトなプレフィックス言語モデル、インスタンスコンパイルされたサーフェスオートマトン、およびねじれたシーケンシャルなモンテカルロデコーダを組み合わせる。
LatticeBridgeは正確なアンカー満足度と平均アンカーカバレッジを向上させる。
論文 参考訳(メタデータ) (2026-04-22T09:24:25Z) - IMPACT-CYCLE: A Contract-Based Multi-Agent System for Claim-Level Supervisory Correction of Long-Video Semantic Memory [73.22944697933603]
既存のパイプラインは不透明でエンドツーエンドの出力を生成し、検査の中間状態は公開しない。
IMPACT-Cycleは,マルチモーダル反復クレームレベルのメンテナンスとして,長時間ビデオ理解を再構築するマルチエージェントシステムである。
論文 参考訳(メタデータ) (2026-04-22T03:03:33Z) - Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。
損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。
視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。
言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
論文 参考訳(メタデータ) (2026-03-20T02:07:10Z) - ReCALL: Recalibrating Capability Degradation for MLLM-based Composed Image Retrieval [64.14282916266998]
Composed Image Retrievalは、参照画像と修正テキストからなるハイブリッドクエリに基づいてターゲット画像を取得することを目的としている。
本稿では,診断・生成・再定義パイプラインに従うモデルに依存しないフレームワークであるReCALLを提案する。
CIRRとFashionIQの実験では、ReCALLは継続的に劣化した機能を再検討し、最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2026-02-02T04:52:54Z) - Derailing Non-Answers via Logit Suppression at Output Subspace Boundaries in RLHF-Aligned Language Models [0.0]
モデル重みやプロンプトを変更することなく、センシティブなコンテンツに対する大言語モデル(LLM)の拒絶率を低減する手法を提案する。
特定のモデルの拒絶は、しばしばトークンの特定のトークンシーケンスによってもたらされた、という観察によって動機づけられた。
この結果から, 退避行動は, 生成過程の特定の点において, 退避部分空間をブロックすることによって回避できる可能性が示唆された。
論文 参考訳(メタデータ) (2025-05-28T20:25:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。