論文の概要: Anticipating Innovation Using Large Language Models
- arxiv url: http://arxiv.org/abs/2605.04875v1
- Date: Wed, 06 May 2026 13:11:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.825641
- Title: Anticipating Innovation Using Large Language Models
- Title（参考訳）: 大規模言語モデルによるイノベーションの予測
- Abstract要約: 今後の組み合わせは、何十年も前から検出可能な予測信号とともに、特許の集合言語における早期の痕跡を残していることを示す。
信号は単一の発明者には帰属しないが、何千もの特許にまたがる技術の説明の集合的な変化として現れる。
TechTokenは、トランスフォーマーベースのモデルで、語彙でテクノロジーを単語として扱い、微調整中にこれらのコードを埋め込むことで技術の言語を学ぶ。
- 参考スコア（独自算出の注目度）: 0.7340017786387767
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Forecasting innovation, intended as the emergence of new technological combinations, is a fundamental challenge for science and policy. We show that forthcoming combinations leave an early trace in the collective language of patents, with predictive signals detectable even decades in advance. We show that signal is not attributable to any single inventor, but emerges as a collective shift in how technologies are described across thousands of patents. To this end, we introduce TechToken, a transformer-based model that treats technologies, classified by International Patent Classification codes, as words in its vocabulary, learning the language of technologies by embedding these codes during fine-tuning. We define context similarity between code embeddings as a measure of linguistic convergence and show that it accurately predicts first technological combinations. TechToken also improves general representation quality, outperforming state-of-the-art models across different patent-related tasks.
- Abstract（参考訳）: 新たな技術の組み合わせの出現を意図した予測イノベーションは、科学と政策の根本的な課題である。
今後の組み合わせは、何十年も前から検出可能な予測信号とともに、特許の集合言語における早期の痕跡を残していることを示す。
信号は単一の発明者には帰属しないが、何千もの特許にまたがる技術の説明の集合的な変化として現れる。
この目的のために、我々は、国際特許分類法で分類された技術を扱うトランスフォーマーベースのモデルであるTechTokenを、その語彙の単語として紹介し、これらのコードを微調整中に埋め込むことで、技術の言語を学ぶ。
コード埋め込みの文脈的類似性を言語収束の尺度として定義し、最初の技術の組み合わせを正確に予測することを示す。
TechTokenはまた、一般的な表現品質を改善し、さまざまな特許関連のタスクで最先端のモデルを上回っている。
関連論文リスト
- Accelerating scientific discovery with the common task framework [48.92654976046941]
機械学習(ML)と人工知能(AI)アルゴリズムは、工学、物理、生物学における動的システムの特性と制御を変換している。
これらの新しいモデリングパラダイムは、様々な科学的目的を評価するために比較指標を必要とする。
科学と工学のための共通タスクフレームワーク(CTF)を導入する。
論文 参考訳（メタデータ） (2025-11-06T02:53:07Z) - Monitoring Transformative Technological Convergence Through LLM-Extracted Semantic Entity Triple Graphs [35.70283902821063]
本稿では,トランスフォーメーション技術の出現をモニタリングする,新しいデータ駆動パイプラインを提案する。
提案手法は,Large Language Models (LLMs) の進歩を活用し,非構造化テキストから意味的三重項を抽出する。
パイプラインには、多段階フィルタリング、ドメイン固有のクラスタリング、トピック共起の時間的傾向分析が含まれている。
論文 参考訳（メタデータ） (2025-10-29T10:41:03Z) - DiTTO-LLM: Framework for Discovering Topic-based Technology Opportunities via Large Language Model [5.923472343317637]
本稿では,技術間の時間的関係に基づいて新たな技術機会を特定する枠組みを提案する。
このフレームワークは、米国特許商標庁が提供した人工知能特許データセットを用いて評価された。
論文 参考訳（メタデータ） (2025-09-10T05:47:25Z) - A Survey on Parallel Text Generation: From Parallel Decoding to Diffusion Language Models [71.66119575697458]
トークン・バイ・トークン生成のボトルネックを破り、推論効率を向上させることを目的とした並列テキスト生成技術。
既存のアプローチをARベースのパラダイムと非ARベースのパラダイムに分類し、各カテゴリの中核技術について詳細に検討する。
我々は、最近の進歩を強調し、オープンな課題を特定し、並列テキスト生成における将来的な研究の方向性を概説する。
論文 参考訳（メタデータ） (2025-08-12T07:56:04Z) - Technology Mapping with Large Language Models [1.1900482352079937]
STARS(Semantic Technology and Retrieval System)は、LLM(Large Language Models)とSentence-BERTを利用する新しいフレームワークである。
それは、非構造化コンテンツの中に関連技術を特定し、包括的な企業プロファイルを構築し、その運用上の重要性に応じて各企業の技術をランク付けする。
実験の結果,STARSは検索精度を著しく向上させ,産業間技術マッピングのための汎用的で高性能なソリューションを提供することがわかった。
論文 参考訳（メタデータ） (2025-01-25T08:18:15Z) - Large Language Model for Patent Concept Generation [2.4368308736427697]
既存の大規模言語モデル(LLM)は、専門知識の欠如により、革新的な概念生成に不足することが多い。
我々は、LLMベースのAIを自律的にマイニングし、理解し、適用するための新しい知識微調整(KFT)フレームワークを提案する。
本稿では,知識注入事前学習(KPT),ドメイン固有教師付き微調整(SFT),人的フィードバックからの強化学習を統合した。
論文 参考訳（メタデータ） (2024-08-26T12:00:29Z) - Early screening of potential breakthrough technologies with enhanced interpretability: A patent-specific hierarchical attention network model [4.779196219827507]
本稿では,特許文書から将来的な引用数を予測するための解釈可能な機械学習手法を提案する。
35,376の医薬品特許のケーススタディは、我々のアプローチの有効性を実証している。
提案手法は, ブレークスルー技術を特定する上で, 専門家と機械の協調性を高めることが期待されている。
論文 参考訳（メタデータ） (2024-07-24T02:17:10Z) - Measuring Technological Convergence in Encryption Technologies with
Proximity Indices: A Text Mining and Bibliometric Analysis using OpenAlex [46.3643544723237]
本研究は,サイバーセキュリティにおける新興技術間の技術的収束を明らかにする。
提案手法は,テキストマイニングとバイオロメトリ分析を統合し,技術的近接指標の定式化と予測を行う。
我々のケーススタディでは、ブロックチェーンと公開鍵暗号の間にかなりの収束が見られ、その近さが証明されている。
論文 参考訳（メタデータ） (2024-03-03T20:03:03Z) - Language Models: A Guide for the Perplexed [51.88841610098437]
このチュートリアルは、言語モデルを学ぶ人と、興味を持ち、もっと学びたいと思う人とのギャップを狭めることを目的としています。
実験を通して学ぶことができる質問に焦点を当てた科学的視点を提供する。
言語モデルは、現在、その開発に繋がる研究の文脈に置かれています。
論文 参考訳（メタデータ） (2023-11-29T01:19:02Z) - Unveiling Black-boxes: Explainable Deep Learning Models for Patent
Classification [48.5140223214582]
深部不透明ニューラルネットワーク(DNN)を利用した多ラベル特許分類のための最先端手法
レイヤワイド関連伝搬(Layer-wise Relevance propagation, LRP)を導入し, 特許の詳細な分類手法を提案する。
関連性スコアを考慮し、予測された特許クラスに関連する単語を視覚化して説明を生成する。
論文 参考訳（メタデータ） (2023-10-31T14:11:37Z) - Adaptive Taxonomy Learning and Historical Patterns Modelling for Patent Classification [26.85734804493925]
本稿では,特許分類に関する特許に関する情報を包括的に検討する統合フレームワークを提案する。
まず,その意味表現を導出するためのICC符号相関学習モジュールを提案する。
最後に、IPC符号のセマンティクスを含む特許文書の文脈情報と、予測を行うために利用者のシーケンシャルな選好を割り当てる。
論文 参考訳（メタデータ） (2023-08-10T07:02:24Z) - Deep Technology Tracing for High-tech Companies [67.86308971806322]
我々は、各ハイテク企業にカスタマイズされた最も可能な技術方向を自動的に見つけるために、新しいデータ駆動ソリューション、すなわちDeep Technology Forecasting(DTF)フレームワークを開発する。
DTFは、潜在的な競合認識(PCR)、協調技術認識(CTR)、Deep Technology Tracing(DTT)ニューラルネットワークの3つのコンポーネントで構成されている。
論文 参考訳（メタデータ） (2020-01-02T07:44:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。