論文の概要: Doc2LoRA Provides Decodable Representations of Scientific Ideas
- arxiv url: http://arxiv.org/abs/2609.38374v1
- Date: Tue, 29 Sep 2026 18:34:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.591199
- Title: Doc2LoRA Provides Decodable Representations of Scientific Ideas
- Title(参考訳): Doc2LoRAは科学的アイデアを表現可能な表現を提供する
- Abstract要約: 科学論文を1つの分野のポイントとして表現することで、同様の論文を探し出し、フィールドが他の分野とどのように関係しているかを尋ねることができます。
混合点はしばしば、論文がまだ認識していないアイデアを表しており、そのアイデアを特定するための論文は近くにない。
本稿では,Doc-to-LoRAハイパーネットワークによって生成されたLoRAアダプタを用いて,各論文の表現を提案する。
- 参考スコア(独自算出の注目度): 1.0499611180329804
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Representing scientific papers as points in a space lets us search for similar papers and inquire about how fields relate to one another and drive innovation. Beyond search, the vector space of papers invites generation: mixing papers through simple vector operations creates new points, mirroring combinatorial novelty, the recombination of existing ideas into new ones. However, a mixed point often represents an idea no paper has yet realized, with no papers nearby to identify the idea. We propose representing each paper by a LoRA adapter generated by the Doc-to-LoRA hypernetwork. Every point in the space, including mixtures, thus represents a large language model (LLM) open to questions and instructions in natural language. On papers from the American Physical Society (APS), we instruct the LLM at the average of each subfield to name the field in a few words and obtain labels closer to the official names than the labels of five baselines, as judged by word overlap and a panel of five LLM judges. We also ask the LLMs at points between two APS papers to write an abstract and obtain descriptions shifting from one paper to the other in step with the mixing weight. While Doc-to-LoRA is trained for generation, a small invertible transform makes the embeddings competitive for search, on par with SPECTER2 and EmbeddingGemma and close to SBERT. Because the transform is invertible, every point in the transformed space still maps back to an LLM. The embeddings thus serve both search and generation, enabling researchers to question the idea at any point in the space as a starting point for generating new ideas.
- Abstract(参考訳): 科学論文を論文のポイントとして表現することで、同様の論文を探し出し、フィールドが相互にどのように関係しているかを調べ、イノベーションを促進することができます。
単純なベクトル演算を通じて論文を混合することで新たなポイントが生成され、組合せ的新奇性を反映し、既存のアイデアを新しいものへと再結合する。
しかし、混合点はしばしば、論文がまだ認識していないアイデアを表しており、そのアイデアを特定するための論文は近くにない。
本稿では,Doc-to-LoRAハイパーネットワークによって生成されたLoRAアダプタを用いて,各論文の表現を提案する。
混合を含む空間内のすべての点は、自然言語の質問や指示に対して開放される大きな言語モデル(LLM)を表す。
アメリカ物理学会(APS)の論文では、各サブフィールドの平均でLLMにいくつかの単語でフィールド名を付けるように指示し、単語重複と5人のLLM審査員のパネルで判断されるように、5つの基準ラインのラベルよりも公式名称に近いラベルを得る。
また、2つのAPS論文間の点におけるLCMに抽象的な記述を依頼し、混合重みを段階的に1つの論文からもう1つの論文へシフトする記述を得る。
Doc-to-LoRAは、生成のためにトレーニングされているが、小さな非可逆変換は、SPECTER2やEmbedingGemmaと同等の、SBERTに近い埋め込みを検索に競合させる。
変換は可逆であるため、変換空間のすべての点はまだ LLM に写像される。
これにより、埋め込みは検索と生成の両方に役立ち、研究者は新たなアイデアを生み出すための出発点として、空間の任意の時点でアイデアを疑問視することができる。
関連論文リスト
- Measuring the Gap Between Human and LLM Research Ideas [63.27812052187884]
高品質な人間研究論文の構想評価フレームワークを構築した。
それぞれの論文に対して、我々は、その中核となるアイデアにインスピレーションを与えたであろう、近縁な先行研究の小さなセットをリバースエンジニアリングする。
本稿では、その機会パターンと研究パラダイムにより、それぞれのアイデアをプロファイルするために、2軸のリサーチテイスト分類を導入する。
論文 参考訳(メタデータ) (2026-07-01T17:59:56Z) - PARNESS: A Paper Harness for End-to-End Automated Scientific Research with Dynamic Workflows, Full-Text Indexing, and Cross-Run Knowledge Accumulation [20.481096196724398]
最近の自律型研究システムでは、LSMエージェントは実験を思いつき、実行し、論文を書くことができる。
この剛性には5つの根源がある、と我々は主張する。
提案するPARNESSは,4つの設計手順に基づいて構築されたオープンソースフレームワークである。
論文 参考訳(メタデータ) (2026-05-06T04:37:02Z) - Alien Science: Sampling Coherent but Cognitively Unavailable Research Directions from Idea Atoms [53.907293349123506]
大規模な言語モデルは、しばしば、現在のコミュニティにとって一貫性があり、無関心なアイデアを生み出すのに失敗する。
我々は、このギャップを認知的可用性によって形式化し、研究の方向性が典型的な研究者によって自然に提案される可能性について述べる。
我々は、原子の集合が実行可能な方向を構成するかどうかをスコアするコヒーレンスモデルと、その方向が生成される確率をスコアするアベイラビリティモデルという2つの補完モデルを学ぶ。
論文 参考訳(メタデータ) (2026-03-01T13:05:19Z) - The Ramon Llull's Thinking Machine for Automated Ideation [52.06378166909451]
提案手法は, テーマ, ドメイン, メソッドの3つの構成軸を定義する。
我々は,LLMをキュレートした組み合わせで促進することで,多種多様で関連性があり,現在の文献に根ざした研究思想が生み出されることを示す。
この現代的な思考マシンは、科学的創造性を増強するための軽量で解釈可能なツールを提供し、人間とAIの協調的な概念化への道筋を示唆している。
論文 参考訳(メタデータ) (2025-08-26T17:03:43Z) - Let's Use ChatGPT To Write Our Paper! Benchmarking LLMs To Write the Introduction of a Research Paper [64.50822834679101]
SciIGは、タイトル、抽象、および関連する作品からコヒーレントな紹介を生成するLLMの能力を評価するタスクである。
オープンソース (DeepSeek-v3, Gemma-3-12B, LLaMA 4-Maverick, MistralAI Small 3.1) およびクローズドソース GPT-4o システムを含む5つの最先端モデルを評価する。
結果は、特に意味的類似性と忠実性において、ほとんどのメトリクスにおいて、LLaMA-4 Maverickの優れたパフォーマンスを示す。
論文 参考訳(メタデータ) (2025-08-19T21:11:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。