論文の概要: SciReasoner: Laying the Scientific Reasoning Ground Across Disciplines
- arxiv url: http://arxiv.org/abs/2509.21320v2
- Date: Wed, 29 Oct 2025 16:14:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-30 15:50:44.188926
- Title: SciReasoner: Laying the Scientific Reasoning Ground Across Disciplines
- Title（参考訳）: SciReasoner:科学的な推論の場を散策する
- Abstract要約: 我々は、自然言語と異質な科学的表現を整合させる科学的推論基盤モデルを提案する。
このモデルは、科学的なテキスト、純粋なシーケンス、シーケンスとテキストのペアにまたがる206Bのコーパスで事前訓練され、4000万の命令でSFTを介してアライメントされる。
i) テキストと科学形式間の忠実な翻訳、(ii) テキスト/知識抽出、(iii) プロパティの予測、(iv) プロパティの分類、(v) 条件なしおよび条件付きシーケンスの生成と設計。
- 参考スコア（独自算出の注目度）: 112.78540935201558
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a scientific reasoning foundation model that aligns natural language with heterogeneous scientific representations. The model is pretrained on a 206B-token corpus spanning scientific text, pure sequences, and sequence-text pairs, then aligned via SFT on 40M instructions, annealed cold-start bootstrapping to elicit long-form chain-of-thought, and reinforcement learning with task-specific reward shaping, which instills deliberate scientific reasoning. It supports four capability families, covering up to 103 tasks across workflows: (i) faithful translation between text and scientific formats, (ii) text/knowledge extraction, (iii) property prediction, (iv) property classification, (v) unconditional and conditional sequence generation and design. Compared with specialist systems, our approach broadens instruction coverage, improves cross-domain generalization, and enhances fidelity. We detail data curation and training and show that cross-discipline learning strengthens transfer and downstream reliability. The model, instruct tuning datasets and the evaluation code are open-sourced at https://huggingface.co/SciReason and https://github.com/open-sciencelab/SciReason.
- Abstract（参考訳）: 我々は、自然言語と異質な科学的表現を整合させる科学的推論基盤モデルを提案する。
このモデルは、科学的なテキスト、純粋なシーケンス、シーケンスとテキストのペアにまたがる206Bのコーパスで事前訓練され、その後SFT経由で4000Mの命令でアライメントされ、コールドスタートブートストラップでロングフォームチェーン・オブ・シントを誘発し、タスク固有の報酬形成による強化学習が行われ、故意の科学的推論を具現化している。
4つの機能ファミリをサポートし、ワークフロー全体で最大103タスクをカバーする。
一 文と科学書式との忠実な翻訳
(ii)テキスト/知識抽出、
(三)物件予測
(4)財産分類
(v) 条件付きおよび条件付きシーケンスの生成と設計。
専門的なシステムと比較して,本手法は命令範囲を広げ,ドメイン間の一般化を改善し,忠実度を高める。
データのキュレーションとトレーニングについて詳述し、クロスディシプリンの学習がトランスファーと下流の信頼性を高めることを示す。
モデル、インストラクションデータセット、評価コードはhttps://huggingface.co/SciReasonとhttps://github.com/open-sciencelab/SciReasonでオープンソース化されている。
関連論文リスト
- Intern-S2-Preview: Scientific Agentic Foundation Model [199.88087357217503]
Intern-S2-Previewはマルチモーダルな科学的理解、推論、生成、長距離タスクをサポートするように設計されている。
トレーニングパイプラインは、レンダリングされた科学文書、インターリーブされた画像テキストデータ、多様な科学的コーパスに対する科学的なマルチモーダル事前トレーニングから始まる。
このパイプラインはロールアウトを改善し、安定性と効率性をトレーニングする実践的な技術によって支えられている。
論文 参考訳（メタデータ） (2026-08-13T17:31:28Z) - Speaking the Language of Science: Toward a General-Purpose Generative Foundation Model for the Natural Sciences [89.71422932447423]
LOGOSは、自然科学における異種タスクを統一する科学生成言語モデルである。
空間的接触パターンと制約パターンを離散トークンとして表現することにより、モデルは純粋にシーケンシャルな方法で複雑な構造的相互作用をキャプチャする。
多様なタスクにわたって、LOGOSは一貫してドメイン固有のベースラインにマッチまたは性能を向上する。
論文 参考訳（メタデータ） (2026-06-15T16:14:53Z) - Data Darwinism Part I: Unlocking the Value of Scientific Data for Pre-training [39.148751989348774]
データモデル共進化を概念化した10レベルの分類法であるデータダーウィン主義を紹介する。
900BのコーパスであるDarwin-Scienceを構築し,学術文献でこれを検証した。
我々はDarwin-Science corpusとdaci-originモデルをリリースし、原則的、共同進化的開発を可能にします。
論文 参考訳（メタデータ） (2026-02-08T05:06:34Z) - Lost in Tokenization: Context as the Key to Unlocking Biomolecular Understanding in Scientific LLMs [78.18336140706471]
Sci-LLMは、生物発見を加速するための有望なフロンティアとして登場した。
現在の戦略では生の生体分子配列を処理する際にSci-LLMの推論能力を制限する。
より効果的な戦略は、Sci-LLMに高レベルな構造化コンテキストを提供することである。
論文 参考訳（メタデータ） (2025-10-27T09:03:21Z) - CoT-Evo: Evolutionary Distillation of Chain-of-Thought for Scientific Reasoning [63.44477226386808]
先進的な大規模言語モデル(LLM)からのCoT蒸留は、一般的な推論タスクにおいて有効であることが証明されている。
しかし、先進的なモデルでさえ、誤った、あるいは表面的な推論をしばしば生み出す科学領域では苦戦している。
この問題を解決するために, 進化的CoT蒸留フレームワークであるCoT-Evoを提案する。
論文 参考訳（メタデータ） (2025-10-15T05:29:56Z) - SciRIFF: A Resource to Enhance Language Model Instruction-Following over Scientific Literature [80.49349719239584]
SciRIFF(Scientific Resource for Instruction-Following and Finetuning, SciRIFF)は、54のタスクに対して137Kの命令追従デモのデータセットである。
SciRIFFは、幅広い科学分野の研究文献から情報を抽出し、合成することに焦点を当てた最初のデータセットである。
論文 参考訳（メタデータ） (2024-06-10T21:22:08Z) - Heterogeneous Graph Reasoning for Fact Checking over Texts and Tables [22.18384189336634]
HeterFCは、非構造化情報および構造化情報に対するFact Checkingのための単語レベルの不均一グラフベースのモデルである。
我々は,レーショナルグラフニューラルネットワークによる情報伝達,クレームとエビデンス間の相互作用を行う。
本稿では,エビデンス検索における潜在的な不正確性を考慮したマルチタスク損失関数を提案する。
論文 参考訳（メタデータ） (2024-02-20T14:10:40Z) - SciInstruct: a Self-Reflective Instruction Annotated Dataset for Training Scientific Language Models [57.96527452844273]
我々はSciInstructを紹介した。SciInstructは、大学レベルの科学的推論が可能な科学言語モデルを訓練するための科学指導スイートである。
我々は、物理学、化学、数学、公式な証明を含む多種多様な高品質なデータセットをキュレートした。
SciInstructの有効性を検証するため、SciInstruct、すなわちChatGLM3(6Bと32B)、Llama3-8B-Instruct、Mistral-7B: MetaMathを用いて言語モデルを微調整した。
論文 参考訳（メタデータ） (2024-01-15T20:22:21Z) - ATLANTIC: Structure-Aware Retrieval-Augmented Language Model for
Interdisciplinary Science [0.0]
大きな言語モデルは、多くの自然言語処理タスクで印象的なパフォーマンスを記録します。
Retrieval augmentationは、外部の知識ソースからコンテキストを取得することで、効果的なソリューションを提供する。
本稿では,検索強化時に文書構造に対応する構造対応検索言語モデルを提案する。
論文 参考訳（メタデータ） (2023-11-21T02:02:46Z) - CiteWorth: Cite-Worthiness Detection for Improved Scientific Document
Understanding [23.930041685595775]
本研究は,文が外部ソースを引用するか否かをラベル付けした英語における引用親和性検出の詳細な研究である。
CiteWorthは高品質で、挑戦的で、ドメイン適応のような問題の研究に適している。
論文 参考訳（メタデータ） (2021-05-23T11:08:45Z) - Improving Text Generation with Student-Forcing Optimal Transport [122.11881937642401]
トレーニングモードとテストモードで生成されたシーケンスに最適なトランスポート(OT)を提案する。
テキストシーケンスの構造的および文脈的情報に基づいて、OT学習を改善するための拡張も提案されている。
提案手法の有効性は,機械翻訳,テキスト要約,テキスト生成タスクにおいて検証される。
論文 参考訳（メタデータ） (2020-10-12T19:42:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。