論文の概要: Can Scientific Claims Be Removed from Large Language Models? A Systematic Evaluation of Claim-Level Unlearning
- arxiv url: http://arxiv.org/abs/2608.20960v1
- Date: Fri, 21 Aug 2026 10:27:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-24 14:49:32.506967
- Title: Can Scientific Claims Be Removed from Large Language Models? A Systematic Evaluation of Claim-Level Unlearning
- Title（参考訳）: 科学的クレームは大規模言語モデルから除去できるか? : クレームレベルアンラーニングの体系的評価
- Abstract要約: 言語モデル(LM)は静的な科学的コーパスに基づいて訓練されるが、科学的知識は補正と修正を通じて継続的に進化する。
これにより、LMは古い科学的主張を忘れる必要が生じる。
現状の未学習アプローチでは,クレームレベルの知識を効果的に排除することができず,表面的な抑制しか達成できないことが示されている。
- 参考スコア（独自算出の注目度）: 47.831933174173464
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Language models (LMs) are trained on static scientific corpora, whereas scientific knowledge continuously evolves through correction and revision. Scientific claims encoded within these models may later become retracted, disproven, or updated by subsequent research, creating the risk of disseminating outdated information in scientific workflows. This creates a need for LMs to forget obsolete scientific claims. Machine unlearning offers a promising solution by enabling knowledge removal while maintaining overall model utility. Existing studies primarily investigate instance-level forgetting; however, scientific claims introduce additional challenges because they are interconnected, and continually evolving. To address this gap, we introduce the task of Scientific Claim Unlearning and present a new benchmark, SciUnlearn. We show that current unlearning approaches are unable to effectively eliminate claim-level knowledge and often achieve only superficial suppression, highlighting the need for specialized methods designed for structured knowledge removal.
- Abstract（参考訳）: 言語モデル(LM)は静的な科学的コーパスに基づいて訓練されるが、科学的知識は補正と修正を通じて継続的に進化する。
これらのモデルにエンコードされた科学的な主張は、後で研究によって取り除かれたり、否定されたり、更新されたりし、科学的なワークフローにおいて時代遅れの情報を拡散するリスクを生じる可能性がある。
これにより、LMは古い科学的主張を忘れる必要が生じる。
機械学習は、全体的なモデルユーティリティを維持しながら知識の除去を可能にすることで、有望なソリューションを提供する。
既存の研究は、主にインスタンスレベルの忘れを調査しているが、科学的な主張は、それらが相互接続され、継続的に進化しているため、追加の課題をもたらす。
このギャップに対処するため、SciUnlearnという新たなベンチマークをSciUnlearnで紹介する。
現状のアンラーニングアプローチでは,クレームレベルの知識を効果的に排除することができず,表層的抑圧のみを達成することがしばしばあり,構造化知識の除去のために設計された特殊な手法の必要性を強調している。
関連論文リスト
- Can LLMs Discover Scientific Laws in Real and Parallel Worlds? [58.76147897928744]
SCILAWS-BENCHは、公表された研究と実際の科学データから構築された科学法発見のためのベンチマークである。
381の科学論文から118の問題を抽出し、291の法則と6つの科学分野にわたる800万の実際のデータポイントをカバーしている。
予測適合性は、科学的妥当性から分岐し、モデルが公表された公式を再現するか、移動するかを記憶する形に変化し、我々のベスト・オブ・N研究は選択ボトルネックを明らかにした。
論文 参考訳（メタデータ） (2026-09-01T17:17:59Z) - NewtonBench: Benchmarking Generalizable Scientific Law Discovery in LLM Agents [65.85967483058705]
科学法発見のための強力なツールとして、大規模な言語モデルが登場している。
このタスクの既存のベンチマークは、基本的な方法論のトリレンマに悩まされている。
12の物理領域にわたる324の科学法発見タスクからなるベンチマークであるNewtonBenchを紹介する。
論文 参考訳（メタデータ） (2025-10-08T16:12:11Z) - The Need for Verification in AI-Driven Scientific Discovery [9.887965168376311]
機械学習と大規模言語モデルは、従来の手法をはるかに超えたスケールと速度で仮説を生成することができる。
検証のためのスケーラブルで信頼性の高いメカニズムがなければ、科学的進歩のリスクは先進的ではなく妨げられる、と我々は主張する。
論文 参考訳（メタデータ） (2025-09-01T11:50:04Z) - Demystifying Scientific Problem-Solving in LLMs by Probing Knowledge and Reasoning [53.82037883518254]
SciReasは、科学的推論タスクのための様々なベンチマークスイートである。
次に、科学的タスクにおける推論と知識の異なる役割を研究するための探索フレームワークであるKRUXを提案する。
論文 参考訳（メタデータ） (2025-08-26T17:04:23Z) - ScienceMeter: Tracking Scientific Knowledge Updates in Language Models [79.33626657942169]
大規模言語モデル(LLM)は、科学研究を支援するためにますます使われているが、科学的進歩に関する彼らの知識は急速に時代遅れになる。
我々は,過去,現在,未来にまたがる科学的知識の更新手法を評価するための新しいフレームワークであるScienceMeterを紹介する。
論文 参考訳（メタデータ） (2025-05-30T07:28:20Z) - From Reasoning to Learning: A Survey on Hypothesis Discovery and Rule Learning with Large Language Models [3.861418246476623]
人工知能(AGI)の追求において、新たな知識を学習し、推論し、生成するモデルの必要性が高まっている。
このサーベイは、大規模言語モデルに基づく仮説発見を調べるための構造化レンズを提供する。
仮説生成、適用、検証における既存の作業を合成し、重要な成果と臨界ギャップの両方を特定します。
論文 参考訳（メタデータ） (2025-05-28T03:40:02Z) - Advancing the Scientific Method with Large Language Models: From Hypothesis to Discovery [35.888956949646]
大規模言語モデル (LLM) は科学的方法を変えて科学的研究を変革している。
LLMは、特に化学や生物学において、実験的な設計、データ分析、生産性の向上に関与している。
AI駆動科学への移行は、創造性、監視、責任に関する倫理的な疑問を提起する。
論文 参考訳（メタデータ） (2025-05-22T10:05:48Z) - Decoding complexity: how machine learning is redefining scientific discovery [16.132517461279487]
機械学習(ML)は、複雑なデータセットの編成、分析、解釈に欠かせないツールとなっている。
本稿では,さまざまな科学分野のブレークスルーを加速する上で,MLが果たす変革的役割について考察する。
論文 参考訳（メタデータ） (2024-05-07T09:58:02Z) - SciInstruct: a Self-Reflective Instruction Annotated Dataset for Training Scientific Language Models [57.96527452844273]
我々はSciInstructを紹介した。SciInstructは、大学レベルの科学的推論が可能な科学言語モデルを訓練するための科学指導スイートである。
我々は、物理学、化学、数学、公式な証明を含む多種多様な高品質なデータセットをキュレートした。
SciInstructの有効性を検証するため、SciInstruct、すなわちChatGLM3(6Bと32B)、Llama3-8B-Instruct、Mistral-7B: MetaMathを用いて言語モデルを微調整した。
論文 参考訳（メタデータ） (2024-01-15T20:22:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。