論文の概要: Synthetic Worlds for Temporal Evaluation and Knowledge Updating in LLMs

• arxiv url: http://arxiv.org/abs/2609.00184v2
• Date: Fri, 04 Sep 2026 17:29:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-07 16:04:20.33405
• Title: Synthetic Worlds for Temporal Evaluation and Knowledge Updating in LLMs
• Title（参考訳）: LLMにおける時間的評価と知識更新のための合成世界
• Authors: Jonathan Zheng, Zirui Shao, Alan Ritter, Wei Xu,
• Abstract要約: 大規模言語モデル(LLM)は静的事前学習コーパスに依存しており、その知識は時間が経つにつれて時代遅れになる。 知識編集を評価する既存のアプローチは、急激な汚染に悩まされるか、あるいは、厳格な知識と矛盾する対実的な編集に依存している。 制御された評価のためのコヒーレントなイベントトラジェクトリを生成する架空の、現実的な未来の世界のベンチマークであるSc ParallelEventsを紹介する。 sc Synapseは、モデル生成データを用いて、ミッドトレーニングとインストラクションチューニングを通じてモデルパラメータを更新するトレーニングフレームワークである。
• 参考スコア（独自算出の注目度）: 26.7192971116753
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Large language models (LLMs) rely on static pretraining corpora, causing their knowledge to become outdated over time. Existing approaches for evaluating knowledge edits either suffer from rapid contamination or rely on counterfactual edits that conflict with rigid existing knowledge. In this work, we propose a synthetic, simulation-driven framework for studying knowledge insertion in LLMs. We introduce {\sc ParallelEvents}, a benchmark of fictional yet realistic future worlds that generates coherent event trajectories for controlled evaluation, avoiding contamination while preserving consistency. Building on this dataset, we develop {\sc Synapse}, a training framework that uses model-generated data to update model parameters via mid-training and instruction tuning. This synthetic pipeline enables scalable knowledge integration without costly human-curated data. Empirically, {\sc Synapse} outperforms existing methods by 14.23\%, demonstrating that simulation-based synthetic training leads to robust and coherent knowledge insertions.
• Abstract（参考訳）: 大規模言語モデル(LLM)は静的事前学習コーパスに依存しており、その知識は時間が経つにつれて時代遅れになる。 知識編集を評価する既存のアプローチは、急激な汚染に悩まされるか、あるいは、厳格な知識と矛盾する対実的な編集に依存している。 本研究では,LLMにおける知識挿入を研究するための,合成シミュレーション駆動型フレームワークを提案する。 我々は,コヒーレントなイベントトラジェクトリを生成し,一貫性を維持しながら汚染を回避する,架空の,現実的な未来の世界のベンチマークである {\sc ParallelEvents} を紹介する。 このデータセットをベースとしたトレーニングフレームワークである {\sc Synapse} は、モデル生成データを使用して、ミッドトレーニングとインストラクションチューニングを通じてモデルパラメータを更新する。 この合成パイプラインは、費用がかかる人為的なデータを使わずに、スケーラブルな知識統合を可能にする。 経験的に、sc Synapse} は既存の手法を14.23 %上回り、シミュレーションベースの合成訓練が堅牢で一貫性のある知識挿入をもたらすことを示した。

関連論文リスト

• InfoSynth: Information-Guided Benchmark Synthesis for LLMs [69.80981631587501]
  大規模言語モデル (LLM) は推論やコード生成において大きな進歩を見せている。 従来のベンチマーク作成は人手による作業に依存しています。 この作業では、推論ベンチマークの自動生成と評価のための新しいフレームワークであるInfo Synthを紹介した。
  論文  参考訳（メタデータ） (2026-01-02T05:26:27Z)
• On the Dangers of Bootstrapping Generation for Continual Learning and Beyond [8.530455607001828]
  本稿では,合成データが学習目的に有意なバイアスやばらつきをもたらすことを示す統計分析を行った。 この劣化を定量化し、最先端のGER法が潜在空間におけるアライメントを維持できないことを示す。
  論文  参考訳（メタデータ） (2025-12-05T15:16:30Z)
• TempoPFN: Synthetic Pre-training of Linear RNNs for Zero-shot Time Series Forecasting [42.2854432715079]
  本稿では,線形リカレントニューラルネットワーク(RNN)に基づく時系列基礎モデルであるTempoPFNについて述べる。 このモデルは、状態ウィービングを備えたGatedDeltaProductアーキテクチャを使用して、シーケンスの長さにわたって完全に並列化可能なトレーニングを行う。
  論文  参考訳（メタデータ） (2025-10-29T13:27:18Z)
• Reinforced Interactive Continual Learning via Real-time Noisy Human Feedback [59.768119380109084]
  本稿では,AIモデルがリアルタイムフィードバックから新たなスキルを動的に学習する対話型連続学習パラダイムを提案する。 大規模言語モデル(LLM)を活用した強化型対話型連続学習フレームワークRiCLを提案する。 我々のRiCLアプローチは、最先端のオンライン連続学習とノイズラベル学習の既存の組み合わせを大幅に上回っている。
  論文  参考訳（メタデータ） (2025-05-15T03:22:03Z)
• Collapse or Thrive? Perils and Promises of Synthetic Data in a Self-Generating World [19.266191284270793]
  生成機械学習モデルは、以前のモデルによって生成されたデータを含むWebスケールデータセットで事前訓練される。 先行研究の中には、ウェブが合成データに圧倒されているため、"モデル崩壊"を警告するものもある。 本稿では,3つの生成モデルタスクセットにまたがるデータ(トレーニング・ワークフロー)の3つの使い方について実験を行った。
  論文  参考訳（メタデータ） (2024-10-22T05:49:24Z)
• Can LMs Generalize to Future Data? An Empirical Analysis on Text Summarization [50.20034493626049]
  最近の学習済み言語モデル(PLM)は、既存の抽象的な要約データセットにおいて有望な結果をもたらす。 既存の要約ベンチマークは、標準の事前学習コーパスと微調整データセットと時間的に重複する。 要約モデルに格納されたパラメトリック知識は、将来のデータに対する生成した要約の忠実度に大きく影響することを示す。
  論文  参考訳（メタデータ） (2023-05-03T08:08:07Z)
• Robust SAR ATR on MSTAR with Deep Learning Models trained on Full Synthetic MOCEM data [0.0]
  シミュレーションは、合成トレーニングデータセットを作成することでこの問題を克服することができる。 ドメインランダム化手法と対角訓練を組み合わせることでこの問題を克服できることを示す。
  論文  参考訳（メタデータ） (2022-06-15T08:04:36Z)
• A Scaling Law for Synthetic-to-Real Transfer: A Measure of Pre-Training [52.93808218720784]
  合成から現実への変換学習は,実タスクのための合成画像と接地真実アノテーションを用いた事前学習を行うフレームワークである。 合成画像はデータの不足を克服するが、事前訓練されたモデルで微調整性能がどのようにスケールするかは定かではない。 我々は、合成事前学習データの様々なタスク、モデル、複雑さにおける学習曲線を一貫して記述する、単純で一般的なスケーリング法則を観察する。
  論文  参考訳（メタデータ） (2021-08-25T02:29:28Z)
• Using Data Assimilation to Train a Hybrid Forecast System that Combines Machine-Learning and Knowledge-Based Components [52.77024349608834]
  利用可能なデータがノイズの多い部分測定の場合,カオスダイナミクスシステムのデータ支援予測の問題を検討する。 動的システムの状態の部分的測定を用いることで、不完全な知識ベースモデルによる予測を改善するために機械学習モデルを訓練できることを示す。
  論文  参考訳（メタデータ） (2021-02-15T19:56:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。