論文の概要: World-Time Compute with Verified Code World Models
- arxiv url: http://arxiv.org/abs/2609.09163v1
- Date: Tue, 07 Jul 2026 03:19:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.485432
- Title: World-Time Compute with Verified Code World Models
- Title(参考訳): 検証されたコードワールドモデルを用いたWorld-Time Compute
- Abstract要約: LLMは、ほとんどのドメインが欠落している実例を多く見た後にのみ、ドメイン全体に一般化する。
世界は、ゼロ依存フレームワークであるOpenWorldによって作成され、提供されています。
すべてのコード、レシピ、この原稿は1つのリポジトリから再生されます。
- 参考スコア(独自算出の注目度): 0.42887516758046246
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: LLMs generalize across a domain only after seeing many real, labeled examples, which most domains lack. We study a way to manufacture it cheaply. When a domain's dynamics can be written as code, one template instantiates into many world models: executable, verifiable programs over symbolic state, each an inexhaustible source of exactly-labeled trajectories. Fine-tuning an LLM on trajectories through many such worlds, which we call world-time compute, a training-time analogue of test-time compute, lifts generalization to held-out worlds it never trained on (synthesized world families). Gains are largest where capability is scarcest: +29 points at 0.5B; the largest model's lift is within noise, consistent with saturation. Labels can be trusted because the worlds are verified code: synthesized-then-checked dynamics are exact over 20-step rollouts and answer 10x out-of-distribution probes exactly (100%), whereas per-step LLM and MLP predictors compound error and collapse. Unlike domain randomization, each world is independently authored and verified; a corrupted-label control shows label exactness, not task variety, drives the gains. On real benchmarks (ARC-AGI grids, List Functions, CLRS) the same lever holds as per-world test-time training. On List Functions the harder cross-world form holds: one adapter trained on 128 disjoint worlds reaches 40% on held-out worlds versus 6% for a corrupted-label control (+34 points, CI [29, 39]). The gain is a saturating regularity, not a law: largest for few-step reasoning and small/weak models, fading for long chains, perception-induced tasks, and saturated tasks; cross-task transfer is weak without shared skill. Worlds are authored and served by OpenWorld, a zero-dependency framework (companion paper). Scope: symbolic state; pixel-native domains remain territory of learned models. All code, recipes, and this manuscript regenerate from one repository.
- Abstract(参考訳): LLMは、ほとんどのドメインが欠落している実例を多く見た後にのみ、ドメイン全体に一般化する。
私たちはそれを安価に製造する方法を研究します。
ドメインのダイナミクスがコードとして記述できる場合、1つのテンプレートは、多くの世界モデルにインスタンス化される。
テストタイム計算のトレーニングタイムアナログであるWorld-time Compute(世界時計算)とよばれる、そのような世界の軌道上でのLLMの微調整は、訓練されていない(世界家族のシンセサイザー)保留世界への一般化を後押しする。
出力は0.5Bで+29ポイント、最大のモデルリフトはノイズの範囲内であり、飽和度と一致している。
シンセサイザーチェックされたダイナミクスは、正確に20ステップ以上ロールアウトし、10倍のアウト・オブ・ディストリビューションプローブを正確に(100%)答える。
ドメインのランダム化とは異なり、各世界は独立して認可され、検証される。
実際のベンチマーク(ARC-AGIグリッド、List Functions、CLRS)では、世界のテストタイムトレーニングと同じレバーが保持されます。
リスト関数では、128の非結合世界においてトレーニングされた1つのアダプタは、破損したラベルコントロール(+34ポイント、CI [29, 39])に対して、保持されていない世界で40%に達する。
数ステップの推論と小さな/弱いモデルで最大であり、長い連鎖、知覚によって引き起こされるタスク、飽和タスクで減少している。
世界は、ゼロ依存フレームワーク(コンパニオンペーパー)であるOpenWorldによって作成され、提供されている。
スコープ: 象徴的状態; ピクセルネイティブドメインは、学習モデルの領域のままである。
すべてのコード、レシピ、この原稿は1つのリポジトリから再生されます。
関連論文リスト
- Can Machines Really See Objects in Images? A Study Based on Syntactic Distance and Visual Self-Referential Instances [53.65561607407989]
そのような局所的な手がかりが区別の安定な基盤を提供しない場合、モデルが依然として正しく分類できるかどうかを問う。
ResNetとVision Transformersの実験では、一貫した位相遷移現象が明らかになった。
結果は、汎用インテリジェンスは、既存の言語を再利用するのではなく、新しい言語を作成する必要があることを示唆している。
論文 参考訳(メタデータ) (2026-06-28T14:27:40Z) - PatchWorld: Gradient-Free Optimization of Executable World Models [69.05094454437402]
我々は、オフラインのトラジェクトリを実行可能なPythonの世界モデルに変換する、勾配のないフレームワークであるPatchWorldを紹介します。
7つのAgentGym環境の中で、PatchWorld-Simpleはコードベースの計画スコアが最も高い。
人間の特定残差バイアスは, 表面観察精度を向上するが, 判定性は低下する。
論文 参考訳(メタデータ) (2026-05-29T06:11:14Z) - Rethinking Reward Models for Multi-Domain Test-Time Scaling [91.76069784586149]
従来の作業では、プロセス報酬モデル(PRM)が最終回答のみを評価する結果報酬モデル(ORM)を上回っていると仮定しています。
14の異なる領域にまたがる4つの報酬モデル変種を統一的に評価する。
LLMの自動ラベル付けからラベルノイズを継承し,長い推論軌跡の評価に難渋するPRM方式の段階的スコアリングが原因と考えられる。
論文 参考訳(メタデータ) (2025-10-01T04:21:14Z) - MultiMatch: Multi-task Learning for Semi-supervised Domain Generalization [55.06956781674986]
我々は、各ソースドメインにいくつかのラベル情報がある半教師付きドメイン一般化タスクの解決に頼っている。
我々は、MultiMatchを提案し、FixMatchをマルチタスク学習フレームワークに拡張し、SSDGのための高品質な擬似ラベルを生成する。
提案手法の有効性を検証し,いくつかのベンチマークDGデータセット上で既存の半教師付き手法とSSDG法より優れていることを示す。
論文 参考訳(メタデータ) (2022-08-11T14:44:33Z) - Robust Policies via Mid-Level Visual Representations: An Experimental
Study in Manipulation and Navigation [115.4071729927011]
エンド・ツー・エンドのRLフレームワークにおいて,中間レベルの視覚表現を汎用的かつ容易に認識可能な知覚状態として用いることの効果について検討した。
一般化を支援し、サンプルの複雑さを改善し、最終的なパフォーマンスを高めることを示します。
実際には、ドメインのランダム化やスクラッチからの学習が失敗したタスクのポリシーをうまくトレーニングするために、中間レベルの表現が使用できる。
論文 参考訳(メタデータ) (2020-11-13T00:16:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。