論文の概要: HyperWorld: Hypergraph-Structured State Serialization Improves Learned Textual World Models
- arxiv url: http://arxiv.org/abs/2609.00002v1
- Date: Fri, 12 Jun 2026 06:55:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.416831
- Title: HyperWorld: Hypergraph-Structured State Serialization Improves Learned Textual World Models
- Title（参考訳）: HyperWorld: 学習されたテキストワールドモデルを改善するハイパーグラフ構造化状態シリアライズ
- Abstract要約: テキスト環境では、モデルはシリアライズされた状態記述からシンボリックアクションエフェクトを学習しなければならない。
実測値と3つのシンボリックシリアライゼーションを比較した。
与えられた状態と行動、象徴的な効果の予測、実行不可能な動作の判断などである。
- 参考スコア（独自算出の注目度）: 16.576593583698024
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: World models enable language-model agents to predict environment dynamics and plan before acting. In text environments, the model must learn symbolic action effects from serialized state descriptions, but the role of serialization structure remains underexplored. We present HyperWorld, a controlled study of state serialization for learned textual world models. We compare raw observations with three symbolic serializations of the same ground-truth state: independent sentences, pairwise triples, and entity-centered hyperedge units that group multiple related facts around entities and relations. All variants use the same training objective: given a state and an action, predict symbolic effects or judge the action infeasible. Across model scales, data budgets, and in-distribution and out-of-distribution test worlds, hyperedge serialization gives the clearest gains for 0.5B--1.5B models and under distribution shift. Larger models reduce the gap, and pairwise triples can match or slightly exceed hyperedges on in-distribution exact match, but hyperedges achieve the strongest out-of-distribution fact F1 and the best small-to-medium scale trade-off between feasibility detection and effect prediction. In downstream greedy planning, the hyperedge world model also attains the highest success rate among the tested representations. These results show that higher-order state organization is a simple but effective inductive bias for learned symbolic world models, especially when model capacity is limited or test environments differ from training.
- Abstract（参考訳）: 世界モデルは、言語モデルエージェントが行動する前に環境力学や計画を予測することを可能にする。
テキスト環境では、モデルはシリアライズされた状態記述からシンボリックなアクション効果を学習しなければならないが、シリアライズ構造の役割は未解明のままである。
本稿では,学習されたテキストワールドモデルに対する状態シリアライゼーションの制御された研究であるHyperWorldを紹介する。
独立文, 対三重項, 実体と関係に関する複数の関連事実をまとめる実体中心のハイパーエッジ単位の3つの記号的直列化を比較した。
与えられた状態と行動、象徴的な効果の予測、実行不可能な動作の判断などである。
モデルスケール、データ予算、分布内および分布外テストの世界において、ハイパーエッジシリアライゼーションは0.5B-1.5Bモデルと分布シフトの下で最も明確な利得を与える。
より大きなモデルはギャップを減らし、ペアのトリプルは分布内正確な一致でハイパーエッジにマッチまたはわずかに超えることができるが、ハイパーエッジは分布外事実F1と、フェーザビリティ検出と効果予測の間の最も小さなスケールのトレードオフを達成する。
下流の強欲な計画では、ハイパーエッジ世界モデルはテストされた表現の中で最も成功率が高い。
これらの結果から,高次状態組織は学習記号的世界モデルにとって単純だが効果的な帰納的バイアスであり,特にモデル容量が制限されたり,テスト環境が訓練と異なる場合であることがわかった。
関連論文リスト
- Sensorimotor World Models: Perception for Action via Inverse Dynamics [59.121736411156384]
Inverse dynamics regularization で訓練されたエンド・ツー・エンドのセンサモレータ・ワールドモデルを導入する。
表現の崩壊を防ぎ、アクション整列表現を誘導する。
コンパクトで解釈可能な潜在空間を学習し、単純な2Dおよび3D制御タスク間の競合計画性能を実現する。
論文 参考訳（メタデータ） (2026-06-18T11:25:16Z) - Back into Plato's Cave: Examining Cross-modal Representational Convergence at Scale [40.31924374728614]
プラトン表現仮説(Platonic Representation hypothesis)は、異なるモダリティで訓練されたニューラルネットワークが一致し、最終的に同じ現実の表現に向かって収束することを示唆している。
この仮説の実験的証拠は脆弱であり, 評価体制に大きく依存していることが示唆された。
論文 参考訳（メタデータ） (2026-04-20T17:56:02Z) - World Action Verifier: Self-Improving World Models via Forward-Inverse Asymmetry [82.93104394404781]
汎用世界モデルは、スケーラブルなポリシー評価、最適化、計画を約束します。
本稿では,世界モデルによる予測誤りと自己改善を識別するフレームワークであるWorld Action Verifier(WAV)を提案する。
論文 参考訳（メタデータ） (2026-04-02T12:48:36Z) - Better World Models Can Lead to Better Post-Training Performance [9.713688760042544]
本研究では,トランスフォーマーの内部表現と下流能力に,世界モデリングの目的がどう影響するかを考察する。
我々は、標準的な次世代予測と2つの明示的な世界モデリング戦略を比較した。
明示的な世界モデリングは、より線形にデオード可能で、因果的にステアブルな状態表現をもたらす。
論文 参考訳（メタデータ） (2025-12-03T03:13:20Z) - A Comprehensive Survey on World Models for Embodied AI [14.457261562275121]
エンボディードAIは、アクションがどのように将来の世界国家を形作るかを理解し、行動し、予測するエージェントを必要とする。
この調査は、組み込みAIにおける世界モデルのための統一されたフレームワークを示す。
論文 参考訳（メタデータ） (2025-10-19T07:12:32Z) - Prismatic Synthesis: Gradient-based Data Diversification Boosts Generalization in LLM Reasoning [77.120955854093]
我々は,データ多様性が言語モデルにおける一般化の強力な予測因子であることを示す。
モデル誘起勾配のエントロピーを通して多様性を定量化する計量であるG-Vendiを導入する。
多様な合成データを生成するためのフレームワークであるPrismatic Synthesisを提案する。
論文 参考訳（メタデータ） (2025-05-26T16:05:10Z) - Consistent World Models via Foresight Diffusion [56.45012929930605]
我々は、一貫した拡散に基づく世界モデルを学習する上で重要なボトルネックは、最適下予測能力にあると主張している。
本稿では,拡散に基づく世界モデリングフレームワークであるForesight Diffusion(ForeDiff)を提案する。
論文 参考訳（メタデータ） (2025-05-22T10:01:59Z) - Beyond Under-Alignment: Atomic Preference Enhanced Factuality Tuning for Large Language Models [19.015202590038996]
様々な選好学習アルゴリズムによって調整された異なるモデルの事実性を評価する。
textbfAtomic textbfPreference textbfEnhanced textbfFactuality textbfTuning を提案する。
論文 参考訳（メタデータ） (2024-06-18T09:07:30Z) - Learning Defect Prediction from Unrealistic Data [57.53586547895278]
事前訓練されたコードのモデルは、コード理解と生成タスクに人気がある。
このようなモデルは大きい傾向があり、訓練データの総量を必要とする。
人工的に注入されたバグのある関数など、はるかに大きくてもより現実的なデータセットを持つモデルをトレーニングすることが一般的になった。
このようなデータで訓練されたモデルは、実際のプログラムでは性能が劣りながら、同様のデータでのみうまく機能する傾向にある。
論文 参考訳（メタデータ） (2023-11-02T01:51:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。