論文の概要: AGI Maze Prediction Datasets: A Compact Benchmark for Learning World Dynamics with Transformers
- arxiv url: http://arxiv.org/abs/2609.02339v1
- Date: Wed, 02 Sep 2026 09:15:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:18.212307
- Title: AGI Maze Prediction Datasets: A Compact Benchmark for Learning World Dynamics with Transformers
- Title(参考訳): AGI Maze Prediction Datasets: トランスフォーマーを用いたワールドダイナミクス学習のためのコンパクトベンチマーク
- Abstract要約: AGI Maze予測データセットとベンチマークを紹介する。
ベンチマークには、ステップごとの遷移予測、固定水平状態予測、シーケンシャルテキスト保存予測が含まれる。
その結果、構造化されたタスクアラインなワーキングメモリは、追加の潜在能力よりも有用であることが示唆された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: World modeling requires a predictive model to maintain and update an internal state adequate for reasoning about the consequences of actions. We introduce the AGI Maze Prediction Datasets and Benchmark, a lightweight controlled testbed for studying this capability in Transformers and other predictive models. Derived from procedurally generated, stateful grid worlds, the benchmark comprises per-step transition prediction, fixed-horizon state prediction, and sequential textual-observation prediction. Source-maze-disjoint training and validation splits, together with greedy exact-match evaluation, distinguish learning transferable action-conditioned dynamics from memorizing transitions in familiar layouts. We establish from-scratch byte-level Transformer baselines and compare them with two working-memory-augmented architectures. A generic auxiliary latent-memory Transformer can fit some training sets perfectly but does not consistently improve held-out performance. In contrast, a pseudo-video spatial-memory Transformer initializes a two-dimensional latent workspace from the input map and updates it from action history without receiving intermediate maps, positions, or state labels. Under the same data, objectives, and evaluation protocol, this model reaches perfect validation accuracy on selected fixed-horizon tasks where the byte and unstructured-memory baselines do not, and substantially improves sequential text-trace prediction. These results suggest that structured, task-aligned working memory can be more useful than additional latent capacity alone. More broadly, we argue that language grounding is mediated by persistent data structures and computations over them; the benchmark offers a compact setting for testing architectures that couple textual interfaces to learned structured state.
- Abstract(参考訳): 世界モデリングは、行動の結果を推論するのに適切な内部状態の維持と更新を行うための予測モデルを必要とする。
AGI Maze Prediction Datasets and Benchmarkは、トランスフォーマーや他の予測モデルでこの機能を研究するための軽量な制御テストベッドである。
手続き的に生成されたステートフルグリッドの世界から派生したこのベンチマークは、ステップごとの遷移予測、固定水平状態予測、シーケンシャルテキスト・オブザーブレーション予測を含む。
ソース・メイズ・ディジョイントのトレーニングと検証の分割は、厳密な正確なマッチング評価とともに、学習可能な動作条件付きダイナミクスと、慣れ親しんだレイアウトの遷移を記憶する違いを区別する。
ゼロスクラッチバイトレベルのトランスフォーマーベースラインを確立し、2つのワーキングメモリ拡張アーキテクチャと比較する。
汎用的な補助的な潜在メモリ変換器は、いくつかのトレーニングセットに完全に適合するが、一貫してホールドアウト性能を向上しない。
対照的に、擬似ビデオ空間記憶変換器は、入力マップから2次元潜在ワークスペースを初期化し、中間マップ、位置、状態ラベルを受信することなく、アクション履歴から更新する。
同じデータ、目的、評価プロトコルの下では、バイトと非構造化メモリのベースラインがなければ選択された固定水平タスクに対して完全な検証精度に達し、シーケンシャルなテキストトレース予測を大幅に改善する。
これらの結果から、構造化されたタスクアラインなワーキングメモリは、追加の潜在能力よりも有用であることが示唆された。
より広範に、言語基盤は永続的なデータ構造とそれらの上の計算によって仲介されていると論じる。このベンチマークは、テキストインターフェースを学習された構造化状態に結合するアーキテクチャをテストするためのコンパクトな設定を提供する。
関連論文リスト
- Parameter-Efficient Adaptation of Pretrained Language Models for Time-Series Forecasting [2.141079906482723]
我々は,事前訓練したGPT-2バックボーンの埋め込み空間に直接,固定長の時系列パッチを投影する。
我々は, (i) 表現戦略 (連続埋め込みとテキストシリアライゼーション) , (ii) 適応体制 (部分的あるいは完全微調整) および (iv) 入力コンテキスト長の影響を解析した。
論文 参考訳(メタデータ) (2026-09-14T10:30:59Z) - ConfAL-WM: Confidence-Guided Active Learning for Action-Conditioned World Models [33.57978728341114]
本稿では,ポストトレーニング後の実世界モデルのための信頼度誘導型アクティブラーニングフレームワークConfAL-WMを提案する。
EVACに基づいて構築され、UNetデコーダの特徴を探索し、潜伏空間における密度の高い信頼マップを予測するために軽量な信頼度を付加する。
これらのマップはタスク、フレーム、パッチレベルスコアに集約され、効率的なデータ選択とローカライズされたトレーニング強化の両方を可能にします。
論文 参考訳(メタデータ) (2026-08-26T09:29:08Z) - URDF-Anything: Constructing Articulated Objects with 3D Multimodal Language Model [76.08429266631823]
3次元マルチモーダル大言語モデル(MLLM)に基づくエンドツーエンドの自動再構築フレームワークを提案する。
URDF-Anythingは、ポイントクラウドとテキストマルチモーダル入力に基づく自己回帰予測フレームワークを使用して、幾何学的セグメンテーションと運動論的パラメータ予測を協調的に最適化する。
シミュレーションと実世界の両方のデータセットの実験は、我々の手法が既存の手法よりも大幅に優れていることを示した。
論文 参考訳(メタデータ) (2025-11-02T13:45:51Z) - Memo: Training Memory-Efficient Embodied Agents with Reinforcement Learning [53.72709564555407]
Memoは、強化学習のためのトランスフォーマーベースのアーキテクチャとトレーニングのレシピである。
トレーニング中のモデルの入力と周期的な要約トークンをインターリーブすることで、メモリの生成と検索を組み込む。
グリッドワールドメタRLベンチマークとマルチオブジェクトナビゲーションタスクにおけるMemoの有効性を,フォトリアリスティック屋内環境で実証する。
論文 参考訳(メタデータ) (2025-10-22T16:24:47Z) - Detect Anything via Next Point Prediction [51.55967987350882]
Rex-Omniは最先端の物体認識性能を実現する3BスケールのMLLMである。
COCOやLVISのようなベンチマークでは、Rex-Omniは回帰ベースのモデルに匹敵するパフォーマンスを得る。
論文 参考訳(メタデータ) (2025-10-14T17:59:54Z) - From Editor to Dense Geometry Estimator [77.21804448599009]
密度幾何予測のための拡散変換器(DiT)アーキテクチャに基づく高度な編集モデルを適用するフレームワークである textbfFE2E を紹介する。
FE2EはETH3Dデータセットで35%以上のパフォーマンス向上を実現し、100$times$データでトレーニングされたDepthAnythingシリーズを上回っている。
論文 参考訳(メタデータ) (2025-09-04T15:58:50Z) - Echo State Transformer: Attention Over Finite Memories [2.118933003468525]
本稿では,逐次データ処理の課題をエレガントに解決するハイブリッドアーキテクチャであるEcho State Transformers(EST)を紹介する。
ESTはTransformerのアテンションメカニズムとReservoir Computingの原則を統合し、固定サイズのウィンドウ分散メモリシステムを作成する。
ESTは5つのカテゴリのうち2つで総合的にランク付けし、分類と異常検出タスクにおける最先端のベースラインを上回っている。
論文 参考訳(メタデータ) (2025-06-25T09:56:25Z) - Unified Human Localization and Trajectory Prediction with Monocular Vision [64.19384064365431]
MonoTransmotionはトランスフォーマーベースのフレームワークで、モノクロカメラのみを使用して、ローカライゼーションと予測タスクを共同で解決する。
両タスクを統合フレームワークで共同でトレーニングすることにより,ノイズの多い入力による実環境シナリオにおいて,我々の手法がより堅牢であることを示す。
論文 参考訳(メタデータ) (2025-03-05T14:18:39Z) - ORIGAMI: A generative transformer architecture for predictions from semi-structured data [3.5639148953570836]
ORIGAMIは、ネストされたキー/バリューペアを処理するトランスフォーマーベースのアーキテクチャである。
分類を次点予測として再構成することで、ORIGAMIはシングルラベルとマルチラベルの両方のタスクを自然に処理する。
論文 参考訳(メタデータ) (2024-12-23T07:21:17Z) - Never Train from Scratch: Fair Comparison of Long-Sequence Models Requires Data-Driven Priors [44.5740422079]
標準的なデノベーション目的による事前トレーニングは、複数のアーキテクチャで劇的に向上することを示す。
先行研究とは対照的に、適切に事前訓練された場合の長距離アリーナでのS4の性能に適合するバニラトランスフォーマーが見つかる。
論文 参考訳(メタデータ) (2023-10-04T17:17:06Z) - A Memory Transformer Network for Incremental Learning [64.0410375349852]
本研究では,モデルが学習する時間とともに,新しいデータクラスが観察される学習環境であるクラスインクリメンタルラーニングについて検討する。
素直な問題定式化にもかかわらず、クラス増分学習への分類モデルの素直な適用は、これまで見られたクラスの「破滅的な忘れ込み」をもたらす。
これは、過去のデータのサブセットをメモリバンクに保存し、将来のタスクをトレーニングする際の忘れの防止にそれを活用することで、破滅的な忘れの問題を克服するものだ。
論文 参考訳(メタデータ) (2022-10-10T08:27:28Z) - Memory Transformer [0.31406146587437894]
トランスフォーマーベースのモデルは、多くの自然言語処理タスクにおいて最先端の結果を得た。
メモリ拡張ニューラルネットワーク(MANN)は、従来のニューラルネットワークを拡張し、汎用メモリで表現する。
我々は,これらのメモリ拡張トランスフォーマーを評価し,メモリの存在がモデル性能と正の相関関係があることを実証した。
論文 参考訳(メタデータ) (2020-06-20T09:06:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。