論文の概要: 4-Tensor Attention Model for Semantic Physical Reality
- arxiv url: http://arxiv.org/abs/2610.11716v1
- Date: Thu, 08 Oct 2026 11:19:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.968769
- Title: 4-Tensor Attention Model for Semantic Physical Reality
- Title(参考訳): セマンティック物理現実感のための4次元アテンションモデル
- Abstract要約: シーンの次のセマンティック状態を予測する4テンソルアテンションモデルについて述べる。
ROCStoriesでモデルをトレーニングし、各ウィンドウがセマンティック層で同じ次文タスクを処理します。
- 参考スコア(独自算出の注目度): 6.468603024183639
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We describe a 4-tensor attention model that predicts the next semantic state of a scene, for video generation and robot planning. A window of states has positions (x, t) and two fibers, a semantic fiber and a temporal-context fiber, and one softmax normalizes attention jointly over the window. Frames and an agent's situation are written as those states; the encoder, the renderer, and the planner remain outside the update. To test the update on its own, we train on ROCStories, where each window poses the same next-sentence task at the semantic layer. On the validation split, with one seed per setting, the last-sentence cross-entropy on the three matched settings is lower for the 4-tensor model than for a free-running one-dimensional transformer by 5.3% at H=2, L=2, by 2.6% at H=4, L=2, and by 2.4% at H=4, L=3. At H=4, L=2 the parameter counts are nearly the same, 172.5M and 175.9M. On the same two GPUs that 4-tensor run finished in 2.4 hours and the baseline run in 45.2 hours; the baseline is trained by free-running decoding, one sequential forward pass per target token.
- Abstract(参考訳): 映像生成とロボット計画のための,シーンの次のセマンティック状態を予測する4テンソルアテンションモデルについて述べる。
状態のウィンドウは、位置 (x, t) と2つの繊維、セマンティックファイバと時間コンテキストファイバを有し、1つのソフトマックスは、窓の上を共同で注意を正規化する。
フレームとエージェントの状況はそれらの状態として書かれており、エンコーダ、レンダラー、プランナーは更新の外部に留まっている。
アップデートを独自にテストするため、ROCStoriesでトレーニングを行い、各ウィンドウはセマンティック層で同じ次の文タスクを処理します。
バリデーションスプリットでは、3つの整合セッティングにおける最後のセッティングのクロスエントロピーが4テンソルモデルではH=2,L=2で5.3%、H=4,L=2で2.6%、H=4,L=3で2.4%低下する。
H=4, L=2では、パラメータ数は172.5Mと175.9Mとほぼ同じである。
4テンソルが2.4時間で実行され、ベースラインが45.2時間で動作したのと同じ2つのGPU上では、ベースラインはターゲットトークン毎に1つのシーケンシャルなフォワードパスであるフリーランデコーディングによってトレーニングされる。
関連論文リスト
- One Patch, Three Roles: What Is Actually Coupled in Autoregressive Time-Series Forecasting? [49.84472730204669]
凍結した親の軌道は, 軽量な平行出口で観測される未来よりも適合しやすいことを示す。
また、列車選択した周期的歴史方向に沿って補正可能な残射も見出す。
Tangentはこの修正を、ニューラルパラメータやTransformerコールを追加せずに適用する。
論文 参考訳(メタデータ) (2026-09-20T14:54:35Z) - When Should a Network Emit Geometry, and When Should It Detect It? Readout, Reconciliation, and Representation in Floorplan Vectorization [7.628568362560024]
ブートストラップされたフロアプランの壁、開口部、部屋を回復するよう訓練されたネットワークは、その出力を2つの方法で生成することができる。
同じトレーニングネットワーク上の2つのリードアウトを比較します。
一致したデータとレシピでは、調停ステップと壁優先シーケンスモデルを備えた部屋中心のシステムが、同等の壁品質に達する。
論文 参考訳(メタデータ) (2026-08-26T10:25:09Z) - VisualClaw: A Real-Time, Personalized Agent for the Physical World [76.89211120690028]
2つの原則に基づいて構築された自己進化型マルチモーダルエージェントであるVisualClawを紹介する。
第一に、ハイブリッド符号化は、情報の少ないストリーミングフレームをカスケードゲートでフィルタリングすることにより、デプロイメントコストを低減する。
第二に、スキルの進化により、エージェントは失敗から学び、将来の質問に役立つスキルバンク更新を生成する。
論文 参考訳(メタデータ) (2026-06-15T06:58:22Z) - A Policy-Driven Runtime Layer for Agentic LLM Serving [6.975319765760388]
マルチエージェント LLM システムはプロダクションワークロードの主流となっているが、サービススタックは構築されなかった。
このシームは、ポイント修正よりもアーキテクチャの変更によって対処されるのが最善である、と私たちは主張する。
5つの実マルチエージェントワークロードの予備的な結果は、+13から+37ppキャッシュヒットレートリフト、12%から29%低い平均TTFT、6%から14%高いスループットを示す。
論文 参考訳(メタデータ) (2026-05-26T22:38:34Z) - Diagnosing Overhead in Dispatch Operations: Cross-architecture Observatory [1.081571058570587]
AlltoAllのディスパッチは、MoEの専門家並列性の主要なボトルネックである。
ワークロードに関する2つの仮定をテストするために、DODOCOを導入します。
EPのスケーリングは、各アーキテクチャの計測可能な範囲内で、専門家ごとの最大/平均トークン比を5%以上変更する。
論文 参考訳(メタデータ) (2026-05-20T10:14:00Z) - LiBrA-Net: Lie-Algebraic Bilateral Affine Fields for Real-Time 4K Video Dehazing [24.861880909272998]
LiBrA-NetはUHDビデオデハージングの新しいベンチマークである。
UHV-4Kは、すべてのフレームに深度、透過度、光フローアノテーションを備えた最初の4Kビデオデハージングベンチマークである。
論文 参考訳(メタデータ) (2026-05-12T04:27:03Z) - Diff4Splat: Controllable 4D Scene Generation with Latent Dynamic Reconstruction Models [79.06910348413861]
Diff4Splatは、単一の画像から制御可能で明示的な4Dシーンを合成するフィードフォワード方式である。
単一の入力画像、カメラ軌跡、オプションのテキストプロンプトが与えられた場合、Diff4Splatは外見、幾何学、動きを符号化する変形可能な3Dガウス場を直接予測する。
論文 参考訳(メタデータ) (2025-11-01T11:16:25Z) - 4Real-Video-V2: Fused View-Time Attention and Feedforward Reconstruction for 4D Scene Generation [66.20991603309054]
本稿では,映像フレームの4次元時間格子と3次元ガウス粒子の時間ステップ毎にフィードフォワードアーキテクチャを用いて計算可能な最初のフレームワークを提案する。
まず,2ストリーム設計において,空間的および時間的注意を連続的に,あるいは並列に行う4次元ビデオ拡散アーキテクチャを解析する。
第2部では、ガウスヘッド、カメラトークン置換アルゴリズム、追加の動的レイヤとトレーニングを導入し、既存の3D再構成アルゴリズムを拡張した。
論文 参考訳(メタデータ) (2025-06-18T23:44:59Z) - St4RTrack: Simultaneous 4D Reconstruction and Tracking in the World [106.91539872943864]
St4RTrackは、RGB入力から世界座標フレーム内の動的ビデオコンテンツを同時に再構成し、追跡するフレームワークである。
静的および動的シーン幾何学の両方をキャプチャして、同じ世界において、同時に両方のポイントマップを予測する。
統合されたデータ駆動フレームワークの有効性と効率を実証し、世界フレームの再構築と追跡のための新しい広範囲なベンチマークを構築します。
論文 参考訳(メタデータ) (2025-04-17T17:55:58Z) - 2SSP: A Two-Stage Framework for Structured Pruning of LLMs [2.9248916859490173]
大規模言語モデル(LLM)を解析するための新しい2段階フレームワークを提案する。
textsc2SSPは2つの異なるプルーニング戦略、すなわちWidthとDepth Pruningを組み合わせる。
提案手法は,3つの言語モデルと6つの下流タスクに対して,最先端の5つの競争相手を一貫して上回ります。
論文 参考訳(メタデータ) (2025-01-29T17:05:33Z) - Joint Beam Search Integrating CTC, Attention, and Transducer Decoders [53.297697898510194]
4つのデコーダが同一のエンコーダを共有するような共同モデリング手法を提案する。
4Dモデルは共同で訓練され、モデルの正規化とモデルの堅牢性を最大化する。
さらに,3つのデコーダを組み合わせることで,新しい3つのビーム探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-06-05T05:18:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。