論文の概要: SolarRenderer: Few-Step Generative Reference Rendering
- arxiv url: http://arxiv.org/abs/2610.28630v1
- Date: Tue, 20 Oct 2026 17:59:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.98228
- Title: SolarRenderer: Few-Step Generative Reference Rendering
- Title(参考訳): SolarRenderer: 数ステップのジェネレーティブリファレンスレンダリング
- Abstract要約: 今回紹介するSolarRendererは、凍ったMiniMax-H3 33Bのバックボーンを2基の軽量LORAで調整する構造条件付きビデオだ。
事前訓練された4ステップのLoRAから始まり、構造誘導分布マッチングレンダリングを4ステップで行い、50ステップのサンプリングより12.3倍速い。
ブロック因果一般化は、同じ設計をストリーミングに拡張し、768pのビデオをリアルタイムでレンダリングする。
- 参考スコア(独自算出の注目度): 54.4501172509664
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Game engines and coding agents can specify the layout, motion, and camera of a scene, yet turning such coarse structure into realistic video requires a renderer that follows the structure and completes the appearance it leaves open. Existing renderers are tied to the representation of one engine, need tens of denoising steps or a costly distillation of their own, and learn from conditions that are not aligned with their target videos. We present SolarRenderer, a structure-conditioned video renderer that adapts a frozen MiniMax-H3 33B backbone with two lightweight LoRAs. Structural videos enter the native reference pathway of the backbone at the positions of the frames they describe, without a type identifier and described only in plain text, so that a single control LoRA follows arbitrary structural representations. Starting from a pretrained four-step LoRA, structure-guided distribution matching renders in four steps, 12.3 times faster than 50-step sampling, while preserving the learned control. A block-causal variant extends the same design to streaming and renders 768p video in real time. To train the model, we build a frame-aligned corpus of 136K clips from game engines, simulators, and YouTube videos. Experiments on an in-distribution test set and a generalization benchmark of 16 structural representations show that SolarRenderer achieves state-of-the-art results across both, and generalizes to 11 unseen representations, including pose skeletons, drawings, and point clouds.
- Abstract(参考訳): ゲームエンジンやコーディングエージェントはシーンのレイアウト、動き、カメラを指定できるが、そのような粗い構造をリアルなビデオに変換するには、その構造に従い、開いた外観を完成させるレンダラーが必要である。
既存のレンダラーは1つのエンジンの表現に結びついており、数十のデノナイジングステップや自作の高価な蒸留を必要とし、ターゲットのビデオと一致しない条件から学習する。
冷凍されたMiniMax-H3 33Bのバックボーンに2つの軽量LORAを適応させる構造条件付きビデオレンダラーであるSolarRendererを紹介する。
構造ビデオは、タイプ識別子なしで記述されたフレームの位置でバックボーンのネイティブ参照経路に入り、プレーンテキストでのみ記述されるため、単一の制御LoRAは任意の構造表現に従う。
事前訓練された4ステップのLoRAから始まり、学習した制御を保ちながら、構造誘導分布マッチングを4ステップでレンダリングし、50ステップのサンプリングより12.3倍速くする。
ブロックカジュアルの変種は、同じデザインをストリーミングに拡張し、768pのビデオをリアルタイムでレンダリングする。
モデルをトレーニングするために、ゲームエンジン、シミュレータ、YouTubeビデオから136Kクリップのフレーム整列コーパスを構築しました。
分布内テストセットと16の構造的表現の一般化ベンチマークの実験により、SolarRendererはどちらも最先端の結果を達成し、ポーズスケルトン、描画、点雲を含む11の見えない表現に一般化することを示した。
関連論文リスト
- RenderBench: Benchmarking Render-to-Real Video Transfer with Reconstructed Digital Twins [10.586890894442071]
RenderBenchは、大規模な屋内環境と自我中心の視点にまたがる12の現実世界シーンのベンチマークである。
私たちの建設パイプラインは、視覚幾何学、神経再構築、補助的な3Dオーサリングを組み合わせています。
実写映像とPAI-Bench-C互換構造投影に対する転送モデルの評価を行い、シーンアノテーションを用いてオブジェクト、可視性、調音性、動きによる障害のローカライズを行う。
論文 参考訳(メタデータ) (2026-10-06T17:03:55Z) - TAME: Temporal-Aware Mixture-of-Experts for Text-Video Retrieval [1.4874449172133888]
Text-Video Retrieval (TVR)は、自然言語クエリにマッチしたビデオを取得する。
TVRは時間モデリングの欠如によって制限されている。
テキストビデオ検索(TAME)のためのテンポラル・アウェア・ミックス・オブ・エクササイズを提案する。
論文 参考訳(メタデータ) (2026-09-02T07:12:50Z) - FixAnything: 3D-Consistent Rendering Refinement via Video Generative Priors [46.96412859785915]
幅広いレンダリングアーティファクトを修正するためのモデルであるFixAnythingを紹介します。
これは、事前訓練されたビデオ生成モデルを再利用し、暗黙のマルチビュープリミティブを最小限の変更で活用することで実現している。
私たちの重要な洞察は、騒々しくレンダリングされたシーケンスでさえ、カメラの動きと粗いシーン構造を保ち、クリーンアップをビデオからビデオへの翻訳として定式化できるということです。
論文 参考訳(メタデータ) (2026-08-24T17:51:33Z) - Frames2LoRA: Parametric Video Internalization for Vision-Language Models [52.46510577817688]
Frames2LoRAはパラメトリックビデオ内部化の手法である。
知覚者ハイパーネットワークは、層ごとに生成された中間表現を読み出し、凍結されたVLMがビデオをエンコードする。
ローランド適応 (LoRA) アダプタを1つのフォワードパスで生成する。
論文 参考訳(メタデータ) (2026-06-03T02:07:35Z) - RealMaster: Lifting Rendered Scenes into Photorealistic Video [55.04231137698114]
最先端のビデオ生成モデルは驚くべきフォトリアリズムを生み出すが、生成したコンテンツをシーン要求に合わせるために必要な正確な制御は欠如している。
本稿では,3Dエンジンの出力と完全な整合性を維持しつつ,映像拡散モデルを用いてレンダリング映像をフォトリアリスティックビデオに引き上げる手法であるRealMasterを提案する。
RealMasterは既存のビデオ編集のベースラインを大幅に上回り、ジオメトリ、ダイナミックス、アイデンティティを元の3Dコントロールで指定しながら、フォトリアリズムを改善している。
論文 参考訳(メタデータ) (2026-03-24T17:32:42Z) - VideoLifter: Lifting Videos to 3D with Fast Hierarchical Stereo Alignment [54.66217340264935]
VideoLifterは、ローカルからグローバルへの戦略を断片的に活用する、新しいビデオから3Dパイプラインである。
再建プロセスを大幅に加速し、訓練時間を82%以上削減し、現在のSOTA法よりも視覚的品質を向上した。
論文 参考訳(メタデータ) (2025-01-03T18:52:36Z) - Structured Video Tokens @ Ego4D PNR Temporal Localization Challenge 2022 [93.98605636451806]
本報告では、Ego4D Point of No Return (PNR) におけるSViTアプローチについて述べる。
トレーニング中にのみ利用できる少数の画像の構造を利用することで、ビデオモデルを改善することができる学習フレームワークを提案する。
SViTは、0.656の絶対時間的局所化誤差を持つチャレンジテストセットで強い性能を得る。
論文 参考訳(メタデータ) (2022-06-15T17:36:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。