論文の概要: Weakly-supervised Single-view Image Relighting
- arxiv url: http://arxiv.org/abs/2303.13852v1
- Date: Fri, 24 Mar 2023 08:20:16 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-27 15:16:29.233121
- Title: Weakly-supervised Single-view Image Relighting
- Title(参考訳): 弱教師付きシングルビュー画像のリライト
- Authors: Renjiao Yi, Chenyang Zhu, Kai Xu
- Abstract要約: 本稿では,ランベルトおよび低周波スペクトルの単一像をリライトする学習に基づくアプローチを提案する。
本手法では,写真からのオブジェクトを新しいシーンに挿入し,新しい環境照明下でリライトすることができる。
- 参考スコア(独自算出の注目度): 17.49214457620938
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a learning-based approach to relight a single image of Lambertian
and low-frequency specular objects. Our method enables inserting objects from
photographs into new scenes and relighting them under the new environment
lighting, which is essential for AR applications. To relight the object, we
solve both inverse rendering and re-rendering. To resolve the ill-posed inverse
rendering, we propose a weakly-supervised method by a low-rank constraint. To
facilitate the weakly-supervised training, we contribute Relit, a large-scale
(750K images) dataset of videos with aligned objects under changing
illuminations. For re-rendering, we propose a differentiable specular rendering
layer to render low-frequency non-Lambertian materials under various
illuminations of spherical harmonics. The whole pipeline is end-to-end and
efficient, allowing for a mobile app implementation of AR object insertion.
Extensive evaluations demonstrate that our method achieves state-of-the-art
performance. Project page: https://renjiaoyi.github.io/relighting/.
- Abstract(参考訳): 本稿では,ランベルトおよび低周波スペクトルの単一像をリライトする学習に基づくアプローチを提案する。
本手法では,写真からオブジェクトを新しいシーンに挿入し,ar応用に不可欠な新しい環境照明下でリライトすることができる。
オブジェクトをリライトするため、逆レンダリングと再レンダリングの両方を解決します。
この逆レンダリングを解消するために,低ランク制約による弱教師付き手法を提案する。
弱教師付きトレーニングを容易にするために,照度の変化を伴ってビデオの大規模(750Kイメージ)データセットであるRelitをコントリビュートする。
再レンダリングのために、球面調和の様々な照明下で低周波非ランベルト材料をレンダリングする微分可能な特異なレンダリング層を提案する。
パイプライン全体がエンドツーエンドで効率的で、ARオブジェクト挿入のモバイルアプリ実装を可能にする。
大規模評価は,本手法が最先端性能を実現することを示す。
プロジェクトページ: https://renjiaoyi.github.io/relighting/
関連論文リスト
- Relighting Scenes with Object Insertions in Neural Radiance Fields [24.18050535794117]
本研究では,物体のNeRFをシーンのNeRFに挿入するための新しいNeRFパイプラインを提案する。
提案手法は,広範囲な実験評価において,現実的な照明効果を実現する。
論文 参考訳(メタデータ) (2024-06-21T00:58:58Z) - IllumiNeRF: 3D Relighting Without Inverse Rendering [25.642960820693947]
対象の環境光と推定対象形状を条件とした画像拡散モデルを用いて,各入力画像をリライトする方法を示す。
ニューラル・レージアンス・フィールド (NeRF) をこれらの信頼された画像で再構成し, 対象光の下で新しいビューを描画する。
この戦略は驚くほど競争力があり、複数のリライトベンチマークで最先端の結果が得られることを実証する。
論文 参考訳(メタデータ) (2024-06-10T17:59:59Z) - SHINOBI: Shape and Illumination using Neural Object Decomposition via BRDF Optimization In-the-wild [76.21063993398451]
制約のない画像コレクションに基づくオブジェクトの逆レンダリングは、コンピュータビジョンとグラフィックスにおける長年の課題である。
マルチレゾリューションハッシュ符号化に基づく暗黙の形状表現により,高速かつ堅牢な形状復元が可能となることを示す。
本手法はクラス非依存であり,3Dアセットを生成するために,オブジェクトのWildイメージコレクションで動作する。
論文 参考訳(メタデータ) (2024-01-18T18:01:19Z) - NeFII: Inverse Rendering for Reflectance Decomposition with Near-Field
Indirect Illumination [48.42173911185454]
逆レンダリング手法は、多視点RGB画像から幾何学、材料、照明を推定することを目的としている。
本稿では,多視点画像から材料と照明を分解するエンドツーエンドの逆レンダリングパイプラインを提案する。
論文 参考訳(メタデータ) (2023-03-29T12:05:19Z) - WildLight: In-the-wild Inverse Rendering with a Flashlight [77.31815397135381]
本研究では、未知の環境光下での逆レンダリングのための実用的な測光ソリューションを提案する。
本システムは,スマートフォンで撮影した多視点画像のみを用いて,シーン形状と反射率を復元する。
提案手法は実装が容易で,セットアップも容易で,既存の逆レンダリング技術よりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2023-03-24T17:59:56Z) - Aleth-NeRF: Low-light Condition View Synthesis with Concealing Fields [65.96818069005145]
ビューアー中心のバニラNeRFは、表示方向の3D位置からの発光としてのみレンダリングプロセスを単純化する。
古代ギリシア人の排ガス理論に触発され、我々はバニラ・ネRFにわずかな修正を加え、低照度シーンの複数の視点で訓練した。
我々は、ボリュームレンダリングの段階で光の輸送を減らし、サロゲートの概念であるConcealing Fieldsを導入する。
論文 参考訳(メタデータ) (2023-03-10T09:28:09Z) - Enhancing Low-Light Images in Real World via Cross-Image Disentanglement [58.754943762945864]
そこで本研究では,現実の汚職とミスアライメントされたトレーニング画像からなる,新しい低照度画像強調データセットを提案する。
本モデルでは,新たに提案したデータセットと,他の一般的な低照度データセットの両方に対して,最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2022-01-10T03:12:52Z) - Relighting Images in the Wild with a Self-Supervised Siamese
Auto-Encoder [62.580345486483886]
本研究では,野生の単一ビュー画像の自己教師付きリライティング手法を提案する。
この方法は、イメージを2つの別々のエンコーディングに分解するオートエンコーダに基づいている。
Youtube 8MやCelebAなどの大規模データセットでモデルをトレーニングします。
論文 参考訳(メタデータ) (2020-12-11T16:08:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。