論文の概要: SplatMesh: Interactive 3D Segmentation and Editing Using Mesh-Based Gaussian Splatting

• arxiv url: http://arxiv.org/abs/2312.15856v3
• Date: Mon, 14 Apr 2025 17:53:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-15 16:44:38.086385
• Title: SplatMesh: Interactive 3D Segmentation and Editing Using Mesh-Based Gaussian Splatting
• Title（参考訳）: SplatMesh:メッシュベースのガウススプレイティングによるインタラクティブな3Dセグメンテーションと編集
• Authors: Kaichen Zhou, Lanqing Hong, Xinhai Chang, Yingji Zhong, Enze Xie, Hao Dong, Zhihao Li, Yongxin Yang, Zhenguo Li, Wei Zhang,
• Abstract要約: 3Dベースのインタラクティブ編集における重要な課題は、与えられたメモリ制約の下で様々な修正と高品質なビュー合成のバランスをとる効率的な表現がないことである。 SplatMeshは,3次元ガウススプラッティングと事前計算メッシュを統合した,対話型3Dセグメンテーション・編集アルゴリズムである。 単純化されたメッシュのセグメンテーションと編集により、ガウススプレートの編集も効果的に行えます。
• 参考スコア（独自算出の注目度）: 86.50200613220674
• License:
• Abstract: A key challenge in fine-grained 3D-based interactive editing is the absence of an efficient representation that balances diverse modifications with high-quality view synthesis under a given memory constraint. While 3D meshes provide robustness for various modifications, they often yield lower-quality view synthesis compared to 3D Gaussian Splatting, which, in turn, suffers from instability during extensive editing. A straightforward combination of these two representations results in suboptimal performance and fails to meet memory constraints. In this paper, we introduce SplatMesh, a novel fine-grained interactive 3D segmentation and editing algorithm that integrates 3D Gaussian Splat with a precomputed mesh and could adjust the memory request based on the requirement. Specifically, given a mesh, \method simplifies it while considering both color and shape, ensuring it meets memory constraints. Then, SplatMesh aligns Gaussian splats with the simplified mesh by treating each triangle as a new reference point. By segmenting and editing the simplified mesh, we can effectively edit the Gaussian splats as well, which will lead to extensive experiments on real and synthetic datasets, coupled with illustrative visual examples, highlighting the superiority of our approach in terms of representation quality and editing performance. Code of our paper can be found here: https://github.com/kaichen-z/SplatMesh.
• Abstract（参考訳）: 微粒な3Dベースのインタラクティブ編集における重要な課題は、メモリ制約の下で様々な修正と高品質なビュー合成のバランスをとる効率的な表現がないことである。 3Dメッシュは様々な修正に対して堅牢性を提供するが、3Dガウス・スプレイティングに比べて低品質のビュー合成をもたらすことが多い。 これら2つの表現の直接的な組み合わせは、最適化されたパフォーマンスをもたらし、メモリ制約を満たすことができない。 本稿では,SplatMeshについて紹介する。SplatMeshは3次元ガウスSplatを事前計算メッシュに統合し,その要求に応じてメモリ要求を調整可能な,対話型3Dセグメンテーション・編集アルゴリズムである。 具体的には、メッシュが与えられた場合、 \methodは色と形状の両方を考慮してそれを単純化し、メモリの制約を満たす。 次に、SplatMeshは、各三角形を新しい基準点として扱うことにより、ガウススプレートを単純化されたメッシュと整列する。 単純化されたメッシュのセグメント化と編集により、ガウススプレートの編集も効果的に行うことができ、実際のデータセットや合成データセットに関する広範な実験と、図形的な視覚的な例が組み合わされ、表現品質や編集性能の観点から、我々のアプローチの優位性が強調される。 私たちの論文のコードは以下の通りである。

関連論文リスト

• Chat-Edit-3D: Interactive 3D Scene Editing via Text Prompts [76.73043724587679]
  CE3Dと呼ばれる対話型3Dシーン編集手法を提案する。 Hash-Atlasは3Dシーンビューを表し、3Dシーンの編集を2Dアトラスイメージに転送する。 その結果、CE3Dは複数の視覚モデルを効果的に統合し、多様な視覚効果が得られることを示した。
  論文  参考訳（メタデータ） (2024-07-09T13:24:42Z)
• DragGaussian: Enabling Drag-style Manipulation on 3D Gaussian Representation [57.406031264184584]
  DragGaussianは、3D Gaussian Splattingをベースにした3Dオブジェクトのドラッグ編集フレームワークである。 我々の貢献は、新しいタスクの導入、インタラクティブなポイントベース3D編集のためのDragGaussianの開発、質的かつ定量的な実験によるその効果の包括的検証などである。
  論文  参考訳（メタデータ） (2024-05-09T14:34:05Z)
• Reference-Based 3D-Aware Image Editing with Triplanes [15.222454412573455]
  GAN(Generative Adversarial Networks)は、高品質な画像生成と、潜伏空間を操作することで実際の画像編集のための強力なツールとして登場した。 GANの最近の進歩には、EG3Dのような3次元認識モデルが含まれており、単一の画像から3次元幾何学を再構築できる効率的な三面体ベースのアーキテクチャを備えている。 本研究では,先進的な参照ベース編集における三面体空間の有効性を探索し,実証することにより,このギャップを解消する。
  論文  参考訳（メタデータ） (2024-04-04T17:53:33Z)
• Learning Naturally Aggregated Appearance for Efficient 3D Editing [90.57414218888536]
  カラーフィールドは、標準画像(canonical image)とも呼ばれる、明示的な2次元の外観アグリゲーションとして学習する。 テクスチャクエリのために3Dポイントを2Dピクセルにマッピングする投影場を標準画像に補完する。 提案手法は,既存のNeRFベースの編集手法に比べて,編集1回あたり20倍高速であることを示す。
  論文  参考訳（メタデータ） (2023-12-11T18:59:31Z)
• Scene-Generalizable Interactive Segmentation of Radiance Fields [64.37093918762]
  我々はSGISRF(Scene-Generalizable Interactive in Radiance Fields)の最初の試みを行う。 そこで本研究では,複数視点の2D画像に対して,対話的なユーザクリック数回しか表示されない,新しい(見えない)シーンの3Dオブジェクトセグメンテーションを実現するSGISRF手法を提案する。 多様なシーンをカバーする2つの実世界の挑戦的ベンチマーク実験は,1) 提案手法の有効性とシーン一般化性を示し,2) シーン固有の最適化を必要とする古典的手法と比較して良好な性能を示した。
  論文  参考訳（メタデータ） (2023-08-09T17:55:50Z)
• 3Deformer: A Common Framework for Image-Guided Mesh Deformation [27.732389685912214]
  ソース3Dメッシュにセマンティック素材とユーザが指定したセマンティックイメージが与えられた場合、3Deformerはソースメッシュを正確に編集することができる。 私たちの3Deformerは素晴らしい結果をもたらし、最先端のレベルに達することができます。
  論文  参考訳（メタデータ） (2023-07-19T10:44:44Z)
• Vox-E: Text-guided Voxel Editing of 3D Objects [14.88446525549421]
  大規模テキスト誘導拡散モデルが注目されているのは、多様な画像を合成できるためである。 本稿では,既存の3次元オブジェクトの編集に潜時拡散モデルのパワーを利用する手法を提案する。
  論文  参考訳（メタデータ） (2023-03-21T17:36:36Z)
• 3D Neural Sculpting (3DNS): Editing Neural Signed Distance Functions [34.39282814876276]
  本研究では,ニューラルネットワークを用いて表現された符号付き距離関数の対話的編集を行う手法を提案する。 メッシュのための3D彫刻ソフトウェアにインスパイアされた私たちは、直感的で将来彫刻家やデジタルアーティストが利用できるブラシベースのフレームワークを使用しています。
  論文  参考訳（メタデータ） (2022-09-28T10:05:16Z)
• MvDeCor: Multi-view Dense Correspondence Learning for Fine-grained 3D Segmentation [91.6658845016214]
  そこで本研究では,2次元領域における自己教師型手法を,微細な3次元形状分割作業に活用することを提案する。 複数のビューから3次元形状を描画し、コントラスト学習フレームワーク内に密接な対応学習タスクを設置する。 その結果、学習された2次元表現はビュー不変であり、幾何学的に一貫性がある。
  論文  参考訳（メタデータ） (2022-08-18T00:48:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。