論文の概要: On the Generation and Mitigation of Harmful Geometry in Image-to-3D Models

• arxiv url: http://arxiv.org/abs/2605.09606v1
• Date: Sun, 10 May 2026 15:35:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.328852
• Title: On the Generation and Mitigation of Harmful Geometry in Image-to-3D Models
• Title（参考訳）: 画像から3次元モデルにおける有害な幾何学の生成と緩和について
• Authors: Yule Liu, Yilong Yang, Jiale Teng, Hanze Jia, Zeren Luo, Jingyi Zheng, Zifan Peng, Ke Li, Yifan Liao, Zhen Sun, Jiaheng Wei, Yang Liu, Zhuo Ma, Xinlei He,
• Abstract要約: 現在の画像から3Dモデルがどれだけ有害なジオメトリを生成できるかは、まだ不明である。 我々は、オリジナル、劣化、視点シフト、意味論的カモフラージュされた入力に基づいて、オープンソースおよび商用画像から3Dモデルを評価する。 我々は、有害な保持を1%に抑えることができるが、全体的な偽陽性コストは11%に抑えられるように積み重ねられた防衛を開発する。
• 参考スコア（独自算出の注目度）: 19.91201712992099
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in image-to-3D models have significantly improved the fidelity and accessibility of 3D content creation. Such a powerful reconstruction capability that enables creative design can also be misused by the adversary to generate harmful geometries, which can be further fabricated via 3D printers and pose real-world risks. However, such risks are largely underexplored: it remains unclear how well current image-to-3D models can produce these harmful geometries, and whether existing safeguards can reliably prevent such generation. To fill this gap, we conduct a systematic measurement study of harmful geometry generation and mitigation. We first describe this risk through three kinds of unsafe categories: direct-use physical hazards, risky templates or components, and deceptive replicas. Each category is instantiated with representative objects. We evaluate both open-source and commercial image-to-3D models under original, degraded, viewpoint-shifted, and semantically camouflaged inputs. We consider different evaluation metrics, including geometric validity, multi-view VLM-based semantic scoring, targeted human validation, and controlled physical fabrication. The results reveal a concerning reality that current image-to-3D models can effectively reconstruct the harmful geometries, while fewer than 0.3% of such geometries trigger commercial moderation flags. As a first step toward mitigation, we evaluate three representative safeguard families, including input moderation, model-level benign alignment, and output-level filtering. We find that existing safeguards have distinct weaknesses. We further develop a stacked defense that can reduce harmful retention to <1%, but still at 11% overall false-positive cost. Taken together, our findings demonstrate that the risk in current system and encourage better geometry-aware safeguards for moderation.
• Abstract（参考訳）: 画像から3Dモデルへの最近の進歩は、3Dコンテンツ作成の忠実度とアクセシビリティを著しく向上させた。 創造的なデザインを可能にする強力な再構築能力は、敵が有害なジオメトリーを生成するために悪用することもできる。 しかし、これらのリスクは、現在の画像から3Dモデルがどの程度有害な地形を生成できるか、そして既存の安全装置が確実にその発生を阻止できるかどうか、まだ明らかになっていない。 このギャップを埋めるために、有害な幾何学の生成と緩和の体系的な測定を行う。 まず、このリスクを3種類の安全でないカテゴリ、すなわち、直接使用の物理的ハザード、リスクの高いテンプレートやコンポーネント、偽りのレプリカで説明します。 各カテゴリは代表オブジェクトでインスタンス化される。 オープンソースと商用の3Dモデルの両方を、オリジナル、劣化、視点シフト、意味論的カモフラージュされた入力に基づいて評価する。 我々は、幾何的妥当性、多視点VLMに基づく意味的スコアリング、人体検証、制御された物理的製法など、さまざまな評価指標を検討する。 その結果、現在の画像から3Dモデルが有害なジオメトリを効果的に再構築できるのに対し、そのようなジオメトリの0.3%未満が商業的なモデレーションフラグをトリガーする、という懸念が浮き彫りになった。 緩和に向けた第一歩として、入力モデレーション、モデルレベルの良性アライメント、出力レベルのフィルタリングを含む3つの代表的なセーフガードファミリーを評価した。 既存のセーフガードには、明確な弱点があることが分かりました。 さらに, 有害な保持を<1%に抑えることができるが, 全体の偽陽性コストは11%に抑えられるようにした。 この結果から,現在のシステムにおけるリスクと,モデレーションのためのジオメトリ対応の安全対策の促進が示唆された。

関連論文リスト

• Reliev3R: Relieving Feed-forward Reconstruction from Multi-View Geometric Annotations [98.66466590444553]
  コスト制約のない多視点幾何アノテーションを使わずにFFRMをスクラッチからトレーニングするための弱教師付きパラダイムであるReliev3Rを提案する。 Reliev3Rのコアでは、多視点幾何整合性の監視を容易にするために、曖昧さを意識した相対深度損失と三角法に基づく再射損失を設計する。
  論文  参考訳（メタデータ） (2026-04-01T06:46:54Z)
• ERGO: Excess-Risk-Guided Optimization for High-Fidelity Monocular 3D Gaussian Splatting [63.138778159026934]
  本稿では,ERGOと呼ばれる過度のリスク分解によって導かれる適応最適化フレームワークを提案する。 ERGOはビュー固有の過剰リスクを動的に推定し、最適化中の損失重みを適応的に調整する。 Google Scanned ObjectsデータセットとOmniObject3Dデータセットの実験は、既存の最先端メソッドよりもERGOの方が優れていることを示している。
  論文  参考訳（メタデータ） (2026-02-10T20:44:43Z)
• Eval3D: Interpretable and Fine-grained Evaluation for 3D Generation [134.53804996949287]
  生成した3D資産の品質を忠実に評価できる細粒度で解釈可能な評価ツールであるEval3Dを紹介する。 我々のキーとなる観察は、意味論や幾何学的整合性といった3D生成の多くの望ましい特性を効果的に捉えられることである。 以前の研究と比較すると、Eval3Dはピクセル単位での測定を行い、正確な3D空間フィードバックを可能にし、人間の判断とより密に一致させる。
  論文  参考訳（メタデータ） (2025-04-25T17:22:05Z)
• Gaussian Splatting Under Attack: Investigating Adversarial Noise in 3D Objects [1.7205106391379021]
  物体検出モデルに対する敵対的攻撃は2D画像に対して十分に研究されているが、3Dモデルへの影響は未解明のままである。 この研究は、CLIPビジョン言語モデルをターゲットにした対向ノイズを生成するために設計されたMasked Iterative Fast Gradient Sign Method (M-IFGSM)を導入している。 提案手法は,人間の観測者に対してほとんど知覚できない対向雑音を伴って,モデルの精度と信頼性を効果的に低減することを示した。
  論文  参考訳（メタデータ） (2024-12-03T20:11:21Z)
• Latent Feature and Attention Dual Erasure Attack against Multi-View Diffusion Models for 3D Assets Protection [5.677981100052122]
  MVDM(Multi-View Diffusion Models)は3次元幾何再構成の分野において顕著な改善を実現する。 本稿では,MVDMによる知的財産権侵害問題に最初に対処する。
  論文  参考訳（メタデータ） (2024-08-21T08:06:06Z)
• Deep Geometric Moments Promote Shape Consistency in Text-to-3D Generation [27.43973967994717]
  MT3Dは高忠実度3Dオブジェクトを利用して視点バイアスを克服するテキスト・ツー・3D生成モデルである。 3Dアセットから幾何学的詳細を取り入れることで、MT3Dは多様で幾何学的に一貫したオブジェクトを作成することができる。
  論文  参考訳（メタデータ） (2024-08-12T06:25:44Z)
• GeoLRM: Geometry-Aware Large Reconstruction Model for High-Quality 3D Gaussian Generation [65.33726478659304]
  GeoLRM(Geometry-Aware Large Restruction Model)は、512kガウスと21の入力画像で11GBのGPUメモリで高品質な資産を予測できる手法である。 従来の作品では、3D構造の本質的な空間性は無視されており、3D画像と2D画像の間の明示的な幾何学的関係は利用されていない。 GeoLRMは、3Dポイントを直接処理し、変形可能なクロスアテンション機構を使用する新しい3D対応トランスフォーマー構造を導入することで、これらの問題に対処する。
  論文  参考訳（メタデータ） (2024-06-21T17:49:31Z)
• Shielding the Unseen: Privacy Protection through Poisoning NeRF with Spatial Deformation [59.302770084115814]
  本稿では,Neural Radiance Fields(NeRF)モデルの生成機能に対して,ユーザのプライバシを保護する革新的な手法を提案する。 我々の新しい中毒攻撃法は、人間の目では認識できないが、NeRFが正確に3Dシーンを再構築する能力を損なうのに十分強力である観察ビューの変化を誘発する。 我々は、高品質の画像を含む29の現実世界シーンからなる2つの共通のNeRFベンチマークデータセットに対して、我々のアプローチを広範囲に検証した。
  論文  参考訳（メタデータ） (2023-10-04T19:35:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。