GS的运动代理:无

无需要代理,直接控制每个高斯球的运动。

控制信号:多/视角视频控制,GS运动代理:无

由视频直接驱动每个高斯点的运动控制信号与GS运动的关系非常直观,通过Video SDS和视频重建来约束,就可以实现驱动效果。
这实际上是一个基于3DGS的4D重建的问题。

控制信号:文本,GS运动代理:无

先用文本和首帧生成视频,再用视频驱动GS,即:

TI2V + 基于3DGS的4D重建

IDYearName解决了什么痛点主要贡献是什么TagsLink
2024.9.9Animate3d: Animating any 3d model with multi-view video diffusion充分利用现有具有多视图属性的3D资产,解决生成结果存在时空不一致问题1)多视角视频扩散模型(MV-VDM)
2)大规模多视图视频数据集(MV-Video)
3)基于MV-VDM,我们引入结合重建技术与4D分数蒸馏采样(4D-SDS)的框架,利用多视图视频扩散先验实现3D对象动画。
静态高斯模型:预置
表达对象:单个3D对象
运动信息来源:自己训练的多视角图生视频
驱动方式:直接驱动(HexPlane)
监督方式:4D-SDS,视频重建,ARAP
运动推断方式:先前向,再优化
link
1112023.12Dreamgaussian4d: Generative 4d gaussian splatting隐式表示 (NeRF)的场景重建与驱动都非常低效一个系统性的图像到4D生成框架静态高斯模型:DreamGaussianHD
表达对象:单个3D对象
运动信息来源:图生视频得到的单视角视频
驱动方式:直接驱动(HexPlane)
监督方式:video SDS,视频重建
运动推断方式:优化
link

GS运动代理:物理仿真对象

---
title: 基于物理仿真对象代理的GS驱动  
---
flowchart LR

3DGS资产 --> |分割| 具有不同物理属性的高斯球 -->|绑定| 物理仿真代理
用户交互 -->|转化| 力
力 & 物理仿真代理 -->|驱动| 变形物理仿真代理
变形物理仿真代理 & 3DGS资产 --> |带动| 变形GS资产

技术一:高斯对象分割
一个高斯场景中可能包含多个对象,这些对象具有不同的物理属性,因此需要分割。

  1. 显式分割
  2. 隐式分割

技术二:将静态高斯对象绑定到物理仿真代理上。

  1. 代理通常是由高斯球采样或人工挑选出的粒子。
  2. 这些粒子可以再重组成Particle或Mesh或Grid或其它混合仿真形式。
  3. 仿真粒子带动高斯粒子

技术三:学习物理仿真对象的物理属性。

  1. 人工配置
  2. 从视频中学习

技术四:使用物理仿真驱动物理仿真对象

  1. 借助物理仿真方法(粒子系统、网格系统)
  2. 神经网络方法

借助物理仿真的方法

IDYearName解决了什么痛点主要贡献是什么TagsLink
1292025.8.13TRACE: Learning 3D Gaussian Physical Dynamics from Multi-view Videos不同物理属性的对象需要人工标注无需要人工标注,从视频中学习每个高斯点的动力学属性对象分割:无显式分割
物理仿真代理:高斯球作为刚性粒子
物理属性:从多视角视频中学习
仿真方式:刚性粒子仿真
开源
link
1752025.6.9PIG: Physically-based Multi-Material Interaction with 3D Gaussians由3D高斯基元表征的场景中,物体间的交互存在三大缺陷:三维分割精度不足、异质材质形变失准及严重渲染伪影。1. 从二维像素到三维高斯基元的快速精准映射,从而达成精确的物体级三维分割
2. 为场景中分割后的物体赋予独特物理属性,以实现多材质耦合交互
3. 创新性地将约束尺度嵌入变形梯度,通过钳制高斯基元的缩放与旋转属性消除渲染伪影,达成几何保真度与视觉一致性。
对象分割:显式分割
物理仿真代理:高斯球采样
物理属性:预置?
仿真方式:MLS-MPM
link
1812025.6.5FreeGave: 3D Physics Learning from Dynamic Videos by Gaussian Velocitylink
1742025.6.4EnliveningGS: Active Locomotion of 3DGS3D 高斯溅射(3DGS)表示的 3D 模型能够实现主动运动高效且鲁棒地建模“活化模型”与环境之间的摩擦接触对象分割:显式分割
物理仿真代理:四面体+肌肉
物理属性:预置?
仿真方式:肌肉动力学
link
2024.6.16Physically embodied gaussian splatting: A realtime correctable world model for robotics以统一的方式捕捉几何、物理及视觉外观信息提出一种新颖的“高斯-粒子”双元表征,该表征在建模物理世界的同时,(i)支持对未来状态进行预测性仿真,并(ii)允许在动态世界中基于视觉观测进行在线校正。对象分割:先分割再建模
物理仿真代理:粒子(先建粒子,再细化成高斯)
物理属性:从视频中学习
仿真方式:通过『粒子仿真+形状约束』实现刚体仿真、软体仿真
link
2024.4.15Physgaussian: Physicsintegrated 3d gaussians for generative dynamics通过将基于牛顿力学的物理动力学无缝集成到3D高斯模型中,实现高质量的新运动合成对象分割:无分割
物理仿真代理:高斯球作为粒子
物理属性:预置?
仿真方式:MPM
link
2024.4.1Language-driven physics-based scene synthesis and editing via feature splatting.同时操控GS对象的外观与物理属性1. 提出了一种将高质量、以物体为中心的视觉-语言特征蒸馏至三维高斯模型的方法,从而支持基于文本查询的半自动场景解构。
2. 提出了一种利用粒子仿真器从原本静态的场景中合成基于物理的动态效果的方法,其中材料属性通过文本查询自动分配。
对象分割:基于语言的分割
物理仿真代理:高斯球作为粒子
物理属性:通过文本查询自动分配
仿真方式:MPM
link
2024.3.14Reconstruction and simulation of elastic objects with spring-mass 3d gaussians物体物理属性并进行仿真对象分割:无
物理仿真代理:Volume Sampling得到anchor,再构建弹簧系统
物理属性:从视频中学习
仿真方式:Mass-Spring System
link

神经网络方法

IDYearName解决了什么痛点主要贡献是什么TagsLink
1772025.6.18Particle-Grid Neural Dynamics for Learning Deformable Object Models from RGB-D Videos对象分割:显式分割
物理仿真代理:高斯球采样成粒子,空间划分成风格
物理属性:从视频中学习
仿真方式:粒子仿真+网格仿真+数据学习
link
1792025.5.26ParticleGS: Particle-Based Dynamics Modeling of 3D Gaussians for Prior-free Motion Extrapolation动态重建方法不能显式学习动态演化规律,因此不能外推
引入了显式仿真框架的方法,需人工设定外力条件.
基于物理信息神经网络(PINNs)和基于神经常微分方程(Neural ODEs)均无法直接从视频中学习运动规律。
根据视觉观测数据建模三维高斯分布的动力学特性。首个无需任何人工定义物理先验、完全端到端的通用动态三维外推方法。
2019Occupancy flow: 4d reconstruction by learning particle dynamics

GS运动代理:Mesh

IDYearName解决了什么痛点主要贡献是什么TagsLink
2024.10.9Dreammesh4d: Video-to-4d generation with sparse-controlled gaussian-mesh hybrid representation时空一致性与表面外观图像->3DMesh->Mesh形状->GS形状运动信息来源:单目视频
驱动方式:Mesh形变驱动
link