本仓库论文方向

动画方向

让看到的景象成为一个会动的景象,其管线为:

景象 --(建模)--> 动画代理 --(驱动)--> 会动的代理 --(渲染)--> 会动的景象

根据代理的表达不同,又可以分为2D管线(2D建模)、3D管线(3D建模)。
不同的代理有不同的驱动和渲染方式。驱动需要外观信息(来自代理)、动作信息(来自动画数据)和外观与动作的关联关系,由此引申出动作生成和动作驱动两个领域。
将建模与驱动显式地分成两个步骤的方式,称为静态建模与驱动。也可以是由景象直接得到会动的的代理,称为动态建模与驱动。甚至直接由景象得到会动的景象,这就是可控文生视频。

3D管线

优势:由于会在3D进行建模,擅长时间、空间上的一致性的保持。不太容易出现非常奇怪的驱动的结果。
局限性:通常用于比较明确的主体

建模(外观来源、驱动代理)驱动方式(外观与动作的关联)动作(动作来源)渲染
Mesh建模 + 骨骼蒙皮LBS骨骼动作生成、骨骼动作捕捉、骨骼动作迁移
Mesh无(逐顶点直接驱动)Mesh顶点运动生成、运动捕捉、运动迁移
静态3DGS建模3DGS直接驱动3DGS渲染
静态3DGS建模3DGS动作提取3DGS绑定到骨骼3DGS渲染
动态3DGS同时实现建模和驱动3DGS渲染
3D点云重建3D点云驱动3D点云渲染
Nerf建模Nerf渲染

2D管线

优势:被驱动的内容更广泛,可以是任意图像内容
局限性:自由度高,时间、空间的一致性是难点,可能出现非常奇怪的结果,通常比较耗时

建模(外观来源)动作(动作来源)驱动(外观与动作的关联)渲染

仿真方向

创造一个具有物理真实感的景象,其管线为:

(建模)--> 仿真代理 --(驱动)--> 会动的代理 --(渲染)--> 会动的景象

仿真代理与动画代理相似但不同。
驱动所需要的动作信息中包含物理规律。
有些工作中,会同时结合动画与仿真。

总结

Pipeline3D建模(外观来源、驱动/仿真代理)驱动方式(外观与动作的关联)动作(动作来源)渲染
13DMesh
相关技术:3DMesh重建
骨骼带动Mesh顶点
相关技术:蒙皮绑定、LBS
骨骼动作
相关技术:骨骼动作生成、骨骼动作捕捉、骨骼动作迁移
2不同Mesh形变基的线性组合
相关技术:表情基绑定
表情基系数
相关技术:表情基系数预测
3逐顶点直接驱动Mesh顶点运动
4DMesh生成、运动捕捉、运动迁移
4顶点作为粒子,线作为约束,以物理规律控制顶点运动
关键技术:软体仿真
53DGS
相关技术:静态3DGS建模
3DGS直接驱动3DGS运动
相关技术:3DGS驱动
3DGS渲染
63DGS绑定到骨骼,骨骼驱动高斯点
相关技术:3DGS绑定
骨骼动作3DGS渲染
7每一帧都重新生成3DGS3DGS的全部属性
相关技术:动态3DGS
3DGS渲染
83D点云
相关技术:3D点云重建
逐顶点驱动点云运动数据
相关技术:3D点云驱动
3D点云渲染
相关技术:3D点云渲染
93D仿真粒子基于物理规律的粒子运动
相关技术:粒子仿真
粒子控制仿真粒子的渲染
10Nerf相关技术:Nerf建模[?][?]Nerf渲染
Pipeline2D建模(外观来源、驱动代理)驱动方式(外观与动作的关联)动作(动作来源)渲染
1MAT建模MAT动作提取MAT驱动MAT渲染
22D图形建模2D图形动作提取2D图形驱动2D图形渲染
3像素控制信号直接驱动像素
关键技术:可控图生视频
控制信号
4像素光流驱动像素 + inpainting
关键技术:inpainting
光流
关键技术:控制信号生成光流
52DMesh建模Mesh绑定到控制点上,由控制点带动Mesh控制点运动
6Mesh绑定到骨骼上,由骨骼带动Mesh骨骼运动

通用的AI技术

  1. Diffusion技术

读论文方法

转载出处:GAMES 在线报告227

找论文

  1. 找方向
  • 主流会议的paper session
  1. 找综述,精读
  • 搜索“方向”相关的关键词
  1. 找经典论文,精读
  • 综述里面被highlight的论文
  • 引用非常高的论文
  • 获奖论文
  1. 延伸
  • reference:综述里(第二章)被metion的论文次之
  • citation:在google里点击“被引用”
  1. 习惯
  • 维持一个paper queue,经典论文提高优先级
  • 从队首选一篇
  • 把reference和citation(筛去不相关)放入队尾
  1. 多交流

读论文

  1. Quick skim

内容:看图,看视频(会议的 presentation view) 目的:对文章了解大概 时间:十分钟

  1. Critical reading

内容:

  • Title
  • Abstract
  • Introduction
  • discussion/limitation

目的:

  • 核心问题是什么
  • 核心贡献是什么?
  • 大致方法是什么?有效?缺陷?验证?
  • 启发

记笔记

  1. Summary
  2. Fact.
  • motivafion
  • contribution
  • method
  • evaluation
  1. Crifical thinking
  • 批判优缺点
  1. Creative thinking

如何启发了我

  • 想到什么idea
  • 怎么improve
  • 怎么generalize
  1. what I have learned

精读:1周1~2篇

求反馈

  • 对照作者video的重点
  • 对照作者总结的limitaton
  • 分享,交流