guided synthesis/editing Task

✅ 过去的 guided synthesis/editing 任务是用 GAN based 方法实现的。

P12

Pipeline

Gradually projects the input to the manifold of natural images.

准备工作:一个预训练好的Image Diffusion Model
第一步:perturb the input with Gaussian noise
第二步:progressively remove the noise using a pretrained diffusion model.
[?] 怎样保证Denoise的图像与原始图像有高度的一致性?

特点

只需要一个预训练模型,不需要额外的finetune。

P13

其它应用场景

Fine-grained control using strokes

可以在Image上加上草图,也可以直接使用草图生成图像

P16

Image compositing

把上面图的指定pixel patches应用到下面图上。
SDEdit的结果更合理且与原图更像。

P17

效率提升

Efficient Spatially Sparse Inference for Conditional GANs and Diffusion Models

原理:全图生成速度比较慢,因此针对被编辑区域进行部分生成。

Li et al., "Efficient Spatially Sparse Inference for Conditional GANs and Diffusion Models", NeurIPS 2022