互联网技术 / 互联网资讯 · 2023年11月7日

AI助手帮助女友自拍:从照片到3D视频

爱自拍的女生,为了拍一张美照总是需要很久,就是为了找到最美的角度。

比如这位妹子,在自己的书架前拍了4张自拍照,都不太满意。

这个AI能帮女朋友自拍:照片生成3D视频

现在可以把选最美角度这件事交给AI了,让妹子不再苦恼。只要几张照片,它能从中生成各种角度的自拍。

然后,你可以在AI生成的视频里,找到一个自认为最美的角度,分享到朋友圈。

这个AI就是华盛顿大学和谷歌联合开发的neRfies。

这种方法不需要太复杂的设备,只要智能手机的摄像头和CPU就能完成运算和渲染。这可比iphone 12 PRo用内置激光雷达来生成3D图像的成本低多了。

这个AI能帮女朋友自拍:照片生成3D视频原理

看到neRfies这个名字是不是有种似曾相识的感觉?neRfies其实就是NeRF+Selfies两个单词合并而来。

NeRF(神经辐射场)是谷歌最近开发的一种2D图像转3D的模型,但NeRF要求拍摄对象在整个过程保持完全静止。

比如,上面的妹子在自拍4张照片的时候,头部姿势不可避免地会发生变化,如果直接套用NeRF,效果惨不忍睹。

这个AI能帮女朋友自拍:照片生成3D视频

而neRfies则是可变性神经辐射场(DefoRMable NeRF),它能够重建非刚性变形的场景。

在NeRF的基础上,作者从几何和物理模拟的原理出发,提出了NeRF的弹性正则化,进一步提高了2D转3D的鲁棒性。

在可变性NeRF中,作者引入了弹性正则化、背景正则化以及一种可避免不良的局部最小值退火技术。

这个AI能帮女朋友自拍:照片生成3D视频

作者将潜在变形码(&oMega;)和外观码(ψ)与每个图像关联。在观测帧中对摄像机光线进行追踪,并使用变形场将样本沿光线转换到规范帧,变形场由变形码&oMega;编码为MLP。

另外使用转换后的样本位置(x0,y0,z0)、观察方向(θ,&pHi;)和外观码ψ作为MLP的输入,来查询模板NeRF模块,并沿着光线对样本进行积分。

更多玩法

可变性NeRF不仅可以用于自拍,还有更多好玩的用途。

比如创建“希区柯克变焦&Rdquo;的效果,过去需要专门的摄影技巧,或者是通过由远及近的拍摄视频再后期处理。现在只要几张照片就可以了。

这个AI能帮女朋友自拍:照片生成3D视频

如果不需要场景角度变化,而是需要人物姿势变化呢?

可变性NeRF能在头向左和向右之间线性插入任意姿势的照片。

这个AI能帮女朋友自拍:照片生成3D视频

最后还有一个用途是生成防抖视频。既然可变性NeRF可以生成任意角度的图像,那么现在可以让手负责抖,而让它负责稳了。

这个AI能帮女朋友自拍:照片生成3D视频

目前作者还没有公布源代码,不过他们的项目主页上已经放上了GITHub的按钮,看来他们已经准备开源了。你是不是迫不及待想试一下呢?

项目地址:
https://neRfies.Github.io/

论文地址:
https://aRxiv.oRg/abs/2011.12948

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.

登录免费注册