【重磅】用UE5创建你自己的MetaHuman虚拟数字人类---教程
AI时代悄无声息来到了我们的面前,并且迅速融入了人类社会,遍地开花。也意示着我们将在未来看到越来越多AI应用落地的例子。那么大家有没有想过,在某一天,自己也能创建一个完全属于自己的3D虚拟数字人,自己的脸,自己的身体,自己的声音,一个在虚拟世界里的自己。在今天能做到了!小布老师查阅了无数资料后,终于成功复制了一个自己的虚拟数字人,让我们先来看看效果图:
大家在视频里可以看到,3D世界里的虚拟数字人跟随着手机进行的面部扫描而进行变化,也就是将现实中的自己完全转化为了虚拟世界里的自己,由此实现了物理世界到虚拟世界的完美转化。看到这里,是否有小伙伴已经迫不及待想创建属于自己的虚拟数字人了?别急,我们首先需要一些准备工作。首先,制作虚拟数字人我们需要知道要使用的软件:
Unreal Engine 5 (windows软件)
Reality Capture 1.2(windows软件)
格式工厂(windows软件)
Live Link Face (IOS/安卓软件)
Unreal Engine 5是EPIC于2020年公布的第五代游戏引擎,逼真的效果,以及强大的资源库以及开源可编辑的特性,使得UE5引擎才成为了这个世界上最强的3D引擎,为了最好的产品表现,所以我们这次虚拟人也将基于UE5来创建。
除此之外,我们还需要使用Reality Capture,这是一款功能强大的3D模型制作工具。Reality Capture拥有高级运算分析以及代码工具,能够帮助用户轻松地创建二维和三维模型。所以我们需要借助这个软件录入我们面部信息,生成三维模型,为下一步创建虚拟人打好根基。
Live Link Face 可在虚幻引擎中轻松实现面部动画—为MetaHuman动画器捕捉表演以获得最高保真度的效果,或者从iPhone或iPad实时流送面部动画以进行现场表演。如果说要录制虚拟形象动画或者进行虚拟人直播,这个软件必不可少。
那安装好上述软件后,让我们开始吧!
01
录制扫描素材
d
第一步,我们需要录制自己的面部形象,以手机视频的形式录制,为了模型的精准,请尽量注意以下几点以保证面部信息能够被完整的拍摄下来:
请使用分辨率高的摄像头进行拍摄
拍摄过程中,请尽量多旋转头部
请不要佩戴眼镜
当录制好面部视频后,我们还需要将面部视频转换成帧图片,这个时候必须要用格式工厂来实现啦。
注意事项
转换成帧图片的时候,为了效果精确,尽量使用高精度,高帧率处理。推荐生成png格式图片,每秒20帧为宜。
好,完成了以上步骤后,我们应该能看到文件夹里的图片如下图所示,这就完成了第一个步骤。
02
面部建模
d
接下来我们就要请出Reality Capture啦,这款强大的软件将会根据我们的帧图片,通过高级算法,生成一个完整的3D脸部模型。这个步骤结束后我们将会初步看到我们脸部的3D建模结果。
首先我们要将格式工厂转换出来的帧图片导入Reality Capture里:
导入完成之后,在左方的任务栏里可以看到导入的image 1123张图片,此时图片还只是一张2D图片,我们还需要生成点云数据,点击Alignment-Align Images:
得到点云之后可通过拖动边框定位点(白色边框中)改变重建区域(即白色方框内部区域,如果要重建的只是单个人物模型,重建区域可以考虑调小一些,这样重建速度快且方便后续清除多余部分)
现在在屏幕里已经可以看到,由帧图片对齐生成的脸部模型图已经隐约可见,此时,我们可以开始进行三维重建,在WORKFLOW栏中点击High Detail(高配置)或者"Normal Detail"(低配置)选项,对选中区域进行细节重建,效果如下图:
此时可以看到一个类似于石膏的模型,可以清晰看见五官和轮廓,不过还没结束,我们还需要为纹理贴图,做最后准备工作,所以我们需要先清理多余的部分,加快重建速度
那么我们就需要使用Lasso套索工具画取任意想要清理的区域,选中的模型区域将由橙色高亮出来,在选取完不需要的模型区域(尽量把头发,配饰等全部去掉)之后,点击右侧Tools中的过滤选择(Filter Selection)按钮,即可得到剔除选中区域后进一步缩小范围的模型。
此时我们再仔细观摩一下目前的模型,我们可以很轻易看见,模型表面坑坑洼洼,不平整。在这样的模型中嵌入纹理,最终成品效果很差,所以我们还需要对坑洼的表面进行smooth处理,点击(Smoothing Tool)对模型进行抛光处理。
到了这一步,整个打磨流程就结束了,最后我们只需要着色和纹理就能得到最后的模型了。
点击(Unwrap)展开模型UV,最后点击Mesh Color & Texture的(Texture)就能完成纹理贴图了。
完成后,我们即可看到自己的脸了,是不是一模一样呢??
好了。别急着欣赏自己帅气或美丽的脸庞了,赶紧保存好然后导出吧。点击Export的(Dense Mesh Model),保存为*.obj或者*.fbx格式即可
注意事项
导出时把模型比例放大10倍, 免得导入之后,满世界找模型了。
03
创建MetaHuman本体
d
MetaHuman Animator是UE引擎创建虚拟数字人的重磅功能,其分为2个部分,第一部分是基于云角色创建工具MetaHuman Creator,它允许用户通过定制预设的3D角色来设计逼真的数字人类。它是作为一种先发制人的体验在2021年发布的。第二部分是虚拟引擎的MetaHuman插件,该插件于去年发布,可以基于在其他DCC应用程序中创建的3D扫描或面部模型创建MetaHumans。
这里有一点比较特殊,我们首先需要在虚幻引擎商店里去提前下载好MetaHuman插件(插件名字是MetaHuman插件,别搞错了哟),这样才能在打开工程时能够找到MetaHuman选项。
接着点击编辑--插件,然后搜索Live Link和MetaHuman这两个插件,都勾选上,保证处于启动状态。然后新建一个文件夹model把我们上一章节制作好的模型导入进来。
创建一个MetaHuman本体,然后打开
为刚创建好的本体,加上我们的模型
关掉光照
点开面部下面的Neutral Pose,选择屏幕框左下角的+号,右键刚显示出来的frame,把自动追踪开起来,这样的话,Live Link就能把采集到的面部动作给直接传输给MetaHuman模型,实现实时传输。
点击metahuman本体解算
点击身体,选择一个预设身体(本次教程只考虑脸部扫描)
最后点击网格体转MetaHuman,经过这些处理后,所有的模型数据全部都上传到MetaHuman后端的数据库了。
这时候我们需要了解一下MetaHuman Creator,这是一个基于云的Web应用程序,所有繁重的角色生成和定制都通过高端服务器进行流式传输。任何人都可以使用 MetaHuman Creator 网络应用程序创建自己逼真的、无限可定制的角色,而且使用起来再简单不过了!
04
人物模型添加细节
d
我们直接百度MetaHuman Creator,进入官网,选择最新版本即可。
进入页面后,我们在左边的创建栏里面就已经能看到我们上传的人物模型,同时屏幕右边已经有creator帮我们处理好的完整模型,可以看到一个活灵活现的自己已经出现在屏幕里,当然很多细节部分还需要我们在creator里进行捏脸,眼睛头发皮肤衣服身材胡子等等等,这一部分大家可以尽情发挥,创造一个想要的自己吧。
注意事项
目前来看,模型此时脸部还有许多类似包块的东西,很影响美观,所以我们可以在自定义网格体中,进行调整方可解决。
05
数字虚拟人诞生
d
当我们创造好自己的数字虚拟人之后,保存一下。此时我还需要把模型从MetaHuman后端给搬回来,回到UE5,点击窗口--Quixel bridge。
因为我们的模型都保存在我们EPIC账号下,所以我们先要登录自己的EPIC账号,然后就能在左边的MetaHumans-My MetaHuman看到我们账号下创建的模型了。
选中我们需要下载的模型,点击右下角download,然后等待下载,完成后点击右边的add按钮,就可将模型导入工程。
然后我们就看到了3D化的自己,出现在了屏幕上,怎么样,是不是很激动!
06
用模型干点什么
d
有了模型之后,其实我们可以做很多事情,比如用来录制视频,可以做虚拟直播,甚至可以做游戏,做动画。做一些现实世界的你,无法做到的事。那我们这里用录制视频为例子来做一个面部实时同步视频吧。
在App store商店里下载LIve Link Face软件
按照我截图里的设置设置好参数
找到Live Link选项--添加目标--输入本机电脑的ip地址。(确保手机和电脑链接的同一个wifi喔)
回到UE,点击窗口--虚拟制片--Live Link,如果一切顺利的话,等一下就会出现一个跟你手机名字一样的目标出现,确保打上了勾。
点击人物模型,在人物属性里找到Live Link--ARkit Face Subj选中刚刚发现的手机,勾选Use ARkit Face,这个时候,你可以对着手机开始说话了,然后。。。
到这里,关于虚拟数字人创建教程就完成了,至于视频,我们只需要导出模型的实时动画,同时将音频一并导入剪辑软件,就可以完成一部完整的虚拟数字人视频
07
总结
d
目前来看,3D技术的不断发展已经能够将现实的场景、现实的物体给搬进虚拟世界里,那么在未来虚拟世界里我们一定能够实现自己天马行空般的创意和想法,那你还有什么想了解的吗?还想学习3D技术吗?还有什么想学习的东西吗?还有什么不懂的吗? 赶紧扫描下方二维码来跟汇汇子聊聊吧(申请记得备注公众号呀),或者后台给我留言也是可以的哟!
觉得好,点亮在看哦~
虚拟数字人新人至少需要储备10+技能
虚拟数字人是如何制作的?都需要用到哪些技术?我们一起来了解一下。
(1)明确需求用途和虚拟形象类型
在开始虚拟形象设计之前,首先要明确虚拟数字人的形象类型以及品牌用途、使用场景,并结合品牌调性以及目标客户群体进行创作是重要基础。
(2)建模设计、绑定和真人表演捕捉
如何制作一个虚拟数字人?虚拟数字人形象定制需要什么流程?
虚拟数字人这一词语,在元宇宙概念普及下,相信在大家心目中已经不陌生