人脸检测、美颜、滤镜,字节跳动开放抖音同款AR特效平台

6月25日,字节跳动宣布推出AR特效平台Byted Effect。目前该平台面向企业用户免费开放,以帮助相关APP实现便捷高效地AR特效开发,推动AR产业的发展及应用。

字节跳动在AR领域深耕已久,此次开放的多个AR功能已成功应用于字节跳动旗下的抖音、火山小视频、faceu 等多款产品中,并催生出多个网红爆款。

除了“憨厚脸”、“甩狗头”这些流行全网的贴纸特效,不久前,国际博物馆日,抖音曾利用业内领先的Slam和3D渲染技术,创造出两款“奇妙博物馆”AR贴纸。与之相关的“博物馆抖音创意视频大赛”吸引上百万人关注。

在此之前,抖音也推出过实时人像抠图、染发等多种特效。去年年底,基于“人体关键点检测技术”的尬舞机功能推出后,抖音就在App Store中国区登顶。
此次开放的 Byted Effect 由字节跳动人工智能实验室(AI Lab)的图像算法工程团队自主研发,稳定运行于DAU过亿的产品上,性能和鲁棒性都经过真刀真枪的考验,具备速度快、功耗低等特性。目前,AR平台已开放人脸检测、美颜、滤镜 3 个模块。

其中,人脸检测模块采用了 AI Lab 自研算法,能进行 106 点精确定位,准确检测人脸轮廓和特征,可识别闭眼、嘴巴张开、摇头、点头、眉毛挑动、嘟嘴 6 种动作,更多的功能,包括人脸属性识别,年龄识别将在未来开放。该模块的计算完全实时进行,占用计算资源少,可完美适配几百元的低端机型。

此外,人脸检测算法在复杂环境(比如暗光)下鲁棒性强,即便识别对象佩戴眼镜也依然可以正常运作。
美颜模块则包含了市面上主流的美颜功能,包括实时磨皮、美白、大眼瘦脸,整体效果自然不失真,支持用户自行对美颜效果进行分级调节。开发者可直接接入手机或 app,实现视频流或图像美颜处理功能。另一滤镜模块利用GPU处理功能,速度快,性能大幅提高,可以满足视频流处理、图片处理等各种应用场合,通过配置资源,可以实现多种不同的滤镜效果。开发者亦可根据不同热点或需求自行开发,为拍照、视频或直播 App 为用户带来更多玩法,打造差异化体验,使真实世界能以个性化的方式表达,从而带动增强用户粘性、刺激平台的营收增长。
据记者了解,目前,借助 Byted Effect 中的人脸检测和关键点定位算法的 2D/3D 贴纸功能在当前版本中暂未开放。

产品相关负责人表示,Byted Effect 将持续增加模块,比如应用于抖音尬舞机的人体关键点检测、实时人像抠图、实时染发等,将于本年度上线,以满足越来越多样的 AR 特效需求。

去年苹果在WWDC2018开发者大会上发布了 ARKit 开发包,作为开发iOS平台 AR 功能的框架,今年4月,另一科技巨头Facebook也宣布开放AR平台World Effects。苹果CEO库克曾表示,增强现实技术将改变世界。

字节跳动表示,此次免费向业界开放人脸关键点检测等核心能力,是希望通过产品已有的技术积累,降低开发者的开发成本和难度,扶持优秀开发者、帮助构建中国的AR生态圈。

产业产品计算机视觉增强现实今日头条字节跳动
11
SDK网址: http://lab.toutiao.com/sdk