深网|从一夜爆红到全民声讨,换脸应用ZAO究竟做错了什么?

文章正文
2019-09-02 08:34

[摘要]AI换脸技术存在的伦理道德风险已经让用户对换脸应用有所顾忌,ZAO用户协议中关于个人和他人肖像权授权的界定,更是直接引爆了外界的质疑。

腾讯《深网》作者 马关夏

“仅需一张照片,出演天下好戏”。这是近日刷爆朋友圈的换脸应用ZAO逢脸造戏的广告语。从刷屏走红到质疑不断,ZAO仅仅用了一天时间。

对ZAO的质疑主要来自AI换脸存在的伦理道德风险,以及ZAO产品本身对用户隐私和相关信息的保护程度。

“AI换脸并不是新技术。”一位长期研究人脸识别和分析技术的专业人士告诉《深网》,AI换脸所使用的核心技术是人脸关键点检测GAN(生成式对抗网络模型),这项技术目前已相对成熟,ZAO的换脸功能使用“deepfake”+移动端优化就可以做到,不过并不确定ZAO是否使用了“deepfake”的开源代码。

“deepfake”是国外一项开源AI换脸软件。据《智东西》报道,2017年12月,国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上。当时“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星。由于大量受害者的投诉,Reddit论坛迫于压力封杀了“deepfakes”的账号,不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。

女明星“出演”情色电影里的女主角,AI换脸存在的伦理道德风险可见一斑。但这仅仅是ZAO被质疑的冰山一角。

用户协议争议

AI换脸技术存在的伦理道德风险已经让用户对换脸应用有所顾忌,ZAO用户协议中关于个人和他人肖像权授权的界定,更是直接引爆了外界的质疑。

“ZAO的用户协议太离谱了”“简直是霸王条款”有用户在阅读ZAO的用户协议后这样说到。

ZAO的用户协议中关于用户必要授权的部分包含如下条款:

“1) 在您上传及/或发布用户内容之前,您同意或者确保实际权利人同意授予“ZAO”及其关联公司以及“ZAO”用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利; ”

“2) 如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动;”

一位微博认证为@法山叔的知名法律博主这样解释他对以上两项法律条款的理解,“根据协议内容,该app除了可免费使用并修改你的肖像,还可以将它任意授权给自己想授权的第三方,当做信息进行贩卖。所以当有一天,你在zao或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候,你想起诉zao,不好意思,它会拿出这个协议来堵你的嘴,告诉你你自己早已同意。”

“比如现在你将杨幂的脸换成自己的脸,你除了要保证自己永久、不可撤销地把自己的肖像免费给zao使用,还要保证杨幂同意zao及关联公司使用她的肖像...这么做,就是因为自己没钱拿到明星们的授权,日后侵权,它们可以将锅甩给你们。”

此外,ZAO的用户协议中还包含关于用户侵权的条款:

“7) 若您侵害他人名誉权、肖像权、知识产权等合法权利的...ZAO 可以诉诸行政执法机构或司法机关,追究相应法律责任。若因您违反本协议或 ZAO 平台的其他规则导致任何第三方损害的,您应当独立承担法律责任并承担损害赔偿责任;zao 及其关联公司遭受损失的,您也应当一并赔偿。”

《深网》就相关条款咨询北京德恒律师事务所徐凯律师,徐凯对《深网》表示,“该协议存在两个层面的问题。1,该协议涉嫌违反《网络安全法》确立的合法、正当、必要三原则,超过必要限度,其收集利用用户信息的相关行为可能导致行政处罚,具体参照网络安全法第四十一条、六十四条。2,该用户协议为在线格式协议,一旦进入司法诉讼程序,该条款有可能因为未明确向用户说明或者违反《网络安全法》等众多原因而归于无效。”

或许是受舆论影响,9月1日上午,《深网》发现ZAO已对用户协议的部分条款作了修改。

是否存在隐私泄露风险?

“ZAO 可能很危险的… 别看你今天玩得开心,过段时间就有可能你的支付宝被盗刷脸了?不过这事儿很难怪 ZAO,谁让你认知浅薄了呢?”8月31日,李笑来在微博上这样说到。

质疑ZAO存在信息泄露风险的不止李笑来,“有手机号,有面部图像,通过技术合成,犯罪分子可以替你和你的家人通话。”有网友在使用ZAO后这样评价。

外界的担忧并非空穴来风。从ZAO的产品形态来看,在App手机实名注册的情况下,用户需要进行FACE ID的上传和存储,而且考虑到用户要进行社交分享,这就很可能存在隐私信息泄露的风险。

有观点认为,ZAO或许应该向用户做出如下解释:

1、用户图像、FACE ID如何传输和存储的,加密等级如何,监守自盗或者被黑产盗库的可能性有多大,如何预防?

2、账户、手机号、密码、FACE ID存放的逻辑是怎样的,是否能够有效防范黑产的用户画像和定位?

3、一旦发生隐私泄露,基于用户FACE ID、手机号等核心信息,用户其他财富账户被盗刷的几率有多大?

由于工商信息显示,ZAO公司两名核心人员王力和雷小亮均为陌陌高管,公司股权关系也与陌陌有关,因此,《深网》就以上相关问题询问陌陌内部相关人士,不过并未得到回应。

“AI 换脸视频有可能破解刷脸支付吗?”对于这个问题,支付宝公开回应称“目前,网上各类换脸软件有很多,但不管换的有多逼真,都是无法突破刷脸支付的。“刷脸支付”采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。此外,在进行人脸识别后,部分用户还需要输入与账号绑定的手机号进行校验,进一步提高了安全性。”

一位业内人士也向《深网》表示,“用换脸软件盗刷支付在技术上不可行。”

ZAO能火多久?

据称ZAO一夜爆红后,已经吸引了大批风投机构的关注,不过在考虑机会之前,首先需要想清楚的是ZAO能火多久?

事实上,ZAO并非第一款在国内走红的换脸软件。今年7月,一款名为FaceApp的俄罗斯变脸应用就曾在迅速走红。这款使用神经网络编辑照片的软件,可以将照片中的人脸变老、变年轻、变性感等等。短时间内,无论是明星还是普通网友都开始分享自己的“老年”照片。FaceApp也从国外火到了国内。

七麦数据的统计显示,7月19日,FaceApp一度位居国内App Store免费应用榜第1名,但FaceApp的热度随后迅速下降,截止8月30日,FaceApp在App Store免费应用榜的排名已下滑至600名左右。

这也是包括FaceApp这类换脸应用在内的很多爆款应用普遍面临的问题,这些应用往往快速蹿红又快速沉寂。如何延长自己的生命周期,是ZAO目前需要考虑的问题。

而目前来看,ZAO面临的主要挑战,除了用户和监管层面对伦理道德风险和隐私保护的担忧,还有产品层面视频版权、肖像权的争议,以及商业模式的困扰。

ZAO产品可以对影视剧片段进行换脸,这可能涉及到影视剧著作权、版权等问题。

2018年3月,原国家新闻出版广电总局下发的《关于进一步规范网络视听节目传播秩序的通知》规定:“坚决禁止非法抓取、剪拼改编视听节目的行为,并严格管理包括网民上传的类似重编节目,不给存在版权问题、内容问题等的剪拼改编视听节目提供传播渠道。”这导致很多影视类改编账号陷入版权纠纷,其中包括知名影视博主谷阿莫。

为了避免版权纠纷,ZAO在素材使用的版权声明中表示:“短视频和表情素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来自于用户自发的上传,ZAO不享有素材的商业版权。”

尽管ZAO声明不享有素材的商业版权,但并不能完全避免版权纠纷。此前,北京商报曾就谷阿莫版权纠纷采访中闻律师事务所合伙人赵虎,赵虎指出:“在原作的基础上进行二次创作,应该得到原作著作权人的许可,如果未经许可就使用了原作内容,就非常有可能构成侵权。”

北京德恒律师事务所徐凯律师对《深网》表示,“以互联网方式使用演员肖像的,涉嫌侵犯演员的肖像权;如果未经许可复制、网络传播影视剧短视频,则同时侵犯影视剧著作权人的著作权。”

由于ZAO产品可以对明星/名人表情包进行换脸,著作权之外,ZAO也需要关注是否涉嫌侵犯明星/名人的肖像权。

此外,ZAO在商业模式方面的挑战也不小,因为看似功能单一的AI换脸背后,是一个十足的烧钱机器。

“当(前)服务器制作量过大,请稍后再试。”8月31日,ZAO火爆朋友圈的第一天,有用户想要生成一段AI换脸视频,却遭遇了服务器繁忙提醒。

据微博认证为“ZAO官方助手”的用户此前一晚在微博上称,“这个月花700万租的服务器,今晚已经消耗1/3了。明天如果继续火爆,我们只能做严格一些的限制。”由此估算,ZAO每天仅服务器的花费可能就超过数百万元,而且随着用户规模的增长,花费还将上升。

据了解,ZAO使用的AI服务器集成了GPU/TPU/FPGA等模块。一位业内人士向《深网》介绍,现在一个标准的网络优化型服务器的费用是每月88元,而GPU计算型服务器最便宜的也需要2928元。

文章评论