换脸软件火了 用户担心隐私泄露

一次性至少上传21张个人多角度照片 AI小程序可合成作出堪比照相馆效果的写真照

上传自己的照片，AI小程序就可以制作“数字分身”，做出的写真照片妆容发型堪比照相馆几百上千元拍摄的效果。近日，一款AI换脸软件火了。同时，该软件用户条款中“授予开发公司以任何形式使用上传的内容”而被质疑“霸王条款”，一些用户表示，“一次性至少要上传21张自己各个角度的照片，不会泄露隐私吗？”

体验

至少上传21张照片 付费制作“排队”超4小时

7月24日，北青报记者进入某小程序尝试制作AI照片，点击“制作数字分身”后被要求上传一张正面照与20张多个角度、表情的照片，北青报记者确认生成后应用跳转至公众号，付费9.9元小程序就开始制作照片了。所有操作完成后，小程序页面显示前面有2592人正在制作，预计需要4小时15分制作成功。此外，不少用户还表示在使用这款AI应用时被系统告知服务器被挤爆了。

上述小程序是一款依据AI能力再度“生成”同一人照片的AIGC类应用，很多用户表示这款软件出图效果“非常强大”。95后女生小佳是该软件的一名用户，她对北青报记者说：“这款软件制作的照片和我平时出去拍的写真几乎没有区别，出图效果挺让我意外的，里面还有很多不同风格的模板可以使用，现在的AI换脸技术真是越来越厉害了。”

质疑

“授权使用照片”被指属于霸王条款

北青报记者测试发现，这款小程序需要用户至少上传21张个人照片，包括1张“五官清晰的正面照片”和20张“多光线、多背景、多视角、多表情”的半身照，总共需要21张照片。对此，有用户表示，使用这款小程序最担心的就是自己的隐私安全，上传这么多照片，如何储存、使用，以及后期如何处理都待解决。

此前有用户发现，该小程序的用户协议中显示：“为了使我方能够提供、确保和改进本服务(包括但不限于使用AI生成内容作为再训练数据等)，并且仅根据适用的《隐私政策》，除了本条款授予我方的任何其他权利外，您特此授予我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可，使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容。此处我方的‘使用’是指使用、托管、存储、修改、交流、发布或任何我方认为合适的使用方式。在您通过本服务向我方平台提交您的上传内容之前，您将确保您有必要的权利来授予我方许可。”

网友狗头学长表示，授权条款其实是霸王条款，虽然这类条款可以主张无效，但人脸信息数据泄露是不可逆的。网友catto也表示，用户花费9.9元上传的照片，很有可能被一些商家收集成“数据集”转卖了，这就意味着商家可以随意生成用户的成人照片甚至视频、3D建模，任意使用用户的脸做广告、做视频，更可怕的是不法分子还可能拿着用户的照片进行诈骗。

回应

换脸软件称用户照片分身制作完成后自动删除

对于用户的质疑，7月20日某小程序官方表示已修改用户协议：“已经收到用户关于用户协议的反馈，原协议内容有误，我们**时间根据实际情况进行了修改。并承诺，用户上传的照片只会用于数字分身制作，不会提取也不会用于识别和其他用途，且分身制作完成后自动删除。”

虽然协议已更改，但部分网友还是表示对此有所担忧。用户“zzz”表示这款小程序很好用，但是用完以后她还是不放心，于是申请注销账号了，怕哪天自己的隐私被泄露。此外，一些在内测期间以及协议修改之前使用过该应用的用户提出质疑：“现在改了协议，那在协议未修改前上传的照片安全吗？之前收集的图片信息是否已经被泄露出去了？”还有用户担忧在实际操作中无法保证图片“自动删除”。

此外，另一款可换脸的软件“××”也曾一时风光，其因用户协议存在巨大的法律风险而陷入舆论风波。根据此前的用户协议第6条第1款规定：在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予‘××’及其关联公司以及‘××’用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。

知名互联网学者刘兴亮表示，这一软件不光借此免费获得了上传资料中所包含肖像信息的使用权和转授权，还将侵权的风险转嫁给了用户，虽然网络上关于面部信息可用于刷脸支付属于过度解读，但也说明大数据时代人们的隐私保护意识在不断增强。迫于舆论压力，如今该软件的用户协议已经有了调整。

隐私保障

人工智能服务数据不得非法留存输入信息

北青报记者了解到，7月13日，国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》，其中提到，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务；提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录；提供者应当依法及时受理和处理个人关于删除等其个人信息等的请求。

国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

陕西泽诚律师事务所的赵腾飞律师称，国家互联网信息办公室、工业和信息化部、公安部、市场监管总局联合制定的《APP违法违规收集使用个人信息行为认定方法》中，此类应用若过度收集用户信息问题，涉嫌违反必要原则。从上述文中相机最初版本用户协议来看，用户授权之后会给APP方极大权限使用自己的肖像等人身信息。由于用户同意了这种授权，当此类应用将用户照片用于营利或者其他商用，将会损害使用者权益。对于类似过度要求授权无关信息等行为，可以向相关监管部门投诉举报。

赵律师也表示，新协议相较原协议对用户信息及隐私有了一定的保护，但是需要运营商严格遵守，不能用作其他用途，同时要及时删除无关信息。如果运营商擅自使用，根据民法典人格权编的相关规定，构成侵犯他人肖像权。

本组文/本报记者 温婧 实习生 张慧婧