“9.9元+21张照片”就可以获得一个数字分身和一套AI写真？近期，有个叫“妙鸭相机”的小程序火出圈。“我等了8个多小时，说前面排了好几千人。”“小程序都崩溃了。”……在抖音、微博、小红书等社交平台，不少用户都在追赶这趟潮流。不过，质疑也随之而来，最核心的是因用户隐私和数据安全问题引发的用户协议修改。在业内看来，AI写真市场确实存在不小的合规问题，消费者也需要加强辨别，谨慎使用。
现象：“妙鸭相机”近期刷屏
最近，有款叫“妙鸭相机”的AI小程序在抖音、微博、小红书等平台刷屏。“AI生成太清晰了，太漂亮了！”“妙鸭小程序搞这么一波，还去外面拍什么艺术照啊。”
(资料图)
按照妙鸭相机的流程，用户上传一张清晰的正面照以及至少20张多光线、多视角、多表情的上半身照片，即可生成一个数字分身。基于数字分身，再选择喜欢的模板，就可得到一套AI写真。制作数字分身的限时特惠价是9.9元，还附赠10个可用来精修写真的钻石。
从用户的分享来看，上传照片后，用户可以得到不同风格的写真照，如商务写真、时尚海报、证件照、旅游大片等，生成的照片均带有水印，如果想要下载高清照片或照片原图需支付额外费用。有用户告诉记者，证件照这类正面照的效果较好，和本人相似度最高；但艺术类写真就需要多次训练，生成图不太像本人。
据悉，由于体验的用户太多，“妙鸭相机”小程序曾一度“崩溃”。对此，妙鸭相机曾在官方微信公众号解释称，排队人数多的问题是因为AI训练需要消耗大量算力，目前团队正在加班加点解决，“当前算力紧张，您可以提交之后放置后台生成，其他程序在此期间都可以正常使用”。
“妙鸭相机”为何能出圈？
根据公开信息，妙鸭相机隶属于未序网络科技（上海）有限公司。企查查信息显示，该公司为土豆网背后主体公司，而土豆在和优酷合并后，早已被阿里大文娱收购。
未序网络的法人代表张龙同时也是优酷视频（西安）传媒科技有限公司的执行董事兼总经理，公司监事冯云乐在阿里巴巴、钉钉、优酷、高德、盒马、飞猪等阿里系公司担任监事。
“妙鸭相机之所以会火出圈，主要有两个原因：一是广告做得好，产品刚刚上线，自媒体就出现了大量软文广告；二是迎合了用户尝鲜心理，吊足了初期用户的胃口。”深度科技研究院院长张孝荣分析称。
盘古智库高级研究院江瀚则表示，妙鸭相机之所以会出圈，主要是因为它基于AI人脸识别技术，能够制作数字分身并自动生成不同类型的照片，包括写真、时尚海报、证件照等，满足了用户多样化的需求，同时也具备高度的创新性和吸引力。
据了解，市场以前也曾出现过脸萌、ZAO等类似应用，但都只是“昙花一现”。
“AI写真市场很可能是一阵风。虽然也存在想象空间，但是限于算法底座薄弱和算力成本昂贵，很快就会变冷。”张孝荣向记者表示，随着AI技术的不断发展和改进，市场上也可能会出现更多的替代性产品，旧的产品很快会被淘汰。
个人隐私问题引来争议
不过，妙鸭相机在刷屏的同时，也引来了不少质疑。对于这种AI小程序，有不少网友在质疑妙鸭相机之前的用户协议。
“您特此授权我方在全世界（包括元宇宙等虚拟空间）范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可，使得我方可以任何形式、任何媒体或技术（无论现在已知或以后开发）使用您的内容”。妙鸭相机用户协议一开始这样表明。
被质疑“霸王条款”后，妙鸭相机于近日更新了部分条款，现用户协议更正为“您所上传的照片将仅用于本服务使用，我们仅提供图像处理服务，不会提取识别信息，不会用于识别用途，服务完成后，系统将自动删除上述信息，不予留存”。
对此，张孝荣向信息时报记者表示，AI写真市场确实存在不小的合规问题。“首先，由于涉及利用个人照片生成数字分身，隐私和安全问题需要引起重视。保护用户个人信息和照片安全需要耗费不小的成本；其次，AI写真技术目前的成熟度还有限，有时候会出现生成效果不如预期的情况；此外，商业化推广时可能会出现虚假宣传或过度依赖技术的情况。”他提醒，消费者需要保持辨别力。
天使投资人、互联网专家郭涛也表示，AI换脸相关技术如果被滥用，存在数据安全、著作权侵权、商业秘密泄露、违法信息传播、诈骗案件频发等风险。
律师提醒：
AIGC生产者和消费者应注意这些规定
“通过AI技术对人脸的生物特征进行图像或视频编辑，进而提供人脸生成、人脸替换、人脸操控等服务的生成式人工智能服务提供者应当遵守相应的法律法规以及相关标准。”北京市京师律师事务所合伙人律师卢鼎亮向信息时报记者表示，监管以及合规的重点和依据主要体现在三个层面的要求：
首先是法律法规层面的合规要求，特别是需要遵守个人信息保护法、数据安全法、网络安全法的相关规定；
其次是要遵守部门规章方面的合规要求，比如需要遵守《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》《App违法违规收集使用个人信息自评估指南》《App违法违规收集使用个人信息行为认定方法》《展App违法违规收集使用个人信息专项治理的公告》《常见类型移动互联网应用程序必要个人信息范围规定》《儿童个人信息网络保护规定》等相关规定。
同时，也需要在国家标准层面，比如需要符合GB/T 35273-2020《信息安全技术个人信息安全规范》标准，GB/T 39335-2020《信息安全技术个人信息安全影响评估指南》标准等的要求。
根据上述法律法规以及规范性文件的要求，AIGC的内容生产者以及服务提供者需要承担数据安全保障义务、技术安全可信保障义务、个人信息安全保障义务；不得侵犯用户的隐私权和个人信息权益，不得侵害他人肖像权、知识产权等权利；在进行数据训练时，需要使用具有合法来源的数据和基础模型；对使用者的输入信息和使用记录依法履行保护义务，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录；AIGC的内容生产者以及服务提供者还应当依法及时受理和处理个人阅、复制、更正、补充、删除其个人信息等的请求。
对于消费者而言，则需要明确知悉AIGC服务提供者获取用户个人信息的范围和权限，一旦出现个人信息和数据泄露或者被非法使用等情况，应当立即保存好相关证据，向主管部门进行投诉举报；如果因为个人隐私和数据的非法获取或者非法使用给用户造成损害或者严重后果的，用户也可以向公安机关进行报案。
相关链接
《生成式人工智能服务管理暂行办法》即将施行
针对生成式人工智能服务，国家网信办等多部门于7月13日公开的《生成式人工智能服务管理暂行办法》指出，“生成式人工智能服务提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录”。这一管理暂行办法将自2023年8月15日起施行。该政策发布有望推动人工智能行业应用健康发展，AI应用生态有望加速成熟。
（文章来源：信息时报）
