技术指导

  “只需要52.1元，就能还原逝去亲人的容貌并和ta聊天。”生成式AI技术的发展浪潮之下，与逝去的亲人“再见一面”似乎日渐成为可能。

  《法治日报》记者近日调查发现，用AI“复活”逝去的人，已发展成了一门生意。在一些电子商务平台上，有不少做AI“复活”生意的商家。在某电子商务平台，AI“复活”的商品标价从几元、几十元到上百元乃至数千元。与此同时，近年来，AI换声、AI换脸等诈骗手段也慢慢变得高级，欺骗用户的情感和钱财。

  受访专业的人建议，AI“复活”技术提供者提供服务前，应明确要求用户更好的提供相关证明，并加强技术防范，避免AI产品侵犯他人合法权益或被用于欺诈等不法行为。有关部门要加强监管，推动建立行业标准，既保证技术创新，也要保障人类的价值和尊严。

  对于突然失去父亲的云南人柳芳(化名)来说，身在异乡没有见到父亲最后一面是人生最大的遗憾。回到家乡，办完父亲的身后事，看到父亲曾经坐过的沙发，或是无意中点开和父亲的微信聊天框……她的眼泪就会止不住地流下来。

  “他在弥留之际想和我说什么？是不是还会叮嘱我好好吃饭？不要和丈夫闹脾气？”难过时，柳芳总是把自己关在房间里，一遍遍地翻看自己和父亲的聊天记录。

  直到在短视频平台上刷到有商家提供AI“复活”亲人的服务，柳芳像抓到了救命稻草一般，很快下了单。“我很想再看到我父亲，即便知道那是不真实的，但我还是很渴望听到父亲对我说话，听一听他的叮嘱”。

  支付200多元并提供了父亲生前的录音和照片，还有她希望听到父亲说的话，柳芳收到一段短视频。视频里，父亲微笑着对她说着话，短短几十秒，柳芳看了几十遍。

  所谓AI“复活”逝者，即利用人工智能技术，将逝去亲人的文字描述、图片、视频和声音资料输入AI算法模型，从而模拟生成一个数字形象，具备逝者的性格、记忆、图像、视频和声音。

  在数字“复活”领域工作的陈亮(化名)介绍说，他们的产品大致上可以分为两种。一种是以视频为媒介，通过逝者的照片和声音，创作生日祝福或安慰的视频。另一种是开发一款可对话的聊天机器人，这款机器人不仅具备逝者的声音和外貌特征，还能模拟客户亲人的性格和记忆，与用户进行对话，为客户提供个性化的体验。这些不同形式的产品对应的价格从52.1元到521元不等。

  记者注意到，在一些电子商务平台上，也有不少做AI“复活”生意的商家。在某电子商务平台，这些AI“复活”的商品，标价从几元、几十元到上百元乃至数千元。

  记者咨询了其中一户商家，其店铺有3款商品，分别是创意AI修复亲人“复活”照相、AI配音仿真模拟定制专属、AI代唱翻唱歌手声音克隆，3款商品标价均为10元。

  还有商家和记者说，商品具体价格要根据照片和要求来定，如果只是让照片里的人动起来，只需要出示正面照片，成片是10秒左右。如果想要让照片里的人说话，需要出示正面照片和音频，价格根据视频时长确定。假如没有音频，则提供文字内容，商家给配普通话声音。

  至于记者提到的“可以实时互动的”AI商品，咨询的某电子商务平台10户商家都表示做不了。有商家解释说，要实现实时互动，需要用AI训练，这不是一个软件就能做到的。

  有观点认为，在生成式AI技术的加持下，和逝去的亲人“再见一面”成为可能，弥补了情感的缺憾。

  也有观点认为，这样的做法毫无意义，人没了就是没了，这只会让自己更难走出失去亲人的痛苦。

  还有人质疑，用逝者生前影像样本克隆出来的“亲人”，还是我们认识的那个人吗？

  记者注意到，在国内，像陈亮这样的制作团队并不少见，一些公司加快涉足AI“复活”亲人的领域，如地处江苏省南京市的某AI技术团队，在半年多时间里帮助600多个家庭实现“在线团圆”，平均一单的费用从几千元到1万元不等。

  即使如此，陈亮和记者说，团队在实操过程中遭遇多方面的挑战。例如，技术上的限制就是一大挑战，声音克隆需要清晰的声音文件，而目前的算法主要支持普通话，对方言和口音的支持较为有限。

  “由于逝者大多年龄较大，他们生前留下的声音文件并不多，这限制了产品的扩展和适合使用的范围。同时，人类对于通过输入文字与逝者的数字形象对话的模式也持观望态度，并非所有人都愿意尝试或信任这种创新。”陈亮说。

  “完成和未完成的比例大概在3：2。”用AI技术帮助顾客“复活”已故亲人的超级头脑工作室负责人张泽伟透露，没办法提供服务的原因有多种：委托人提供素材过少、家中有人反对等。

  在中国传媒大学文化产业管理学院法律系主任郑宁看来，为保障逝者的人格权益，制作方只有经过逝者继承人的同意才能进行有关“复活”操作。同时，制作方在利用AI技术数字“复活”逝者后，还需要承担一些法律责任，“比如说制作出来的形象与实际偏差太大，对用户逝去亲人的形象造成一定扭曲，就非常有可能侵害逝者的名誉权、肖像权等相关权益”。

  北京嘉维律师事务所律师赵占领提到，虽然已故人士不再具备隐私权，但逝者的近亲属仍需保护死者的隐私权益和肖像权益。“假如慢慢的出现泄露隐私或损害名誉的情况，逝者的近亲属有权提起诉讼”。

  陈亮和记者说，当用户表达希望制作逝者数字人时，制作团队会要求有消费意愿的用户证明与逝者的关系并提供逝者已经去世的相关证明，以防有不良企图者将生成产品用于欺诈等不法行为。

  陈亮说，此外，为实现AI数字人与用户的深度对话，此类制作团队一般会将自身产品接入大型模型系统，由大型模型系统作为数据库提供语料支持，“在这样的一个过程中，我的制作团队会去除一些敏感词汇，以防止不法用户通过视频操控数字人，诱导数字人向亲友提问类似银行卡密码等隐私信息。只要存在这种可能性，数字人就会重新再启动系统，从而解决潜在的欺诈问题”。

  调查中，受访业内人士透露，作为生成式AI技术落地应用的一个细致划分领域，正在尝试提供AI“复活”逝者服务的，有初创团队，也有头部企业。由于种种原因，这门特殊的生意，整体上还处于低调谨慎的探索阶段。

  对此，郑宁也建议，想要通过AI技术“复活”自己亲人的潜在受众，挑选出正规机构是确保个人隐私信息安全和合法权益的关键。

  “签署合同也是重要的一环，在合同中必须明确规定数字人的财产权等权利属于个人而非企业。此外，合同还应包括对违约责任的详细规定。假如发现合作企业存在违法违反相关规定的行为，应及时向主管部门进行举报和投诉。这种举报能够在一定程度上帮助维护整个行业的合法秩序，保障广大新老用户的合法权益。”郑宁说。

  此外，根据2023年7月颁布的《生成式人工智能服务管理暂行办法》，在生成式人工智能研发技术过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员做必要培训，提升守法意识，监督指导标注人员规范开展标注工作。

  记者在调查中发现，购买AI数字“复活”产品的消费者大多并未看到有关标注以证明产品由AI制作。对于《生成式人工智能服务管理暂行办法》的相关规定，许多消费者并不了解。

  对此，赵占领指出，如果制作方使用自己研发的人工智能软件生成产品并在销售过程中不进行标注，是一种违背法律规定的行为。若使用其他人工智能软件生成的产品上标注了相关信息，但制作方通过技术方法将其去除，是不是满足法律规定则尚待商榷。目前，虽然人工智能技术在我国兴起的时间不长，《生成式人工智能服务管理暂行办法》等规定的出台相对及时，但对于数字“复活”等技术，目前尚未有专门的法律和法规，在大多数情况下要在未来出现一些明显的异常问题时逐步进行规范。

  作为从业者，陈亮也希望未来运用数字“复活”技术需要有关部门发布资质牌照，由有关部门加强监督管理，让市场参与者更加放心。

  “立法通常是滞后的，尤其在新技术领域。”郑宁说，期望通过出现新问题就进行立法或修法往往难以处理问题，底线问题一定要通过立法解决，除此之外能够最终靠“软法”比如行业标准、企业自律行为等，在真实的操作中发挥规范作用，“在数字‘复活’领域，行业协会可以牵头制定伦理标准，企业和从业者遵循这些标准，有助于处理问题”。

  “任何诈骗或侵权的违法事件，都有具体的施害者，把握核心事实，运用现有的法律规则予以追究。在此过程，AI其实只是工具。”在郑宁看来，总体而言，科技发展的边界应该在维护社会法治、保护个人权益和确保伦理底线的前提下进行。数字“复活”技术的推广需要更加多的监管和规范，既保证技术的创新，也要保障人类的价值和尊严。

  受访专家觉得，针对数字“复活”技术的使用，现有法律难以规制的，可通过不断“打补丁”的方式出台新规则，逐渐完善规制数字“复活”技术的规范体系。与专门、系统立法相比，这种渐进式规则完善方式，可以给这一新领域的发展留出足够空间。