AI诈骗，开始失控了

连亲情都能批量生产 封面 I AI制图 作者 I 李东阳 报道 I 李东阳朋友圈 “姨姨妈妈，求求你别划走，我已经三天没好好吃饭了。” 最近，短视频平台上出现了一批叫“小海”的苦命男孩。他们对着镜头哭诉身世，一口一个“姨姨妈妈”，不少中老年女性看得心疼，纷纷下单购买豆浆粉、抹布、翡翠吊坠。 最让人揪心的，是一位79岁老人。她瞒着家人买了火车票，准备跨越几千公里，去山西运城看望自己惦记的“亲人小海”。直到被乘警拦下，她才知道，自己牵挂的孩子根本不存在。 据调查，这些“小海”大多是 AI 生成的数字人，所谓单亲身世、生活窘迫、缺少母爱，不过是可以随时复制的剧情。 截至10月15日，某短视频平台“小海”相关话题播放量已达6亿次。制作这类数字人的教程，在网上几十元到几百元就能买到。 更值得关注的是，这门生意的利润空间。 记者调查发现，部分商品佣金高达52%至55%。有商品通过“小海”的带货链接售价99元，而同款商品在其他电商平台只需六七十元。运营者甚至可以利用AI生成视频、套用固定话术，再配合自动化工具批量发布，省去拍摄、出镜和剪辑等环节。 这套生意经并不复杂：先用苦情故事建立信任，再用亲昵称呼制造关系，最后把同情心引向购物车。 过去做带货，主播需要花时间建立人设、积累粉丝；如今，一张AI生成的脸、一套现成的剧本，就可能复制出一批新的“孩子”。 当情感被做成标准化内容，亲情也就成了一种可以计算转化率的商品。 当然，AI生成数字人本身没有问题。虚拟主播可以介绍商品，数字人也能降低内容制作成本。真正的问题在于，有人故意编造身世，把虚构的苦难包装成真实经历，再利用观众的情感信任促成交易。 这也是“小海”事件最值得警惕的地方：技术降低了造假的门槛，却没有降低识别骗局的难度。 尤其对于一些不熟悉AI技术的老年人来说，屏幕里的孩子每天唱歌、做饭、诉苦，评论区还有人喊着“儿子别哭”。反复出现的内容，很容易让人产生一种熟悉感。看得久了，虚构的人物也可能被当成真实的生活对象。 年轻人一眼能看出的破绽，不代表老人也能看出来。拿“怎么连AI都认不出来”去嘲笑他们，既解决不了问题，也忽略了运营者真正利用的东西：人对陪伴的需要，以及对弱者的善意。 更何况，这类账号的背后可能不止一个运营者。媒体报道过类似的AI数字人带货套路，人物从“王建国”换成“小海”，称呼变了，情感营销的逻辑却没有变。 这意味着，治理不能只盯着某个账号。 2025年9月1日起施行的《人工智能生成合成内容标识办法》，已经对AI生成内容的标识提出明确要求。但标注内容由AI生成，只是让用户知道内容的来源，并不意味着虚构身世、诱导交易的问题就自动解决了。 平台还需要识别批量生产的相似人设、虚假救助话术，以及背后的商品推广链条；对明显利用虚构苦难诱导消费的账号，不能只等用户举报后再处理。商家和运营者也不能因为人物是虚拟的，就认为自己可以不对宣传内容负责。 毕竟， AI 可以生成一个孩子，却不应该成为制造虚假亲情、收割真实消费者的挡箭牌。 这门生意最讽刺的地方在于，运营者不需要真正关心老人，也不需要真正养育一个孩子。他们只需要知道，什么样的故事能让人心软，什么样的商品能带来更高佣金。 老人以为自己在帮助一个生活艰难的孩子，运营者看到的却可能只是一笔订单。 当79岁的老人真的买好火车票，准备去见屏幕里的“亲人”，这场交易就已经越过了普通带货的边界。 技术可以制造越来越逼真的虚拟人物，但信任不应该成为可以随意编造、反复变现的东西。 特别