

▲“AI换脸”,成本低、监督慢、处罚轻。(视觉中国/图)
全文共 3178字,阅读大约需要 6分钟 盗用一个人的肖像和声音,有多简单?南方周末记者进行了实测。 一条视频,价格仅为数十元到二三百元,很快就能做好。发到四家短视频平台后,并未被主动封禁。自己举报自己后,只有一家平台下架视频,有的平台甚至还做了推荐。 本文首发于南方周末 未经授权 不得转载文|南方周末记者 梁婷
南方周末实习生 黄柏涵
责任编辑|张玥
“太可怕了,声音、口型完全看不出来真假。微信视频号,就这么盗用,把我AI了。”2026年2月26日,演员王劲松在微博上说。
有人利用他的肖像和声音,生成了一条虚假的理财推广视频。王劲松在评论中说,之前也有盗用,但做得很假,“现在措手不及,我家里人都分不清是不是真是我了”。
盗用一个人的肖像和声音,有多简单?
南方周末记者进行了一番实测。如果把明星十几秒的访谈视频,魔改成推广产品的广告语,便宜的仅需40元。如果想克隆本人原声,再加20元。交付时间,短的只要约两小时。
而当这个被做好的假视频涌入互联网世界:
发布后,在没有任何投流的情况下,几分钟内就得到一个点赞加收藏。这意味着,它立刻匹配到了一个潜在的目标客户。
平台并未主动识别、下架。哪怕是自己举报自己后,大部分情况下它也未被立刻下架,继续获得几千的播放量,甚至还获得平台的推荐。
1 “不能要求太完美, 不然配音演员要失业了”我们实测的,是将一段明星受访的视频,改为减肥类广告。
3月11日,我们以这个需求,联系了两家宣称可以进行AI视频制作的店铺,很快收到回复:可以。
A店是一家个人店,客服兼设计师,粉丝仅有个位数。店主称,实现真人换脸、模仿声音,用的是付费模型,价格比较贵。具体什么模型,不能透露。十几秒的视频,要价300元,最终讲价到200元。
对方不肯透露付费模型名称。(南方周末记者 梁婷 截图)
B店更成规模,是一家公司,有超过300位粉丝,店铺年销量超过10万+。有专人客服对接设计师进行服务。经营范围包括:平面设计、广告设计、礼仪服务、家居用品、金属制品销售等。
客服解释,他们用的是数字人技术。做十几秒视频,要价40元。如果需要克隆声音,再加20元。客服专门发来了样片。
画面里出现了几个韩国顶流明星的数字人身影,为某公司宣传韩国豪华邮轮度假。他们说着一口流利的中文,推荐大家到韩国免税店随心购物,还可以享受“邮轮专属掼蛋大赛”。
B店制作很快,大约40分钟就可以交付初稿,还可以免费换衣服,两三分钟即可完成。
A店所需时间更长,换衣服需要另加500元。店主说,日常做各种AI视频的都有,他也不知道客户用来干什么。不过,他还是经验颇丰,在我提出在视频上加一个“私信联系”的图片时,他提醒:“这样会不会说你引导?”
确定购买后,客服发来一个联系人二维码,后续沟通都在微信进行。客服的解释是,为了实时交流视频需求。
第二天,我把某明星接受采访的视频片段,分别发给这两家,要求他们改成推广“心理减肥”的视频。当天傍晚,便收到了两份成品,非常逼真。
只有少许瑕疵,比如有一处口播断句略显奇怪,当我提出这个问题时,A店店主说:“不能要求太完美,要不然配音演员要失业了。”
2 被举报之后,依然获得平台推荐做好视频的当天,3月12日22:30左右,我开始在视频号、抖音、快手、小红书注册了名为“心理减肥”的账号,并把两个视频上传至四个平台。
上传过程没有任何阻碍,且四个平台均未识别出它由AI生成。
微信视频号上传3分钟后,就有了7次播放,第二个视频也很快有2次播放。
3分钟内,抖音平台的播放量未增长,直到发布半小时后,才有了个位数的播放量。
在快手发布后,立刻显示有人看过,此后观看数一直处于上涨中。
而小红书在发布十分钟内,播放量就达到88次,还有一个人点赞并收藏了其中一个视频。令我惊讶的是,潜在的目标对象如此迅速地就在短视频的汪洋大海中被精准找到了。
在四个平台视频差不多发布半小时后,仍无平台方的动作。我决定用另一个账号举报自己,以内容是AI生成、侵犯他人权益、未添加AI标识等为由一一举报。
小红书反应最快,提交举报信息20分钟后,显示举报受理通过,内容已不可见。
在快手提交举报后,显示处理时间为24小时内。到了3月13日上午10点,平台还没有处理,两个视频的播放量都已接近或超过3000次,而且还在增长。为了不再传播,我把视频隐藏了。
在抖音,提交举报约十五分钟后,通过数字人技术制作的视频先显示受理;10分钟后,造价200元、付费模型换脸的视频也得到了回复,平台对两条视频的回复基本一致:“已收到反馈,将持续重点关注,一经核实将从严处理。”
之后我再点开这两个视频的投诉界面均显示:已重点监控。
何为重点监控?平台的解释是:根据当前提供的信息,暂未发现对方存在违规的情况。
这两个视频在我隐藏前,虽然浏览量不高,但依然可见。
在微信视频号,显示已收到投诉,但未有进一步动态。发布近两小时后,我再次打开查看时,用数字人技术制作的视频被标记了“可能使用AI技术制作”;另一个付费模型做的视频依然是漏网之鱼,且播放量一直在增加。
直到13日上午,我把视频设置为仅自己可见前,意外地收到了视频号平台发来的消息。这个造价200元的视频幸运地获得了平台推荐,实时播放量已经达到1220次。
不只是视频号,快手也为这200元的视频提供了一部分流量助推,视频的后台数据分析显示:累计获得150次额外播放。助推原因是:作品在“画质清晰度/标题质量/内容质量”上有提升。
这也发生在我提交举报之后。
(南方周末记者 梁婷 截图)
3 罚款2500元为了发布真假视频的对比,经同事同意后,我将她的一个出镜视频再交给两家店铺制作。成品出来后,她本人也感叹,“连气口都很像”。
她把假视频发给了家里人,没有人意识到这是假的。
最近一年来,利用名人视频影像做广告的AI视频愈发普遍。
有的是像王劲松被魔改的视频那样,投向了围绕“CRC”“RWA”等金融概念的“财富平台”。目前该视频号已经被封禁。
另一种是粉丝向的种草广告,使用的都是年轻女明星的视频。
极目新闻2月6日报道,“PLIFT官方旗舰店”的账号上发布了AI生成的演员赵露思推荐该品牌唇部精华的视频。
公司的品牌负责人回应,视频是平台投流时,后台用AI自动合成图文的形式做的推广。接到投诉后,已经下架。这类视频还涉及其他多个女明星。该公司后续是否有被处罚,无从得知。
我问AI,互联网上有多少短视频?它回答:中文互联网世界上的短视频是个无法精确统计的、每天都在急剧膨胀的天文数字。
如果非要一个准确数字,它给出的参考是,仅TikTok这一平台,全球用户每分钟上传的视频数量就超过1.6万条。在这些“天文数字”中,最终能被监管到并处罚的AI造假侵权视频并不多。
检索目前公开报道中提到的处罚案例可见,金额较高的是北京在2025年查处的首例AI虚假广告案,当事公司被罚20万元。
相比于获利,罚款非常有限。据《北京日报》报道,AI合成的虚假广告出现在这个公司旗下拥有88万粉丝账号的售卖鱼油的直播间。就留存下来的截图看,只在截图的那一刻,就成交了187单。若以鱼油最普通的价格200元来计算,当时就卖掉了37000元。
还有一例,是3月11日佛山市场监督管理局公示的案例,某公司合成了一个“AI温铁军”做产品广告的视频,被认定属虚假内容,违反有关法律规定,最终被罚款2500元。关于维权过程等,南方周末记者联系温铁军进行采访,被婉拒。
与监管的时间差,大概是这类视频肆无忌惮的另一个原因。市场监管的一般程序,从立案到作出处罚决定,都是以月起步。
根据规定,对相关当事方要在立案之日起90日内作出处理决定,因案情复杂或者其他原因,最多可以延长30日。而在实际工作中,从受理、核查再到立案,可能就得半个月到一个月。但是,这种视频其实都是以天甚至小时来收割流量的。
其他人都在看
象泰配资提示:文章来自网络,不代表本站观点。