AI“暴力”起号三天上万粉，技术背后有哪些思考？

近日，据报道，多个社交平台上，出现大量“AI起号秘籍”相关内容，不少内容声称“AI暴力起号，三天爆万粉，每日轻松变现300+”“用AI制作美女视频，条条播放10W+”——这些AI生成内容多以俊男靓女、育儿百科、健康养生为主，大都低俗猎奇。

这些起号教程的思路基本一致：需要借助两三个AI工具，按“文生图、图生图、图生视频”的标准化流程，几分钟就能制作一段长五秒的美女跳舞视频。起号成功后这些账号就会隐藏AI引流内容，开始挂橱窗带货、引流卖课。有的账号还被明码标价放到账号交易网站上，形成了一条“起号—转型—转卖”的灰色产业链。

在育儿博主赛道，一位外国人穿着正式，说着“婴儿三个月内不要抱”“吃XX提高智力”等看似专业的建议，还配有“学术背景”“行业经验”等虚构设定，但这些其实都是AI编的。在颜值博主赛道，一张男生照片在经过AI修饰后颜值更高，评论区网友都信以为真。二十年前广为流传的“有图有真相”，如今“有图”竟不能确认真假。

可以说，社交平台上的“起号秘籍”一直都存在，只不过，在AI时代，借助AI批量生产内容“起号”的成本更低，甚至不需要真人出镜，也不需要购买摄影器材、租场地。

娱乐、搞笑、颜值类内容的失实仅止于误导公众注意力，而当AI虚假内容渗透到健康、育儿、营养、心理咨询等公共议题领域时，误导的后果可能更严重：错误育儿知识可能影响婴幼儿成长；伪健康建议可能耽误病情；假心理专家可能加重焦虑人群的心理负担。

可以看到，AI正在让互联网上的信息真假难辨。AIGC内容的批量生成和自动传播能力，让“虚假内容生产”不再是个体行为，而有了“工业化生产”的可能，在文字和短视频领域尤其如此。

近年来，关于“AI造假”的消息频频在舆论场引发关注。如，“AI假新闻霸占家族群”“AI正在让互联网沦为垃圾场”之类的话题在增多。这在侧面也说明，AI造假的泛滥的确影响了人们对于真实信息的获取。毕竟，一个AI账号在短时间内可发布几十篇文章、几十条视频，借助平台算法推荐机制迅速获得数万，甚至数十万播放量。人们日常在众多信息中光分辨真实性这一项，就已经耗费大半精力。

在“前AI时代”，已有“造谣一张嘴，辟谣跑断腿”之说，如今面对AI的批量造假，辟谣甚至都显得十分无力，普通人面对海量信息更无招架之力。前不久，一则“顶流明星赌场输10亿”的消息在各大微信群里流传，传播广、影响大，最后由警方介入才确定该消息为人为使用AI编造。这不禁让人感慨，核实信息真实性的成本竟如此之高。

面对AI造假泛滥的现状，四部门联合出台《人工智能生成合成内容标识办法》，为规范AI生成内容划下了“红线”。显式标识与隐式标识的“双保险”设计，也有助于提升内容识别的技术门槛。新规自2025年9月1日起施行，也期待各个平台提前布局。

要看到，如果每一个“爆款AI账号”背后，都隐藏着对规则的挑战和对公众的误导，那流量终将反噬平台本身。在流量时代，保持真实，才是最值得坚守的内容生产底线。