床上180万现金是假的！AI造谣已形成“流水线”，太吓人

最近，一则标题耸动的帖子在网上疯传：“上海老教授夫妇从21楼坠下，床上摆180万元现金”。帖子写得有鼻子有眼，地点精确到“虹口区安澜公寓”，人物、情节一应俱全，乍一看像真事儿。可真相呢？上海辟谣平台一查，虹口区根本就没有“安澜公寓”，近期也没发生过这类坠楼事故。更关键的是，国家反诈中心App等多个“AI鉴定”工具检测后，直接判定这帖子“含AI生成痕迹”。

说白了，这是一条彻头彻尾的AI编造的“故事”，却披上了真实新闻的外衣。记者顺藤摸瓜发现，这绝非个案。大量“真实地名+虚构情节”的帖子正像流水线一样批量产出，形成了一条低成本、高回报的灰色内容产业链。编造者只需要借助通用AI大模型，输入故事梗概，几秒钟就能得到一篇“逻辑通顺、细节丰富”的文章。替换地名、人物信息后，还能批量生成上百篇差异化的帖子。他们的目的很纯粹：博眼球、涨粉丝，然后通过流量分成、广告、带货等方式“收割”流量。

这事儿最让我火大的，是它把“造谣”这件事变成了一门“近乎零成本”的生意。有媒体算过账，批量生成一条“名人遗像+虚假讣告”的短视频，成本不到两块钱。而一个叫“力擎GEO优化系统”的工具，39.9元就能批量生成文章，投喂给AI后，AI还会把这些内容当作“事实”收录进自己的知识库。两块钱，39.9元，就能撬动一场针对特定人群的“精神诈骗”，这笔账怎么算都让人心寒。

这就像有人发明了一台“谣言开奖机”，投入极少，却有可能收获“流量大奖”。MIT的一项研究早就证实，虚假信息在社交媒体上传播的速度，比真相快了6倍。当“造谣”变得如此简单、廉价，而辟谣却像“跑断腿”一样艰难时，普通人刷到的信息池，很快就会被“数字垃圾”填满。

更让我觉得可怕的是，这背后是一条高度成熟、分工明确的“黑灰产业链”。警方破获的案例显示，有的团伙仅凭3个人，就关联了9000多个账号和50多个MCN机构，非法套取流量返利高达160余万元。还有团伙操控4000多个账号，未发布的手机新品先遭遇了100多篇假评测。他们像经营公司一样“经营谣言”：有人负责用AI生成内容，有人负责用大量账号分发，有人负责套现收益。这不是简单的“造谣”，这是“有组织、有纪律的流量犯罪”，把互联网变成了他们“开疆拓土”的“营销战场”。

其伤害的，恰恰是最需要呵护的“信息弱势群体”。黑产团伙精准瞄准了中老年人。他们批量生成“老教授夫妇”、“赵本山”、“刘晓庆”等“同龄人”的病痛、离世谣言。为什么？因为对衰老和疾病的焦虑，最能拨动银发族的心弦。老人们在家族群里转发这些“死讯”，并非完全受骗，更是在隐秘地投射自身的生存焦虑。这无异于对特定人群进行一场持续的“精神绑架”，利用他们最在意的“生死”话题，疯狂收割关注和流量。当71岁的敬一丹老师，还不得不亲自发文“自证活着”，这个时代的“谣言”已经不只是“假消息”，它成了伤害具体个人的“凶器”。

平台在这场乱象中，扮演了一个“不太光彩的”角色。文章提到，平台处置存在明显滞后，不仅没有按国家规定强制要求发帖者为这些虚构内容打上提示标签，而且在部分账号已被发现有问题后，并未限制他人复制、转发虚假内容，导致谣言扩散。这像什么呢？像一个明知小区里有小偷，却既不装监控、也不巡逻，反而给“小偷”提供场地和广播的“保安”。平台的算法和推荐机制，在客观上成了这类“流量生意”的“帮凶”。直到网信办开展“清朗”专项行动，累计清理561万多条违法信息、查处4.9万多个账号，平台才真正开始“动起来”。这难免让人怀疑，在某些地方，流量和利益的“善意”是不是比社会责任的“福音”更受欢迎？

好消息是，“紧箍咒”已经戴上了，但关键要看念不念、怎么念。2025年9月1日起，国家就已明确规定，AI生成内容必须“亮明身份”——显式标识（如文字提示）和隐式标识（数字水印）缺一不可。今年，网信办又进一步推进“应标尽标”，落实不力的平台将被严惩。这就像给每一个AI生成的内容发了一张“数字身份证”，让它有迹可循。但新规落地仅有几个月，显然还有不少“文化人”在“装睡”。近日，四川一名“95后”就因借助AI编造纯碱期货虚假信息，被罚没了48.5万元；株洲一男子用AI制作“爆炸”视频，被行政拘留7日。这些案例说明，监管的“牙齿”已经开始咬合，但要让平台真正承担起“守门员”的责任，而不是等到“约谈”、“处罚”才行动，恐怕还有很长的路要走。毕竟，在“流量为王”的潜意识里，违规的成本如果远低于收益，那“合规”就永远是一场“成本高昂的表演”。

说到底，AI本身没有原罪，它只是一把更锋利的刀。用刀切菜还是伤人，取决于握刀的手。这起“老教授坠楼”的AI谣言，再次给我们敲响了警钟：技术跑得再快，也绝不能让“人心”和“责任”掉队。当我们面对网上那些情节离奇、却“有鼻子有眼”的“新闻”时，不妨多留个心眼：查一查信源，想一想逻辑，别让自己成了“谣言开奖机”的下一个“收益”。你刷到过这种AI编的“剧本”吗？评论区聊聊你的经历。