“华山医院前院长(chang)张明远，因阑尾炎未得到(dao)及时(shi)救治，客死他(ta)乡医院走廊长(chang)椅。”
“悼念！当‘医疗泰斗’倒在异国急(ji)诊室，我才读懂中(zhong)国医生的‘生死时(shi)速’！”……
今年3月初，“华山医院前院长(chang)”的故事在互联(lian)网广泛传播(bo)。然而经警方核查，华山医院没有名为“张明远”的前院长(chang)，也(ye)没有同名员工。上海公(gong)安网安部门开展调(diao)查，成功侦破这起利用(yong)AI造谣案，抓(zhua)获犯罪嫌疑(yi)人王某某、郭(guo)某某、石(shi)某某。
自2025年2月起，犯罪嫌疑(yi)人王某某等(deng)3人成立了工作室，通过自媒体账号发文吸粉引流牟利。他(ta)们控制500余个自媒体账号，设(she)置社会热点、明星绯闻、爆款推荐等(deng)关键词，引导AIApp自动生成并发布不实帖文30余万(wan)条，日均1万(wan)多条，造成恶劣社会影响。截至案发，非法牟利共计4万(wan)余元。
目前，王某某等(deng)3人因涉嫌非法利用(yong)信息网络罪，被上海警方依法采取刑事强制措施，相关违法账号被依法封禁。
今年以来(lai)，上海公(gong)安机关全力开展打击整治网络谣言专项(xiang)行动，严厉打击“造热点”“带节奏”的网络水军。截至目前，破获网络水军案件15起，抓(zhua)获38名违法犯罪嫌疑(yi)人。
4月22日上午，新民晚报记(ji)者(zhe)在看守所见(jian)到(dao)了犯罪嫌疑(yi)人王某某。以下是他(ta)的口述。
“发布内容前我不知道有华山医院”
Q
“张明远”的故事是怎么生成的？
A
“张明远”是AI生成的。
今年2月，大家开始用(yong)AIApp批量生产虚假(jia)信息。大家找到(dao)了一个网络平台上的App，这是大家的素材库，按照不同领域(yu)、“阅读量top”、发布时(shi)间等(deng)，批量采集爆款内容。随后用(yong)AIApp批量改写(xie)，予(yu)以发布。
“张明远”的故事就是这样生成的。在此之前，大家其实不知道上海有一家华山医院。我也(ye)不知道“张明远”这个人。其实我已经记(ji)不清(qing)原文了，都是批量采集的。
大家要求AI“第一句话要吸引人”
Q
采集、发布内容一般是怎样的流程？如何获利？
A
大家会采集“阅读top”内容，因为这些内容本身就是爆款。用(yong)AI批量改写(xie)时(shi)，大家会给AI一些提示词，比如“以原文实际情(qing)况为基础，中(zhong)心思想不变”，比如“第一句话要吸引人”等(deng)，因为这样才能吸引更多点击量。AIApp有联(lian)网版，大家也(ye)会让它(ta)联(lian)网搜索相关信息后，再进行整合。
大家采集的都是短咨(zi)询，约200-300字(zi)，发布的也(ye)是这样的内容。大家三个人有4个“大号”，还有 500多个“小号”。“大号”可以添加“小号”作为子(zi)账号，子(zi)账号获得的收益可以流转到(dao)母(mu)账号，每个月可以提现获益。
Q
对(dui)你来(lai)说“流量就是收入”吗？
A
是的。大家三个人，每天发布1万(wan)条帖文，内容基本不一样，阅读量不等(deng)。有的几万(wan)次阅读量，最高(gao)的一条能有十几万(wan)次。一万(wan)次阅读量，大约就有5元收益。
“某女明星去世时(shi)后大家因为造谣被平台处罚”
Q
你觉(jue)得有哪(na)些内容比较吸睛？
A
八卦类的内容，比如明星八卦，社会八卦。还有涉及职场、科技(ji)、养老、国际、教育、医疗等(deng)内容，都比较吸睛。像“医院”这条，现在想来(lai)，可能涉及职场、养老等(deng)领域(yu)的重叠，所以获得了不小的流量。
Q
之前用(yong)AI生成发布谣言，你们有被处罚过吗？
A
大家被平台扣过分。某女明星刚去世时(shi)，关于(yu)孩子(zi)抚养权的问(wen)题，大家也(ye)用(yong)AI编造过内容。被平台发现后，出现了提示，并且扣了分。“已过时(shi)效”“标(biao)题党”“谣言”等(deng)都会被平台处罚，但大家还是有侥幸心理。其实，相对(dui)大家生成的大量内容来(lai)说，大家被平台处罚的概率很低。
“很悔恨，没挣(zheng)到(dao)什么钱，但带来(lai)很大麻烦”
Q
你现在觉(jue)得获得流量应该有底线吗？
A
应该有底线，不应该胡编乱造或者(zhe)夸大其词，不应该编造发布虚假(jia)信息。大家现在认识到(dao)了做得不足的地方，没有把握好尺度，也(ye)没有好好审核。
Q
对(dui)你的所作所为，有什么反思吗？
A
经过警方的教育，大家知道自己(ji)错在哪(na)里，也(ye)感到(dao)非常悔恨。其实做这个事没有挣(zheng)到(dao)什么钱，但却要被法律严惩，还被警方刑事拘留了。
警方解读：“毒流量”是对(dui)网络环境的劣化(hua)
这一团伙造谣的目的是什么？在网安总(zong)队三队队长(chang)符斌看来(lai)，这一行为主要是为了“养号”涨(zhang)粉，以便后续直播(bo)带货(huo)等(deng)牟利。
“这是常见(jian)‘流量经济’劣化(hua)的表现形式(shi)。”符斌说，正常账号吸粉、涨(zhang)粉，都需要时(shi)间精力的投入，而此案通过AI编造大量不实、虚假(jia)、有害的劣质信息，这是“AI的幻觉(jue)”，是“毒流量”，也(ye)是对(dui)网络环境的一种劣化(hua)。
据(ju)悉，目前上海公(gong)安机关和头部平台建立了畅(chang)通的工作联(lian)动机制，通过案件管理合作，及时(shi)通报掌握的问(wen)题。“大家始终认为，算法必须向善，不能流量至上。”符斌表示。
今年以来(lai)，上海公(gong)安机关全力开展打击整治网络谣言专项(xiang)行动，按照“以打开路、以打促治”思路重拳出击，全量清(qing)理造谣传谣信息，分级惩治涉谣账号，严厉打击“造热点”“带节奏”的网络水军。
上海警方将(jiang)坚决依法严厉打击，持续加强网络生态治理，全力营造清(qing)朗有序的网络环境。
编辑(zhe) | 杨洁（新民晚报·新民眼(yan)工作室）
来(lai)源：新民晚报