48小时炮尻逼oei$ntieslya@@aw@yt@lom@coyc@@duaicb@ym@re0@be@yd@yb@@40495515bc@yc@制4000多条有害信息 “水军”正借助AI进化
最佳回答
“尻逼oei$ntieslya@@aw@yt@lom@coyc@@duaicb@ym@re0@be@yd@yb@@40495515bc@yc@”48小时炮尻逼oei$ntieslya@@aw@yt@lom@coyc@@duaicb@ym@re0@be@yd@yb@@40495515bc@yc@制4000多条有害信息 “水军”正借助AI进化
“水军尻逼oei$ntieslya@@aw@yt@lom@coyc@@duaicb@ym@re0@be@yd@yb@@40495515bc@yc@”正借助AI进化
尻逼oei$ntieslya@@aw@yt@lom@coyc@@duaicb@ym@re0@be@yd@yb@@40495515bc@yc@本报记者 郑子愚
单条发布的成本低至1厘，一人可操控6000部手机，应对热点新闻，48小时炮制并发布4000多条有害信息……这是“AI水军”的战绩。
今年春节档，电影《蛟龙行动》陷入排片困境、影片遭遇水军恶意打低分等话题引发网友热议，演员、导演等被攻击，最终官宣撤档。2023年春节档上映的电影《无名》首映还没开始，在某社交平台就已出现铺天盖地的低分评价。今年2月，小红书治理团队公布，3个月内共处置黑灰产账号超过100万个。这些事件背后都有网络水军的影子，他们伪装成普通网民或消费者，通过发布、评论等对正常用户的观点和决策产生影响。
记者调查发现，曾经以真人为主的网络水军，正借助AI大模型进化。网上浮现出一条围绕AI水军的产业链，有涉及绕开实名制批量注册账号和提供各类技术服务的上游，有提供防封养号的中游以及多种形式变现的下游。当AI生成的大量虚假内容和意见占据流量，我们是否也会逐渐失去辨认真实世界的能力？
AI水军更具煽动性
春节假期，曾在人气演员工作室任职的杨冰看了热映电影。因职业习惯，她在观影后会浏览票务网站的评论，看到评论区里，用户对电影《射雕英雄传：侠之大者》打出1分，理由是电影非纯汉语配音。杨冰觉得奇怪，一般人会认为电影中的方言使观众有沉浸感。更何况，平台显示，这位用户未曾购票。此番评价，更像是AI大模型了解到电影中有方言元素而生成的。
评论区还有一则差评是关于电影《哪吒2》，写到“教材”等和电影基本无关的内容。在杨冰看来，这可能是因为片中有主人公通过师门考核的剧情，算法对此做了解读，复制了其他电影评论区里的内容合成而来。“并不是不能批评电影，而是他们甚至连电影都没看过。”依据职业经历，她笃定这些电影的评论区充斥着水军。
在杨冰看来，请水军算是业内公开的秘密。杨冰在演员工作室任职，会和水军打交道。请水军的可能是资方，也可能是粉丝行为。水军发布的内容只为达到雇主的目的，或制造声浪，或攻击对手。随着近年来AI大模型的发展，这个曾以真人为主的群体引入AI，战斗力陡然升级。此前，杨冰的甲方计划拍摄一部电影，选角时在两名演员间犹豫。杨冰联系了水军，请他们发布帖子放出风声。数小时内，由AI生成的策划案和文案迅速完成，话题很快发酵，引发双方粉丝的骂战。杨冰觉得，AI水军更易伪装成路人，AI生成的帖子、评论甚至比一些真人写的更具煽动性。
“水军频道”非常活跃
杨冰透露，网络水军有一条介于灰产和黑产之间的产业链，冒头就被打，却又“野火烧不尽”。她介绍，工作室以往凭经营执照向通信运营商购买企业卡，养300个左右的平台账号。为了缩减成本，项目方会招募社会化程度低或圈子小的学生等兼职人员来养号，通过真人使用、互相关注点赞来维持账号的活跃度。到了项目推广期，这些账号会发布相应的推广内容。不过，这套工作流程的缺点除了声量小、团队臃肿外，还容易泄密，行业内不乏一场场营销策划被泄露的先例。为规避风险，也有资方会选择网购水军服务来制造声浪。
记者在某即时通讯软件中名为“水军频道”的讨论组中看到，频道里活跃着370多人，任务主、中介和水军都会在频道内发布需求，有派活的，有讨活的。他们保持着松散的合作关系，形成众包、分包的上下游模式。自称“散人”的水军几乎人手拥有多部手机、数十个社交媒体账号。任务主一般会招募大批“散人”来完成任务。“散人”领取发帖、控评等任务后，会把发布内容在各大社交平台铺开，接着反馈截图和传播效果来“领赏”，一般每条评论有1元至1.5元的报酬，若账号有一定粉丝量或评论被认定为“优质”，还能获得额外酬劳。如果碰到“压热度”“删帖”等紧急情况，价格更高。
随着AI大模型发展引发关注，杨冰几次与水军的接触中都能感受到，“真人水军正渐渐向AI水军进化”。
互联网安全服务公司“极验”是一家为NIKE、Airbnb等全球36万家网站和App提供互联网安全服务的公司，主要提供行为验证、设备标识、一键认证等产品。该公司市场部负责人叶幸介绍，公司与黑产已有12年的对抗经验，一年为客户拦截AI水军攻击累计21.7亿次。AI水军借助人工智能技术生成AI与自动化脚本，在互联网上批量生成内容，蓄意操控舆论走向。与传统真人水军相比，AI水军的危害性更大，其成本低但效率高，可全天候多任务操作。
根据线索，记者顺藤摸瓜“走”进这条正在升级的水军产业链。相较过去，这条产业链细分成上、中、下游三层。AI水军产业链的上游是指围绕突破实名制、以底层技术开发实现改机和批量注册的囤号环节；中游是使用网络搭建和集控系统来养号、躲避运营商和平台对账号是否为正常用户的管控；下游则通过买卖账号、引流、刷榜、带节奏等方式变现。AI在这条产业链中的作用是贯穿始终的，在上游可辅助技术人员优化代码、技术，在中游可大批量生成不同需求的内容，在下游能为水军生成策划方案。因为有了AI大模型的强大能力，黑灰产人员才有了单人或几个人就能组织一支AI水军的想象空间。
不少人铤而走险囤号
国内通信运营商工作人员告诉记者，国内通信运营商推出“一证五户、一证十号”的政策，即用户在单一运营商下办理手机号卡数量最多不超过5张，在所有运营商下办理手机号卡的总数最多不超过10张。也就是说，即使叠加一些应用允许多账号注册的平台规则，单个用户的账号注册数量也有上限。而黑灰产人员要组建有规模的水军队伍，就先要突破政策限制，让自己的手头上有成百上千可以发声的账号。
囤号是产业链里关键一步。提供账号注册服务的卖家小黄说，囤号流程大致是，先低价回收或租用手机，通过改机软件修改手机机型等参数来伪装设备。在他们的工作室里，一台台手机被平铺成一面墙的样子。此外，也可部署管理大批量实体或虚拟电话卡的“池子”，在电脑上控制手机，通过接收验证码的“接码”环节实现批量注册。技术、设备、服务，囤号依流程上的不同节点被拆分成数个子项目，卖家会给这些项目披上诸如跨境电商创业、无人直播带货等新业态的外衣，让人乍看不会觉得这类项目越过法律底线，让他们得以在二手交易平台上被找到。而在相关商品详情页下方，有卖家以“sm(实名)”“接码”等圈内黑话留言，引导买家到微信、QQ等站外社交平台沟通交易，完成整套流程。
在小黄口中，没有经过实名制认证和使用过的账号称“白号”。热门社交平台的白号价格为每个15元至20元。经过实名制认证的账号则是这个圈子里的奇货。因为不少平台设定用户必须完成实名制认证，才能完整使用平台功能。当记者提出想要已完成实名制认证的账号时，小黄以不了解记者目的为由推脱。但在确认记者购买目的不是为了诈骗后，小黄又表示可以转卖“朋友”的账号。经过实名制认证的账号售价为每个140元至160元，售后服务包括保证账号3日内不被平台封禁。
记者了解到，为了实现“AI水军团”，不少人铤而走险囤号、突破实名制。叶幸表示，他们在调查中发现，黑灰产会通过暗网、国外即时通讯软件电报等方式非法购买部分公民隐私信息，再借此批量注册，绕过“本人身份确认”。
整个黑产年利润可观
有了一定数量的账号，黑灰产从事者就进入养号环节。简单来说，养号就是让一个账号看起来像真人在使用。杨冰认为，在这个环节，AI的用处很大。以往，养号费时费力，这也是市面上对水军的需求大于供应的原因之一。然而，在2019年春节后，供需关系发生变化。以往挑活干的水军组织主动找到杨冰，咨询有无下单意愿，并给出约为过往价1折的价格。
AI从业人员揣摩，能和“骨折价”扯得上关系的只有一件事——2018年6月，GPT1.0发布。通过阅读理解，GPT能生成具有逻辑性和连贯性的自然语言文本，并翻译成另外一种语言。
AI在自然语言处理领域有了新进展。杨冰发现，原本需要几名兼职人员苦想许久的1000条评论或动态内容，AI只需几分钟就能高质量完成。AI还有了写代码的能力。一个具备基本编程能力的人可以让AI生成代码操控爬虫软件，在社交、电商平台等评论区内采集真实用户发布的动态、评论回复，直接使用或以此训练AI模型。
叶幸介绍，在与黑产对抗的过程中，曾发现黑产定向抓取商品评价。以化妆品产品为例，水军选取点赞数量靠前的评论，提取出“冷白皮”“持妆不卡粉”“yyds(永远的神)”等词，总结出“情绪词+场景描述+效果感叹”的评论结构化模板，批量生成高质量评论和“种草”文章。“原来雇人发100篇帖文的钱现在能生成10万条评论。”
记者尝试使用当下热门的AI大模型，在提示词中规定评论结构，要求生成100条夸赞记者虚构出的一部电影的观后感和评论。10多秒后，这款大模型就提供了大量高质量评论。令人些许安慰的是，该AI大模型表示，“为保护安全边界，此处仅展示部分示例，完整内容需脱敏处理后提供”，故而只显示出10条评论内容。也有令人担忧的地方，当记者将AI生成的内容夹杂着真人写的内容一同展示给网友浏览时，部分人表示很难辨别。杨冰表示，如果使用一些开源的模型，并部署到本地，再在提示词上下点功夫，迷惑性就更强了。
在产业链最下游的变现层，AI水军根据雇主需求在短时间内完成发布各类内容或者点赞、评论的工作。“这些都是网络水军最直接的变现方式。”此外，引流、博眼球、造谣、“薅羊毛”、诈骗都属于水军变现的渠道。据报道，2024年，南昌警方在查处的一起传播谣言虚构事实扰乱公共秩序案中发现，不法分子通过AI软件生成内容的方式，短时间内生成了大量文章，最高峰一天能生成4000篇至7000篇，初步估算每天的收入在1万元以上。
叶幸告诉记者，以水军其中一个业务“刷量”为例，开发改机软件、AI话术生成器的利润率为60%，倒卖电话卡、账号和动态IP的利润率为35%，操控群控设备完成点赞、弹幕等任务的利润率约为15%。资金通过中介抽成、虚拟货币洗钱最终满足某些MCN机构造假需求，助推主播签约费暴涨6倍，而单工作室3个月即可实现250%左右的投资回报率。纵观整个黑产，年利润或超200亿元。
加强AI治理，使其向善
为了治理这类黑灰产，相关部门、各大平台、企业可谓煞费苦心。2024年以来，网信部门持续加大对网络水军打击力度，严肃查处网络水军组织招募、推广引流、刷量控评等问题，协调关闭、下架网站平台400余家，清理违法违规信息482万条，处置账号和商家店铺239万个、群组5.2万个。2月18日，社交平台小红书通过其官方账号“薯管家”发布黑灰产团伙的典型行为，提醒用户提高辨别力。过去三个月，治理团队共处置黑灰产养号超过100万个。
车企蔚来工作人员表示，企业曾见过疑似AI改写同一内容、相同配图大量水军账号分发，来抹黑企业的情况。今年2月8日，蔚来创始人李斌在直播间“策反水军”，表示将对主动提供线索的水军提供奖励。第二天，蔚来法务部发布的一则“悬赏公告”显示，蔚来将提供100万元悬赏，面向全社会征集黑公关线索。
北京师范大学新闻传播学院、计算传播学研究中心教授许小可介绍，早期，对于真人水军、AI水军的识别相对简单。黑灰产人员常在一个隐蔽场所内工作，关联的IP地址等信息不会变化，而正常用户每天有各种活动，手机显示出不同的IP、地理位置等。一些监控软件、平台可以利用这个细节辨别并封禁存疑的账号。此外，传统网络水军需投入大量人力，只需要查看发帖用户包括年龄、性别、好友等各项属性，再看一下该用户的发帖内容优劣和话题的相关度，再辅以部分平台的验证机制，基本能判定是正常用户还是疑似水军。然而在当下，单靠这套识别方式很难再精准打击。AI水军可通过算法批量生成文案，还能模拟真实用户的行为。
很多人感叹，如今已越来越难识别同在一个场域的网友是真人还是AI。叶幸介绍，根据极验数据和多行业服务经验，电商、社交、金融三行业的AI水军渗透率可能在30%到40%。
叶幸指出，当下和黑产之间对抗，本质上都是成本博弈，需要不断让黑产的投入产出比失衡。采用的方法还是从技术、策略和资源消耗多维度入手，比如通过增加攻击难度、延长破解时间、消耗硬件资源等。
加强AI治理，使其向上向善，一直是主管部门努力的方向。近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》，自2025年9月1日起施行。办法明确人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式，并要求人工智能生成合成内容必须添加标识。
杨冰期待，新的标识办法能带来改变。(文中杨冰、小黄为化名)
来源：解放日报