当前位置: 杭州网 > 杭网评论 > 印月三谈
莫让“投毒”污染AI信任基石
2026-03-24 16:10:18
杭州网 时评

央视3·15晚会的一则曝光,让许多习惯了向AI大模型寻求建议的消费者心头一紧:原来,那些看似客观、智能的“标准答案”,竟可能是商家花钱“喂”出来的虚假信息。一条名为GEO(生成式引擎优化)的灰色产业链浮出水面,它打着“优化信息分发”的旗号,实则通过批量制造软文、系统性投放虚假数据,对AI大模型进行“投毒”,以此操控搜索结果,谋取不当商业利益。

这一现象不仅令人咋舌,更敲响了数字文明时代的警钟。

曾以为互联网竞价排名已是一种信息污染,如今造假手段随AI技术迭代升级,更加令人触目惊心:一款虚构的智能手环,仅凭十余篇自动生成的软文,便成功“骗过”多个主流AI大模型,登上推荐榜单前列。试想,若虚假的医疗产品、错误的健康建议通过GEO技术“喂料”给AI,患者在搜索病症时,得到的可能不是专业的诊疗指导,而是被精心包装的虚假信息。这不仅会延误病情,更会破坏社会对医疗信息的信任,让原本服务于公众的AI工具,沦为别有用心者谋利的工具。AI能快速融入生活,核心在于其“信任基石”——用户相信它能基于海量数据提供中立真实的参考,而GEO黑产正从根本上动摇这一基础。当“真相”可明码标价、“推荐”可人为操控,AI便沦为收割流量的工具,长此以往,不仅侵害消费者权益,更会摧毁数字经济生态的公信力。

作为中国“数字经济第一城”,杭州拥有众多互联网领军企业,也是AI产业发展的前沿阵地。从“最多跑一次”到“城市大脑”,杭州始终致力于构建可信数字社会,面对AI“投毒”乱象,更应主动担当、率先破局。

守护AI可信度,需多方协同发力。AI运营商要扛起主体责任,升级算法防御机制,完善数据清洗与溯源体系,堵住技术漏洞;监管部门要利剑出鞘,依据相关法律法规,严厉打击GEO灰色产业链,提高违法成本;互联网企业应带头践行行业自律,拒绝参与数据操纵,同时加强公众媒介素养教育,引导大家理性使用AI、不盲信“标准答案”。

技术本身无罪,底线不可逾越。AI是通往未来的钥匙,不该成为欺骗大众的帮凶。在数字经济高速发展的今天,唯有坚守诚信底色,凝聚企业、监管等各方合力,才能让AI真正服务于人,守护好我们共同的数字家园,让数字文明的光芒照亮前行之路。

来源:杭州网    作者:方琪    编辑:方志华 戎丽娟 郑秋青    
半马燃动临平 奔跑促进发展
联系我们
  • 新闻热线:0571 - 85052222

增值电信业务经营许可证:浙B2-20110366 | 信息网络传播视听节目许可证:1105105 | 互联网新闻信息服务许可证:国新网3312006002
网络文化经营许可:浙网文[2012]0867-091号 | 工信部备案号:浙ICP备11041366号-1
杭州网(杭州网络传媒有限公司)版权所有未经授权禁止复制或镜像
Copyright © 2001 - 2015 Hangzhou.com.cn All Rights Reserved

杭州网

你关心的,都在这里

杭州网·国家重点新闻网站