遇事不决问AI？治理“AI污染”要防管结合

治理(li)“AI污(wu)染”要(yao)防管结合(创新谈)

随着AI(人工智能)深度融入千家万户，“遇事(shi)不决(jue)问AI”成了许(xu)多(duo)人的选择，但AI回答(da)未必都是“干净”的???。不久前，有媒体曝光“AI投毒”隐(yin)蔽(bi)产业链现(xian)象，引发社会广泛关注(zhu)???。

所谓“AI投毒”，是向人工智能大模型(xing)的(de)训(xun)练(lian)数(shu)据中，掺(chan)入伪装成(cheng)正(zheng)常样(yang)本的恶意数据或虚假信息，进而影响模型判断、操(cao)纵输出结(jie)果???。“投(tou)毒者”可(ke)以(yi)批(pi)量制造虚假(jia)网页、新闻，让AI在抓(zhua)取数据时(shi)一并“吞下”，在不知不觉中“学歪”，最终固(gu)化为针对(dui)特定问(wen)题(ti)的“标准(zhun)答案(an)”；也可(ke)以在模(mo)型中植入隐蔽(bi)的后门指令，一(yi)旦触发(fa)特定关键词就(jiu)输出预(yu)设信(xin)息(xi)???。

信任(ren)是链接(jie)人与人工智能的重要前提???。对个人而(er)言，这种“看(kan)不见的污染”轻(qing)则影(ying)响(xiang)体验，重则误导决策???。比如AI推荐购物，它可能引导你购买被包装出来的“爆款”；向(xiang)AI咨询医疗建(jian)议(yi)，它(ta)可(ke)能引(yin)用(yong)虚假(jia)病(bing)例，给出危险(xian)的治疗方案……在(zai)医疗、金(jin)融(rong)等关(guan)键领域，这种风险尤其(qi)值(zhi)得警惕???。对(dui)产(chan)业(ye)而(er)言，如果“数(shu)据不可信(xin)”成为普遍担忧，企(qi)业之间(jian)的(de)合(he)作(zuo)意愿就会下降，行业的创新效率也会(hui)受到(dao)影响(xiang)???。

更(geng)深层的影响在于社会认知，随着人(ren)工智能深度融入公众(zhong)日常生(sheng)活，一旦模型给出的回答总是隐含歪曲事实的信息，便(bian)会潜移默化误导(dao)公众认知，放大偏见、制造混乱，甚至危(wei)及(ji)国家安全(quan)???。

为什么“AI投毒”在今天变(bian)得(de)如此容易？

首(shou)先(xian)，数(shu)据本(ben)身(shen)越来越复杂，大模型(xing)依赖对(dui)海量数据的学习训练，各种数据混(hun)杂在一(yi)起，很难(nan)做(zuo)到完全可控可(ke)信，一旦缺乏严格(ge)的核查(cha)机制，就(jiu)会(hui)给“投毒”留(liu)下(xia)空间；其次，“AI投毒”门槛较低(di)，不法分子借助GEO(生成式引擎优化)工具，短时间内便能批量生成高(gao)权重虚(xu)假内容，成本极低、隐(yin)蔽性强(qiang)；第(di)三，数据作(zuo)为一(yi)种新型(xing)生产要素，相应的标(biao)准体(ti)系、责任机制、监(jian)管手段等还在(zai)逐步完(wan)善(shan)，客(ke)观(guan)上增加了治理难(nan)度(du)???。

近(jin)年来，我国出台《生成(cheng)式人工(gong)智(zhi)能(neng)服务管理暂行(xing)办法》《人工智能安全治理框架》等规(gui)范，持(chi)续加强人工(gong)智能治理???。不久前，中央网信办部(bu)署(shu)“清朗·整治(zhi)AI应用乱象”专项行(xing)动，将“AI数据投毒”列为(wei)重点打(da)击对象???。

面对“AI投毒(du)”，治(zhi)理(li)还要往深处走???。AI运(yun)营(ying)者要建立更加严格的数据筛(shai)选、标(biao)注与审查机制，提升数据的可(ke)追溯性和可验证性；通过异常检测(ce)、对抗训练等手段，提(ti)高模(mo)型对(dui)异常数据的识(shi)别能力(li)，让“掺杂”的数据(ju)更(geng)难混(hun)入???。主管部门应加快规则体系建设(she)，在制度(du)层(ceng)面(mian)上进行约束???。比如，明(ming)确数据使用责任、建(jian)立违法行为惩戒机制、推动行(xing)业(ye)标(biao)准制(zhi)定等???。公众同样不是(shi)旁观者，面对AI的回答，多一分(fen)质(zhi)疑、多一(yi)次核实，不主动(dong)传播未经查证的诱导(dao)性内(nei)容，发(fa)现异常及时反馈(kui)，主动呵护(hu)良好的人工智能生态(tai)???。

还要看到(dao)，治理不仅是“防(fang)”，更是(shi)“促”???。通过建设更加开放透明的(de)数据生(sheng)态，让优质数据更(geng)易(yi)获取，减少对不明来源数据(ju)的依赖(lai)，从源头压缩(suo)“投毒”空(kong)间，才(cai)是长久之计???。

“AI投毒”现(xian)象(xiang)提(ti)醒我们，在(zai)人工(gong)智能时代(dai)，数据是一(yi)种需要精心(xin)呵护的公共资源???。治理“看不见(jian)的污(wu)染”，不仅是在填补(bu)技术漏洞，更是为人(ren)工智能发展(zhan)夯(hang)实根基???。数据更可信、规则更清(qing)晰、责(ze)任更(geng)明确，人工智能才能真正成为(wei)值得信赖的(de)重(zhong)要工具，为经济社会高质(zhi)量发(fa)展创造更大价值???。

李君强

《人民(min)日报》(2026年06月08日 第 19 版)【编辑:王(wang)琴】