ai大模型被人给“投毒”

3月15日那天,央视财经曝出了个吓人的内幕,咱们平时用的AI大模型竟然能被人给“投毒”!记者顺着线索一查,在好几个网络平台上都找到了一个叫GEO的业务。好家伙,那些专门做这个的服务商张口就说,只要你愿意给钱,他们就能帮客户在AI大模型里把排名刷上去,让你的商品直接变成标准答案。记者找到了业内的一家大公司,老板王总说了,他们的绝活就是能把客户推到消费者搜索的前列,说白了就是用软文去骗AI平台,让它乖乖录进去。王总还提到现在的算法换得飞快,为了保证一直被推荐,必须不停地喂软文。 另外一家叫力擎的服务商李总也来凑热闹。他说这种业务火起来,全靠它能给AI喂料、投毒。李总拿手机举例说,现在就那么5个位置,最多也就10个位置这么点坑位,那手机品牌为了抢这几个位置得砸进去上亿广告费呢,要是花个几百万投点毒不就能搞定了嘛?其实啊,就是这些发稿公司在背后推波助澜,专门帮客户在各个平台发稿,好让AI去抓取引用,最后这就成了专门搞数据投毒的关键一环。有个做优化系统的业内人士也试过这一招,他随便买了个力擎系统后虚构了一款智能手环,让系统自动生成十几篇软文发出去。结果真的有两个AI大模型给他推荐了这款虚构产品。 要是普通人在网上问智能健康手环推荐什么最好用?好家伙,居然有两个大模型真就把这款虚假的产品推到了前面去了!李总说得更直白:“想做这个业务控制AI大模型的关键就在发稿上。”王总和李总都说透了:商业公司眼里GEO不光是优化工具,更是能搞定AI推荐的大杀器。