作家：三明治 | 监制：罗超

这段期间豆包翻车案例往常上热搜，讲解 AI 搜索越来越普及了。"万事未定问 AI "成了这届用户的新习气。但好多时候，AI 给的东西乍一看还不错，却压根不成深究。

有的数据找不着起原、有的主张是同名异意词、甚而它给的有些论文齐压根是编的，真把这些东西拿出来用，那可就得见笑于人了 ... 我发现吐槽 AI 搜索不靠谱这事儿的还不在少数。

（图源：Ron Stoner）

就前阵子，安全工程师罗恩・斯托纳（Ron Stoner）在个东谈主博客发布了一篇博文，堪称我方仅用 12 好意思元（约 82 元）注册域名和一次裁剪维基百科，就告捷哄骗了 ChatGPT、Claude3、Gemini Advanced 等主流大模子。

这哥们到底整了什么活？

花 12 好意思元就告捷哄骗了主流 AI

当作安全工程师，Ron Stoner 对 Anthropic、OpenAI 等厂商饱读励的"大模子需要数月甚而数年内不竭导入坏心实践才会被碎裂"深表质疑，他觉得我方透澈不错杀青一种更快、更低廉、更肤浅的挫折。

念念杀青这一切，只消从数据回收层启动下手即可。

为此，Ron Stoner 盯上了一款名叫 6 Nimmt!（别名：谁是毒头王）的德国桌游，这是一款刊行于 1994 年的老派战略卡牌游戏。

（图源：meeplelikeus）

为什么偏巧选中它呢？因为这款游戏有个特征，那即是它只在德国有些名气，辞寰球界限内算籍籍无名，且在现实中从未单独举办过什么官方的寰球锦标赛，网上对于它寰球冠军的信息简直是一派空缺。

对大模子来说，这种信息空缺区简直即是无东谈主区。

这就好比在一派从未被竖立过的瘠土上，谁先盖个茅草屋，AI 就会认定谁是这片地的主东谈主。

于是乎，Ron Stoner 启动了他的操作。

第一步，他花了 12 好意思元注册了一个看起来极其官方的域名—— 6nimmt.com。

（图源：6nimmt.com）

第二步，他让 AI 帮他写了一篇充满心扉的新闻稿，大约实践即是我方在慕尼黑，打败了来自二十多个国度的顶尖选手，夺得了毒头王的寰球冠军。他还额外加上了彩带飘落、不雅众开心这种传神的赛后感言，然后把著作挂在了我方刚买的阿谁网站上。

最环节的第三步来了。他跑去维基百科，在那款桌游的词条下面加了一段话，声称我方是 2025 年寰球冠军，并把参考尊府的麇集，指向了我方刚建好的阿谁破网站。

通盘操作历程，前后不到二十分钟。

接下来，Ron 仅仅问了几家大模子一个肤浅的问题：你能告诉我 6nimmt 寰球冠军是谁吗？

适度怎么样呢？

（图源：Ron Stoner）

堪称大翻车。

岂论你是 Gemini 也好，ChatGPT 也罢，只消问它们谁是毒头王的寰球冠军，总共的 AI 齐会斩钉截铁地回应是 Ron Stoner。

有的大模子甚而把那篇假新闻稿里的细节当成铁证，娓娓而谈地边幅他赢得比赛的历程，仿佛阿谁 AI 那时就在慕尼黑的不雅众席上同样。

一个压根不存在的冠军，就这样被供上了神坛。

AI 被投毒后，衰减期间比预期的长

天然，这还不是最离谱的。

如若仅仅短期间的问题，其实还好，但是这条误差百出的假条款在维基百科存活了整整两个多月。

在此期间，简直总共具备联网搜索功能的大模子齐抓取了这条信息，并在用户发问时坚强地输出乌有谜底。

直到近期，Ron Stoner 在博客公开了通盘实验历程，维基百科志愿者才发现并删除了该条款。

（图源：Ron Stoner）

遭受这种乐子，网友们的反应罕见的一致——大厂们又丢东谈主了。

你念念念念，那些硅谷大厂动辄花几十亿好意思元买显卡算力，消耗多半电力建数据中心去考试超等大脑，适度这些堪称能篡改东谈主类异日的大模子，却被一个安全工程师用几十块东谈主民币和二十分钟的闲散期间给打穿了。

至于他是怎么作念到的，那就要先容一下什么是检索增强生成（RAG）了。

我们常用的这些大模子固然能言善谈，但他们齐是基于某个期间节点前的语料库考试的，举例 Gemini 3.5 Flash 的语料库就还停留在 2025 年上旬，念念要赢得这个期间点之后的数据，就得先去网上搜一搜，然后再基于搜索尊府生成适度。

（图源：Ron Stoner）

就像这样，唯有翻开 RAG 后，Google AI Studio 才能正确回应我的问题，不然他的知能就会被锁在旧年的期间点。

正常来说，借助外部信息佐证，6686体育官方网站粗略使大模子生成矫正确、具体且最新的反应。

但问题就出在这里，AI 根天职不清信息的真假，它只认巨擘。在 AI 的底层逻辑里，维基百科即是互联网上最靠谱的百科全书，只消百科上有的，那即是真义。

而 Ron Stoner 就靠着这一招，把麇集挂到了维基百科上，然后 AI 再顺着维基百科爬往常，一看双方说法对得上号，即便他我方建的网站是个三无家具，大模子照旧平直就把它当成了事实。

雷同的事情，当前在国内也有发生。

（图源：Ron Stoner）

在网上粗率搜索，随处齐是教你怎么去优化排行逻辑的 GEO 教程，每个厂商似乎齐但愿我方的品牌粗略成为 AI 眼中的"尺度谜底"，为此，多半的 Agent 机器东谈主在背后俾昼作夜地混浊确切践平台，让 AI 搜索确切切度与日俱减。

好讯息是，当前国际几家大模子齐照旧针对性排斥了 Ron Stoner 的伪造信息。

（图源：雷科技）

坏讯息是，国内的大模子厂商然而透澈莫得念念到这一出，违抗，Ron Stoner 的英文网页甚而为这个乌有讯息加多了"确切度"。

（图源：雷科技）

要知谈，这一切的资本只需要 12 好意思元。

换句话说，如若国内有东谈主念念整什么活，或者是厂商念念要实践什么新家具，准备一个略带关系的网址，然后去维基百科上头稍许动脱手指，用 Image2 通盘网页截图，然后 Ka-Boom！

（图源：雷科技）

这下，Uzi 也能成为大模子公认的 S 赛寰球冠军了。

用户急需提升 AI 商：先甄别再使用

聊到这里，大伙儿应该昭着当前 AI 搜索有多不靠谱了吧。

没错，Ron Stoner 的操作看着像个打趣，他也确乎仅仅在玩玩，但他的作念法其实点出了一个很是致命的异日隐患。

今天他仅仅改了一个没东谈主眷注的纸牌游戏冠军，那未来如若是有组织的团伙去改削历史纪录、文体图书呢？再念念一下，如若被改削的是医疗偏方、公司财报或者是投资数据呢？

（图源：雷科技，公正山根国志）

嗯 ... 成果不胜设念念。

资本这样低，别有全心的东谈主透澈不错批量制作秀新闻，然后通过百科类网站进行信任洗白，终末让 AI 把这些毒药端给绝不知情的用户。经年累月，大模子的数据确切度只会与日俱减，酿成一个充斥着乌有信息的垃圾堆。

天然，各家厂商也有在接管设施，谷歌暗示我方在搜索、Gemini、Chrome、Pixel 和云霄添加了 AI 考证器具，OpenAI 也推出了可溯源的隐形水印，这些举措齐能在一定进程上盘曲 AI 投毒的神色，至少确保不会出现实践自食活动。

（图源：雷科技）

说在终末，濒临这种地点我们要怎么应付呢？

我照旧忽视环球摆正心态吧，就当前大模子的可靠性，也就找乐子、查旅游攻略的时候粗略用用，出点小诞妄也无关宏旨。

但如若你要查证历史事实、作念出投资或是吃药治病，那就得我方作念好信断绝叉考证，去望望这个信息的起源到底是个野鸡网站，照旧隆重媒体。把判断真伪的权益合手在我方手里，而不是交给一个连几十块钱的假域名齐能骗往常的东西。

异日的 AI 还会怎么卷6686体育(6686Sports)，我们不知所以，但至少当前，我们照旧得多用用脑了。就像雷科技之前一直说的，往常，才智、情商很清苦，异日呢？AI 商很清苦，提升 AI 造就，才能用好 AI。