最近有一项新研究爆出了一个很值得大家警惕的问题:AI聊天机器人居然会主动给用户推荐虚假购物网站。
品牌保护服务商Podqi做了一组测试,一共覆盖151个不同品牌。
测试结果显示,Perplexity给出风险网址的概率高达15%,ChatGPT和Gemini的情况也好不到哪里去,出错比例和它相差不远。
很多人已经习惯买东西前先问问AI了。
想找某个品牌的地区官网,直接丢一句提问给AI,很快就能收到排版工整、看起来特别靠谱的回答。
可你不知道的是,它给到的链接,很有可能根本就不是真正的官网。
科技媒体The Verge在今年秋天报道了Podqi的这项调研,里面就有一个很典型的例子:有人向Perplexity查询潮牌Stüssy的官网,AI直接把一个仿冒页面当成正品官网推送给用户,还告诉大家这个站点可以买到正品。
除了AI乱推假网站之外,数字骗局里还有另一个麻烦,不少APP和平台会悄悄追踪用户的行为、收集信息。这些隐患交织在一起,让我们网上购物的时候更容易踩坑。
很多人看到这类消息,第一反应会怀疑测试是不是不够严谨。
但这次Podqi的测试方案其实目标很明确,设计得相当克制,所以得出的结论很难简单忽略。
他们专门围绕购物场景写了一批提示词,在9月分两个时间段,在ChatGPT、谷歌Gemini还有Perplexity这三款主流AI工具上同步测试。
测试对象有大牌,也有很多小众品牌,加起来一共151个。整个测试下来,AI一共输出了6795条回答。提问的内容也都是我们普通人日常会问的:这个牌子去哪里买、哪些网站有它的货、有没有专门面向国内或者其他地区的线上门店、国际官网能不能直接下单。
这里要先搞清楚Podqi对“风险网站”的定义,范围比大家想象的更广。
只要是仿冒正规零售商的站点、专门卖假货的页面、域名过期之后被第三方抢注拿去做坏事的网站,全都归为风险站点。
也就是说,哪怕这个网站现在还没开始骗钱,只要域名落在不可信的人手里,就有潜在诈骗风险。
在这三者里面,ChatGPT算是相对稳妥一点的:当它给出风险网站的时候,有24%的情况会附带风险提示。
但这个提醒机制不稳定,没有固定标准,能不能收到警告全靠运气。
如果你顺着AI给出的链接点进去,进到仿冒网站,接下来很容易一步步掉进圈套。
下单的时候,你得输入银行卡信息、支付密码,还有账号登录密码、手机号、等个人资料,这些信息会直接落到骗子手上。
消息出来之后,三家AI厂商都给出了回应。
谷歌说Gemini会附上来源链接,方便大家自己核对信息,同时也大方承认AI本身就会出错。
OpenAI表示团队正在升级防护机制,尽量减少这类误导性的购物信息。
Perplexity的说法则直白一点,它不承诺自己的内容百分之百准确,后续会持续优化信息准确度。
说了这么多,最重要的还是普通人该怎么保护自己。
Podqi的CEO特雷弗·韦斯特建议大家:AI给的链接只能当成一个线索。
只要你准备填个人信息、准备付款,一定要单独核验网站真假。最好的办法,不要直接点AI给的链接,自己手动输入你确定靠谱的品牌官网地址。输完之后多看一眼域名。下单之前,也记得翻一翻店铺的联系渠道、退换货政策,正规商家这些信息都会写清楚。
现在越来越多人习惯把AI当成万能搜索助手,买东西、找渠道第一反应就是问AI。
但AI本质上是基于已有信息生成内容,它分不清网上的信息哪些是真、哪些是骗子伪造的,很容易把虚假内容当成事实输出。
我们不能完全不用AI帮忙找购物渠道,但是一定要改掉一个坏习惯:AI说什么,就信什么。
声明:转载目的在于传递更多信息,并不代表赞同其观点和对其真实性负责。文字、图片版权均属权利人,如涉及作品内容、版权和其它问题,请及时与我们联系。
2019-05-14 2403
2020-04-09 1986
2020-07-30 1544
2024-08-28 853
2020-02-07 1787
2018-02-18 1850