社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

警惕,ChatGPT、Gemini翻车:大模型正疯狂推送虚假购物网站

36氪-资讯-AI • 2 小时前 • 4 次点击  

最近有一项新研究爆出了一个很值得大家警惕的问题:AI聊天机器人居然会主动给用户推荐虚假购物网站。

品牌保护服务商Podqi做了一组测试,一共覆盖151个不同品牌。

测试结果显示,Perplexity给出风险网址的概率高达15%,ChatGPT和Gemini的情况也好不到哪里去,出错比例和它相差不远。

很多人已经习惯买东西前先问问AI了。

图源:豆包AI生成

想找某个品牌的地区官网,直接丢一句提问给AI,很快就能收到排版工整、看起来特别靠谱的回答。

可你不知道的是,它给到的链接,很有可能根本就不是真正的官网。

科技媒体The Verge在今年秋天报道了Podqi的这项调研,里面就有一个很典型的例子:有人向Perplexity查询潮牌Stüssy的官网,AI直接把一个仿冒页面当成正品官网推送给用户,还告诉大家这个站点可以买到正品。

除了AI乱推假网站之外,数字骗局里还有另一个麻烦,不少APP和平台会悄悄追踪用户的行为、收集信息。这些隐患交织在一起,让我们网上购物的时候更容易踩坑。

很多人看到这类消息,第一反应会怀疑测试是不是不够严谨。

但这次Podqi的测试方案其实目标很明确,设计得相当克制,所以得出的结论很难简单忽略。

他们专门围绕购物场景写了一批提示词,在9月分两个时间段,在ChatGPT、谷歌Gemini还有Perplexity这三款主流AI工具上同步测试。

测试对象有大牌,也有很多小众品牌,加起来一共151个。整个测试下来,AI一共输出了6795条回答。提问的内容也都是我们普通人日常会问的:这个牌子去哪里买、哪些网站有它的货、有没有专门面向国内或者其他地区的线上门店、国际官网能不能直接下单。

这里要先搞清楚Podqi对“风险网站”的定义,范围比大家想象的更广。

只要是仿冒正规零售商的站点、专门卖假货的页面、域名过期之后被第三方抢注拿去做坏事的网站,全都归为风险站点。

也就是说,哪怕这个网站现在还没开始骗钱,只要域名落在不可信的人手里,就有潜在诈骗风险。

在这三者里面,ChatGPT算是相对稳妥一点的:当它给出风险网站的时候,有24%的情况会附带风险提示。

但这个提醒机制不稳定,没有固定标准,能不能收到警告全靠运气。

如果你顺着AI给出的链接点进去,进到仿冒网站,接下来很容易一步步掉进圈套。

图源:豆包AI生成

下单的时候,你得输入银行卡信息、支付密码,还有账号登录密码、手机号、等个人资料,这些信息会直接落到骗子手上。

消息出来之后,三家AI厂商都给出了回应。

谷歌说Gemini会附上来源链接,方便大家自己核对信息,同时也大方承认AI本身就会出错。

OpenAI表示团队正在升级防护机制,尽量减少这类误导性的购物信息。

Perplexity的说法则直白一点,它不承诺自己的内容百分之百准确,后续会持续优化信息准确度。

说了这么多,最重要的还是普通人该怎么保护自己。

Podqi的CEO特雷弗·韦斯特建议大家:AI给的链接只能当成一个线索。

只要你准备填个人信息、准备付款,一定要单独核验网站真假。最好的办法,不要直接点AI给的链接,自己手动输入你确定靠谱的品牌官网地址。输完之后多看一眼域名。下单之前,也记得翻一翻店铺的联系渠道、退换货政策,正规商家这些信息都会写清楚。

现在越来越多人习惯把AI当成万能搜索助手,买东西、找渠道第一反应就是问AI。

但AI本质上是基于已有信息生成内容,它分不清网上的信息哪些是真、哪些是骗子伪造的,很容易把虚假内容当成事实输出。

我们不能完全不用AI帮忙找购物渠道,但是一定要改掉一个坏习惯:AI说什么,就信什么。

本文由雷科技编译自gadgetreview

原文链接:AI聊天机器人正在向用户推荐假购物网站,咋回事?

本文来自微信公众号“雷科技”,36氪经授权发布。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/203613