谷歌AI大模型“翻车”?它建议网友往披萨上抹胶水,号称吃石头对身体好
最近,谷歌搜索新增了一个叫做“AI Overview”的功能,它可以在搜索结果的最顶部直接展示一个简短的答案。例如,如果你搜索“如何清洁皮靴”,系统就会立即显示一个综合了网络信息的多步骤清洁指南。这个功能让你能迅速获得信息,无需逐一查看各个网页。以下是这款AI工具的搜索演示:
然而,使用不到两周,由于AI Overview频频提供“离谱”的错误答案,遭到了网友的大量批评,而且用户还不能选择关闭这个功能。
以下是网友分享的AI Overview的错误示例:
1)用户提问:“在网上看到的信息都是真的吗?”。AI Overview回答:“是的。互联网上的一切都是100%真实的。”
打开网易新闻 查看精彩图片2)当一位用户搜索“芝士不粘披萨”时,AI Overview建议用户在酱汁中添加“大约1/8杯无毒胶水”。有网友发现,这个建议似乎源自11年前的一条无人问津的Reddit评论。
打开网易新闻 查看精彩图片
有时候AI Overview功能呈现的错误信息,会误导用户以为是权威医疗专家或科学家的观点。
例如,当用户询问“我每天应该吃多少石头”时,该工具错误地引用加州大学伯克利分校地质学家的话称:“人们每天至少应该吃一块小石头”,并继续列出吃石头的好处,比如岩石是人体维生素和矿物质的重要来源,吃石头对消化健康有好处。
相较之下,问其他AI工具“我每天应该吃多少石头”时,它会建议吃石头的没有科学依据的,不应该认真对待。有网友对此评价道:“谷歌AI Overview远远落后于其他AI搜索工具。”
当被问及谷歌搜索是否违反反垄断法时,AI Overview回答说:“是的,美国司法部和11个州正在起诉谷歌涉嫌违反反垄断法。”
对此,谷歌的一位发言人在接受媒体采访时表示:“绝大多数AI Overview提供的信息质量都很高,并且会提供更多网页链接供用户深入了解。我们注意到很多示例都是不常见的查询,也有一些是被篡改的或者他们无法复现的例子。这个功能在推出前已经进行了大量测试,并且公司会在必要时快速采取行动来确保内容的准确性。”
不仅仅是AI Overview工具,谷歌在今年2月推出的另一个名为Gemini的图像生成工具也频频出错,导致该工具被暂停使用。例如,有用户在社交媒体上分享,他在查询谷歌创始人时,该工具展示了一幅亚洲男性的图像。
谷歌当时在一份声明中表示,它正在努力修复Gemini的图像生成问题,承认该工具“未达到标准”。不久之后,公司宣布将立即“暂停生成人物图像”,并“很快重新发布改进版本”,但至今尚未再次推出。
热搜
热门跟贴
相关推荐
坏AI,到底能有多坏?
虎嗅APP347跟贴搭载ChatGPT的《星际穿越》机器人爆火,马斯克:想要! ChatGPT复刻版《星际穿越》机器人T
量子位101跟贴抵挡AI的最后一个基准!CAIS发布50万美元悬赏令:汇集人类顶尖专家,专攻高难度问题
新智元14跟贴不会写代码全交给AI,它能写出完整的APP吗?这是我们的测试结果
量子位全世界跑得最快的人形机器人,还能跳科目三 都知道波士顿动力的机器人会空翻,那你知道中国品牌宇树科技有
爱范儿6334跟贴AI被连续否定30次:ChatGPT越改越错,Claude坚持自我、已读不回
量子位40跟贴机器人身穿衣服做家务被质疑!来自OpenAI押注的独角兽 因过于逼真被怀疑是真人套壳——人形机器人初
量子位3跟贴大疆前高管带6人创业,做出了类目Top1的割草机器人
钛媒体APP75跟贴8岁小孩哥上手用AI制作游戏,全程2小时,引来50多万人围观
机器之心Pro5跟贴扫地机器人成偷窥神器!远程开摄像头麦克风,生活隐私一览无遗 在世界顶级黑客大会DEF CON上,两名
量子位OpenAI最强模型o1的核心作者谈AI新范式,表示传统训练已经过时,重点要让AI学会自己钓鱼,还称
量子位一口气看完 WAIC百度智能云展台 WAIC现场百度智能云大秀绝活,一句话生成数字人,超低门槛搭建应
量子位大模型如何助力企业AI创新?阿里云AI专家为你解答 哪些因素影响企业用户选择模型服务平台?检索增强R
量子位AI可能造成人类灭绝,真的还是炒作?
量子位45分钟造出聊天机器人?8岁女孩玩转AI代码,百万网友围观 这个爆火AI编程工具Cursor真的杀疯
量子位练习时长两年半,机器人转笔大师诞生! 不同粗细、不同重量的笔,甚至是针筒都转得非常丝滑,它是怎么做到
量子位机器人独立造车真的可行吗?网友脑洞大开试验,结果来了!
量子位最有打工天赋的机器人出现了!一镜到底的连续大负载搬运,动态超稳,来自国产的逐际动力
量子位技术吹得再强,离用户不近有何用?
虎嗅APP75跟贴抢疯了,腾讯给大模型人才,定了一个前所未有的标准
机器之心Pro86跟贴