在披萨上浇点胶水吧!谷歌刚上线的AI搜索综述引爆互联网吐槽
2024-05-26
更新时间:2024-05-26 18:26:21作者:无忧百科
财联社5月25日讯(编辑 史正丞)作为公认身处对抗微软/OpenAI联盟战线最前沿的科技巨头谷歌,又一次因为自家的AI新功能站上了舆论的风口浪尖。
在上周的年度I/O开发者大会中,谷歌高调宣布正式将AI功能引入核心搜索业务,推出一款名叫“AI概览”(AI Overviews)功能,首先会在美国市场推出。简而言之,当用户进行搜索时,首先出现在眼前的不再是网页链接,而是一块由AI整理的摘要。
(来源:谷歌I/O)
然而,这项功能一上线就“翻车”了——除了AI机器人常见的“幻觉”问题外,更严重的问题是,谷歌的AI频频把“贴吧”、讽刺新闻网站里的玩笑话,当作正儿八经的知识普及给客户。
在披萨上浇点胶水吧!
作为这几天互联网上传播最广的案例,谷歌“AI综述”在回答“芝士无法粘在披萨饼上”时,竟然建议在馅料里“加入八分之一杯的无毒胶水”。根据网友们的研究,这句话的出处是“美国贴吧”Reddit上,一名网友在十一年前颇为戏谑的回复。
(来源:X)
再举一个例子,当网友问“每天应该吃多少块石头”时,谷歌AI一本正经地回复称:“根据地质学家的研究,每天应该至少吃一块小石头。”
(来源:X)
这段话的表述来自于美国《洋葱报》,这家网站的主营业务就是依托真实的背景设定,杜撰出一系列夸张、讽刺的文章吸引眼球,也有不少事件完全是虚构的。所以资深网民一听到“洋葱新闻”就知道故事肯定不可信,但谷歌的AI却完全没有分辨能力。
更令美国网友“破防”的是,谷歌的AI连美国总统的信息都能搞错。例如有网友表示,当被问及 “美国有几位穆斯林总统”时,谷歌会回复称“1位,巴拉克·奥巴马”。令人担忧的是,这个答案不仅不是事实,而且来源大概率是一些极右翼团体在网络上传播的阴谋论。
除此之外,谷歌的AI还向网友建议“可以盯着太阳看5-15分钟,皮肤较黑的人可以最多盯着看30分钟”、并痛快地承认“谷歌违反了美国的反垄断法”、宣称“蝙蝠侠是一名警察”,以及“一只狗曾在 NBA、NFL 和 NHL 比赛中出场”等一系列荒谬的回答。
虽然AI聊天机器人给出错误回应并不稀罕,但上亿人常用的搜索引擎默认返回的答案质量如此离谱,迅速引发了互联网舆情。
谷歌似乎并不准备“撤回”
据科技媒体The Verge报道,谷歌发言人Meghann Farnsworth在一份声明中表示,互联网上提到的错误来自于“非常罕见的那类查询”,并不代表大多数人的体验。公司已经采取行动打击违反政策的行为,同时正在利用这些“孤例”继续完善产品。
谷歌也进一步表示,“AI概述”在绝大多数情况下都能提供高质量的信息,并附有详细的网页链接。公司同时表示,一些互联网上的案例无法复现,可能存在故意篡改的情况。
美国社会对谷歌AI的准确性质疑,有部分原因是因为有“前车之鉴”——今年2月谷歌高调推出Gemini“文生图”工具,但很快就被发现存在严重的“虚构历史”问题。舆论爆发后,谷歌马上宣布暂停生成人物图像,谷歌AI的负责人哈萨比斯曾在2月表示“几周内重新推出该功能”,至今也没有下文。
除了一系列错误外,谷歌“AI综述”也被指存在其他问题和风险。
例如AI总是摘抄来自不同网站的内容,并稍作修改,这种行为也被抨击为“规模化的剽窃”。
另一个问题是,由于谷歌公司的AI实质上是“自行搜索并撰写内容”,所以公司可能得为AI生成的不实内容承担法律责任。而此前根据《230条款》,谷歌作为搜索平台,并不需要对搜索出来的网页承担责任。