谷歌搜索AI幻觉问题促使谷歌招聘"AI答案质量"工程师

包括谷歌搜索中的AI概述在内的人工智能系统可能出现幻觉，经常编造信息，或在以两种不同方式提问时提供相互矛盾的答案。

一份新的招聘信息表明，谷歌正在招聘工程师来验证AI答案并提升其质量，因为该公司正在重新构想搜索体验。

谷歌在招聘说明中解释道："在谷歌搜索部门，我们正在重新构想随时随地以任何方式搜索信息的意义。为此，我们需要解决复杂的工程挑战并扩展基础设施，同时维护全球用户所依赖的普遍可访问且实用的体验。"

该职位名称为"AI答案质量工程师"，加入谷歌搜索团队的员工将承担提升AI答案质量的任务，特别是针对AI概述功能。

招聘信息写道："帮助AI答案质量团队在搜索结果页面和AI模式下，为用户困难复杂的查询提供AI概述答案。"

这是谷歌首次间接承认其AI概述功能需要改进，而时机选择颇为微妙。

谷歌正强制用户查看AI答案，却在提升质量方面作为有限

近期更新后，谷歌正将越来越多的用户推向AI模式和AI答案。

事实上，谷歌还在其Discover信息流中为新闻内容更新了AI概述功能，甚至使用AI重写新闻媒体的标题。

虽然谷歌AI概述已取得长足进步，答案质量较过去有所提升，但仍存在一些不足之处。

例如一周前，当我搜索某初创公司的估值时，谷歌编造了400万美元的数据。随后我打开新标签页以略微不同的表述提出相同问题，AI概述却显示该公司估值超过7000万美元。

我通过谷歌生成的引用链接交叉核对了答案，但注意到谷歌两次引用的数值在其声称的参考来源中根本不存在。

这只是谷歌可能出错的案例之一。

近日《卫报》报道称，AI概述提供的健康建议存在误导性或完全错误的情况。

过去几个月谷歌AI答案已有所改进，但仍需继续优化，因为大多数用户倾向于相信谷歌展示的所有信息。