城市频道
北京
河南
上海
江苏
大湾区
2024年12月10日
谷歌因 "人工智能概述 "输出结果严重失准而指责用户
2024-06-06 15:28:03
来源:Cointelegraph华语
浏览量:1220
字体:
点击听新闻

谷歌推出的人工智能功能“AI概述”存在的不准确且危险的问题,然后列举了一些实例说明这些问题的严重性。

埃隆-马斯克(Elon Musk)最近表示,到 2025 年,人工智能将超越人类,但谷歌的模型非常不准确,需要人工调整。

搜索巨头谷歌(Google)最近推出了一项名为 "AI 概述 "的人工智能功能,该功能在回应用户搜索时会给出不准确且危险的总结,而谷歌似乎并没有解决这一问题的实际方案。

截至本文撰写之时,谷歌已经禁用了其 "人工智能概述 "功能的某些查询,因为有广泛报道称该系统正在生成错误且可能有害的输出结果。

社交和新闻媒体界开始流传这样一则报道:有用户向搜索引擎询问如何在披萨上保留奶酪,据报道,人工智能系统给出的答复是用户应该使用胶水。在另一批明显的错误中,人工智能系统据称告诉用户至少有两只狗拥有酒店,并指出一个不存在的狗雕像作为证据。

虽然许多所谓的不准确结果看起来很幽默或无害,但人们主要担心的是,生成 "人工智能概述 "内容的面向消费者的模型会以同样的自信产生不准确和准确的结果。

据谷歌代表梅根-法思沃斯(Meghann Farnsworth)通过电子邮件向 Verge 透露,到目前为止,该公司只能在系统出现不准确结果时删除这些查询。从根本上说,谷歌似乎是在用 "打地鼠 "的方式来解决人工智能问题。

更令人困惑的是,谷歌似乎把问题的责任推给了生成查询的人类。

法恩斯沃斯说:

"我们看到的许多例子都是不常见的查询,我们也看到了被篡改或无法重现的例子。

目前还不清楚用户应该如何避免进行 "不常见的查询",而且正如大型语言模型的常见情况一样,谷歌的人工智能系统在多次查询相同问题时有输出不同答案的倾向。

Cointelegraph 联系了谷歌要求进一步澄清,但没有立即得到回应。

虽然谷歌的人工智能系统似乎还需要一些发展才能解决一些问题,但竞争对手人工智能公司 xAI 的创始人埃隆-马斯克(Elon Musk)相信,这些机器将在 2025 年底之前超越人类的能力。

据 Cointelegraph 最近报道,马斯克最近在巴黎举行的 VivaTech 2024 活动上对与会者说,他相信 xAI 可以在 2024 年底之前赶上 OpenAI 和 DeepMind Google。

来源:中华商报
评论 (0人参与)
评论列表 (0条)