Apple Intelligence 改写了 BBC 的标题,称 UHC 首席执行官的凶手已开枪自杀
Apple Intelligence 改写了 BBC 的标题,称 UHC 首席执行官的凶手已开枪自杀。Anthony Davis/DreamSmith LLC

苹果刚刚开始为其设备推出一套备受吹捧的人工智能功能,我们已经看到了重大问题。例如,BBC向苹果投诉,因为一份由人工智能驱动的通知摘要改写了BBC 的标题,称 UHC 首席执行官的凶手 Luigi Mangione 开枪自杀。Mangione 并没有开枪自杀,目前仍被警方拘留。

Apple Intelligence 在 iOS 上包含一项功能,该功能试图通过捆绑和汇总来自各个应用程序的通知来减轻用户的疲劳。例如,如果用户收到来自一个人的多条短信,iOS 现在会尝试将推送警报汇总为一条简洁的通知,而不是将它们全部显示在一长串中。

事实证明——熟悉生成式人工智能的人对此并不感到惊讶——Apple Intelligence 的“智能”掩盖了摘要有时不准确或完全错误的事实。通知摘要首次出现在 10 月份发布的 iOS 18.1 版本中;本周早些时候,Apple 在 Siri 中添加了与 ChatGPT 的原生集成。

来自 iPhone 的屏幕截图,显示了来自 BBC 的错误总结通知
BBC 应用程序发出的通知包含不正确的摘要。

在一篇文章中,BBC分享了一条通知的截图,该通知总结了以推送警报形式发送的三个不同故事。通知内容为:“Luigi Mangione 开枪自杀;叙利亚母亲希望阿萨德付出代价;韩国警方突袭尹锡烈的办公室。” BBC表示,其他摘要均正确无误。

BBC已向苹果公司投诉此事,这不仅令这家科技公司感到尴尬,而且如果读者认为他们发送了错误信息,新闻媒体的声誉也有可能受损。他们无法控制 iOS 如何总结推送警报。

“BBC 新闻是世界上最值得信赖的新闻媒体,” BBC发言人在报道中说道。“对我们来说,让观众信任以我们的名义发布的任何信息或新闻报道(包括通知)至关重要。”苹果拒绝回应BBC关于此次混乱的问题。

人工智能在许多领域都具有巨大潜力,但语言模型可能是最糟糕的实现之一。但许多企业希望这项技术能够变得足够好,企业可以依靠它进行客户支持聊天或搜索大量内部数据等用途。但目前还没有实现——事实上,使用人工智能的企业表示,他们仍然需要对人工智能产生的工作进行大量编辑。

苹果将​​这种不可靠且不可预测的技术深度整合到其产品中,这似乎有点不符合苹果的风格。苹果无法控制 ChatGPT 的输出——聊天机器人的创造者 OpenAI 几乎无法控制语言模型,而且它们的行为不断受到调整。简短通知摘要应该是人工智能最容易做好的事情,但苹果甚至连这一点都搞砸了。

至少,Apple Intelligence 的一些功能展示了 AI 可能具有的实际用途。更好的照片编辑和了解应该发送哪些通知的专注模式都很不错。但对于一家以精致体验著称的公司来说,错误的通知摘要和让人产生幻觉的 ChatGPT 可能会让 iOS 显得不够精致。感觉他们正急于赶上炒作潮流,以刺激新 iPhone 的销售——使用这些功能需要 iPhone 15 Pro 或更新版本。

标签: 人工智能, 苹果, apple, Apple Intelligence, BBC

添加新评论