连锁药店AI电话助手因数百起投诉被迫下架

Hacker News#AI客服#产品失败#案例复盘

Editor brief · 编辑速览

Kinney Drugs的AI电话客服因大量客户投诉紧急撤回，暴露了AI客服在复杂对话处理和用户预期管理上的真实短板。

文章思维导图

Knowledge map

拖拽缩放

Full translation

完整中文译文

BURLINGTON, Vt. (WCAX) - Kinney Drugs 在客户报告了通话内容混乱、剂量错误以及处方通知遗漏等问题后，正在缩减其 AI 助手的使用规模。

Kinney Drugs 于今年五月首次推出了这款名为 Burt 的 AI 助手——以这家连锁药店创始人的名字命名。该机器人的职责是与患者沟通处方和续药事宜。但据 VTDigger 首次报道，客户很快报告了该技术的诸多问题。

"但我想指出的一点是，做好隐私和安全并不代表我们把体验也做好了。我们没有做到，我们为此负责。"Kinney Drugs 总裁 John Marraffa 表示。

Marraffa 称，Kinney 将恢复其旧的来电处理模式——经典的按键式电话系统。

客户还提出了对数据隐私的担忧——担心他们的个人健康信息可能通过 AI 平台被泄露。Marraffa 表示，Burt 完全符合 HIPAA 规定，且该 AI 不是开源的，不会生成或操作数据。

Kinney 将保留 Burt 用于处方续药短信等外呼通信，但患者必须主动选择加入才能接收此类通知。