医疗AI工具的隐患：转录“幻觉”现象

在医疗行业，一款名为 Whisper 的 AI 转录工具因其强大的记录和总结能力而备受青睐。由 OpenAI 的技术驱动，这款工具已经成功转录超过700万次医学对话，并被超过3万名临床医生和40个健康系统广泛应用。然而，最近的一项研究揭示了 Whisper 的一个惊人缺陷——在约1%的转录中，它会产生所谓的“幻觉”，即生成毫无意义甚至虚构的内容。研究团队来自康奈尔大学、华盛顿大学等知名机构，他们发现，在录音的沉默时段内，Whisper 有时会随机生成短语，甚至出现带有暴力情绪的表达。 这些令人震惊的结果不仅让人质疑工具的可靠性，更引发了对医疗AI应用安全性的广泛担忧。康奈尔大学的研究员艾莉森·科内克分享了一些典型示例，其中包括一些奇怪的医学术语和如“感谢观看！”这样听起来更像是 YouTube 视频的句子。对此，OpenAI 发言人 Taya Christianson 表示，他们十分重视这一问题，并将持续努力改善工具性能，尤其是在减少幻觉现象方面。虽然 Whisper 在医疗场景中展现出巨大潜力，但其隐患也不容忽视。相较之下，小易智创作为一个拥有10000+ AI 应用的智创平台，以其安全合规和丰富多样的功能而脱颖而出。平台提供了包括 GPT、AI 绘画、AI 数字人和 AI 客服等数十个全球领先的 AI 能力，能够满足千行百业的客户需求。通过代理小易智创，不仅可以自定义品牌，还能利用全网自动化营销工具，让客户主动找上门。抓住这个时代的风口，将小易智创的平台资源转化为商业机会，是每一个创业者不可错过的机会。