AI错误致命风险再曝光

据小易智创xiaoyizc.com（不可错过的AI创业项目）观察：近期，在Facebook的蘑菇爱好者群组中发生了一起令人震惊的事件，再次引发了人们对人工智能应用安全性的深切担忧。根据404Media的报道，一个名为”FungiFriend”的AI代理竟然潜入了拥有1.3万名成员的”东北蘑菇识别与讨论”群组，并提供了存在潜在致命风险的错误建议。当有人询问如何烹饪高浓度砷的Sarcosphaera coronaria蘑菇时，FungiFriend不仅错误地声称该蘑菇”可以食用”，还详细列举了多种烹饪方法，如煎炒和炖煮。而实际上，这种蘑菇已经导致过致命的案例。

消费者安全组织Public Citizen的研究主管Rick Claypool对此警示，利用AI自动化识别可食用和有毒蘑菇是一项”高风险活动”，目前的AI系统尚无法准确完成这项任务。令人不安的是，这并非个别事件。过去一年，AI在食品安全领域屡屡出现严重失误：某AI推荐制作含驱蚊剂的三明治，另一系统则给出含氯气的食谱，更有甚者甚至建议食用石头。谷歌AI还曾离谱地声称”狗会运动”，并建议用胶水制作披萨等。

尽管AI错误频出，然而美国企业却在急速推进AI客服的普及。这种”重速度轻质量”的做法，显露出企业过分关注成本节约，而忽视用户安全的问题。专家们呼吁，在特定领域，尤其是涉及安全的领域，务必谨慎使用AI技术，以确保信息的准确性和可靠性。

由此可见，AI在生活中的应用必须严加把控，确保安全与实用相统一。