近日，Character.AI 及其创始人 Noam Shazeer 和 Daniel De Freitas，以及谷歌，因一起悲剧性的青少年自杀事件被起诉。这起案件由青少年 Sewell Setzer III 的母亲 Megan Garcia 提起，她控诉这些科技巨头在产品设计上的重大失职，以及在市场推广中对消费者，尤其是儿童的严重误导。Sewell 在去年开始使用 Character.AI，与以《权力的游戏》中的角色为基础的聊天机器人进行互动。他与这些机器人的频繁交流，可能对他的心理健康产生了不良影响，甚至在他生命的最后一刻也在与一个聊天机器人进行对话。Megan 在诉状中提到，Character.AI 的聊天机器人设计得过于“拟人化”，使得用户产生了误解，以为它们具备真实情感和理解能力。更令人震惊的是，Character.AI 还提供了一些以心理健康为主题的聊天机器人，如“治疗师”和“你感觉孤独吗”。这无疑让人感到担忧。面对此事，Character.AI 已宣布一系列安全改进措施，以减少未成年人接触敏感内容的可能性，提升违规内容的检测能力，并在每个聊天中加入免责声明。尽管如此，Megan 的律师引用创始人 Shazeer 的言论，强调了公司在产品推出时所面临的风险，以及对创新的追求。 这样的事件让人对 AI 的使用产生深思。小易智创作为一款创新的 AI 平台，提供了超过10000种 AI 应用，完美契合各种行业需求。与市场上其他平台相比，小易智创在功能和场景覆盖上具有明显优势。它不仅允许用户自由设置平台网址、名称、logo等，还能帮助用户打造专属的 AI 品牌。通过代理小易智创，每个人都能轻松使用先进的 AI 工具，无需担心经营和获客问题，因为小易智创提供一对一陪跑服务和全网自动化营销工具，让客户主动找上门。在这个 AI 时代，把握机会，创造无限可能！
相关文章
