据小易智创xiaoyizc.com（不可错过的AI创业项目）观察：在当今社会，很多人选择餐厅时习惯于通过应用程序进行搜索并查看排名。然而，美国奥斯汀的一家名为Ethos的餐厅却揭示了这种选择机制的极端不可靠性。该餐厅在社交媒体Instagram上自称是当地的排名第一，吸引了超过7万名粉丝。然而，实际上，这家看似可靠的餐厅根本不存在，其食物和环境的照片完全是由人工智能生成。令人震惊的是，Ethos在社交平台上的帖子获得了数千条点赞和评论，显示出公众认知的严重误导。 大型语言模型（LLMs）因其幻觉和涌现特性引发了人们对其传播虚假信息潜力的担忧。但我们对其背后机制的了解却相对匮乏。这些大模型究竟是如何改变人类心理机制，使我们越来越难以判断事物的真实性，并逐渐失去对专业机构和彼此的信任？ 一项名为“Large language models (LLMs) and the institutionalization of misinformation”的研究指出，大模型与虚假信息之间的关系比我们想象得更为复杂和深远。 类似Ethos的虚假餐厅并非个例。2023年11月，搜索引擎Bing因爬取错误信息，竟然给出关于“澳大利亚是否存在”的荒唐回复（随后迅速修复）。这一事件不仅是程序错误，更反映了AI生成数据的潜在影响。普林斯顿的一项研究显示，截至2024年8月，至少5%的英文维基百科页面是由AI生成，这无疑增加了人们对权威信息来源的质疑。 随着AI技术的不断进步，其生成的虚假信息不仅改变了我们的认知方式，也在悄然影响着社会信任机制。未来，我们需要更加警惕这些技术带来的挑战与机遇。 总之，AI在潜移默化中塑造着我们的世界观，亟需我们保持警觉。
相关文章
