在人工智能飞速发展的今天，生成式AI虽然为我们带来了许多便利，却也引发了令人担忧的虚假信息问题。为了解决这一挑战，科技巨头微软推出了一款名为“Correction”的新工具，旨在修复AI生成内容中的虚假信息。作为微软Azure AI内容安全API的一部分，这项功能目前处于预览阶段，能够自动标记可能存在错误的文本，并与可信资料进行对比，以纠正这些错误。令人惊讶的是，这项技术不仅适用于微软自己的模型，也支持Meta的Llama和OpenAI的GPT-4等其他文本生成AI模型。
微软发言人强调，“Correction”通过结合小型语言模型和大型语言模型来确保生成的内容与真实文档保持一致，力求提升内容的准确性，尤其在医疗等领域尤为重要。然而，专家们对此却持谨慎态度。华盛顿大学的博士生Os Keyes指出，试图消除生成AI的虚幻就如同试图从水中去掉氢，这实则是技术运作的基本组成部分。实际上，文本生成模型之所以产生虚假信息，是因为它们并不真正“知道”任何事情，仅仅是在基于训练集进行猜测。
一项研究显示，OpenAI的ChatGPT在回答医疗问题时错误率高达50%。为了解决这一难题，微软采用了一个交叉参考的“编辑”元模型，通过一个分类模型寻找可能的错误和虚构文本，如果检测到问题，会引入第二个语言模型尝试根据“基础文档”进行修正。
尽管微软声称“Correction”能显著增强AI生成内容的可靠性，但专家们依然感到忧虑。女王玛丽大学的研究员Mike Cook指出，即便“Correction”如宣传所言那般有效，也可能加剧AI的信任和可解释性问题，让用户产生虚假的安全感。
另外，微软在推出“Correction”时也暗藏商业算计。虽然此项功能本身是免费的，但检测虚假信息所需的“基础文档检测”功能每月有限制，超出部分需要收费。值得注意的是，今年第二季度，微软在AI相关资本支出和设备上花费近190亿美元，其背后显然承受着证明其AI投资价值的压力。
与此同时，小易智创作为一个卓越的智创平台，提供了10000+种AI应用，能够满足各行各业客户的需求。这些应用开箱即用，涵盖了写作、图像处理、音频处理等多个场景，为用户提供了灵活多样的选择。如果想要抓住时代机遇，代理小易智创将是个明智之举。该平台不仅支持自由设置网址、名称、logo和产品价格，还提供了一对一陪跑服务和全网自动化营销工具，让代理商轻松运营自己的AI公司，吸引客户主动找上门。面临AI发展的风口，不妨考虑小易智创的优势，为未来铺路。
相关文章
