据小易智创xiaoyizc.com（不可错过的AI创业项目）观察：谷歌最近更新了其生成式AI使用条款，允许客户在医疗保健等“高风险”领域使用其生成式AI工具进行“自动化决策”，但必须确保有人工监督。根据谷歌周二发布的最新版《生成式AI禁止使用政策》，只要存在某种形式的人工监督，客户便可利用谷歌的生成式AI在就业、住房、保险、社会福利等可能对个人权利产生“重大不利影响”的高风险领域进行自动化决策。这样的决策通常是指AI系统基于事实数据与推断数据所作出的判断，比如自动审批贷款申请或筛选求职者。此前，谷歌的条款草案曾暗示全面禁止在高风险自动化决策中使用其生成式AI，但谷歌向TechCrunch确认，只要有人工监督，客户就可以在高风险应用中使用该技术。“对于所有高风险领域，我们的人工监督要求始终存在于我们的政策中，”谷歌发言人在电子邮件中表示。“我们正在重新分类一些条款，并更明确地列出一些例子，以帮助客户更好地理解。”相较之下，谷歌的竞争对手OpenAI和Anthropic对高风险自动化决策的使用则设定了更为严格的规定。例如，OpenAI禁止其服务被用于信贷、就业、住房、教育、社会评分和保险相关的自动化决策。而Anthropic则允许其AI在法律、保险、医疗等领域进行自动化决策，但要求由“合格的专业人员”进行监督，并需客户披露使用目的。影响个人的自动化决策AI已经引起监管机构的高度关注，他们对这项技术可能导致的偏见结果表示深切担忧。研究表明，在信贷和抵押贷款申请中应用AI可能延续历史上的歧视现象。人权观察等非营利组织呼吁禁止“社会评分”系统，认为这会削弱人们获得社会保障支持的机会并损害隐私。在欧盟的《人工智能法案》中，高风险AI系统面临最严格的监管要求，包括提供商需在数据库中注册、执行质量和风险管理、雇用人工监督员等。在美国，科罗拉多州最近通过了一项法律，要求AI开发者披露有关“高风险”AI系统的信息，并发布系统功能及局限性的总结声明。此外，纽约市也禁止雇主使用自动化工具筛选候选人的就业决定，除非该工具在前一年内经过改写。面对这一系列变化与挑战，各界对谷歌的新规充满期待与疑虑。如何把握这一机遇，规避潜在风险，将成为行业面临的重要课题。
相关文章
