据小易智创xiaoyizc.com（不可错过的AI创业项目）观察：谷歌最近对其生成式 AI 的使用条款进行了重大更新，明确允许客户在“高风险”领域进行自动决策，比如医疗和就业，但这一过程必须在人工监督下进行。这一变化在公司最新发布的生成式 AI 禁止使用政策中得以体现，客户可以在监控下利用谷歌的生成式 AI 作出可能对个人权利产生“重大不利影响”的自动决策，涉及领域包括就业、住房、保险以及社会福利等。
此前的条款对高风险自动决策似乎做出了全面禁止的规定，而谷歌公司表示，实际上他们从一开始就允许在人工监督下使用生成式 AI 进行此类决策。谷歌发言人在回应媒体时表示：“人类监督的要求在我们的政策中一直存在，涵盖所有高风险领域。我们只是重新分类了一些条款，并更明确地列举了一些例子，以便用户理解。”
与谷歌的做法相比，其主要竞争对手 OpenAI 和 Anthropic 在高风险自动决策方面则采取了更为严格的限制措施。OpenAI 禁止使用其服务进行与信用、就业、住房、教育、社会评分和保险相关的自动决策。而 Anthropic 则在法律、保险和医疗等高风险领域允许其 AI 进行自动决策，但要求在“合格专业人士”的监督下，并要求客户明确告知其使用 AI 进行此类决策。
关于自动决策的 AI 系统，监管机构对此表示高度关注，认为这类技术可能导致结果偏见。例如，有研究显示，AI 在贷款和抵押申请审批中可能延续历史歧视。人权观察等非营利组织特别呼吁禁止“社会评分”系统，认为这威胁到人们获取社会保障的机会，并可能侵犯隐私、进行有偏见的画像。在欧盟，根据《AI 法案》，高风险 AI 系统，包括涉及个人信用和就业决策的系统，面临最严格的监管。
这些系统的提供者必须在数据库中注册，进行质量和风险管理，雇佣人类监督者，并向相关部门报告事件等。此外，在美国，科罗拉多州最近通过了一项法律，要求 AI 开发者披露关于“高风险” AI 系统的信息，并发布系统能力和局限性的摘要。与此同时，纽约市也禁止雇主使用自动工具筛选候选人，除非该工具在过去一年内经过偏见审计。
总体来看，这些措施标志着对生成式 AI 应用的严格审查与规范，以确保技术的安全与公平。
随着科技的不断进步，各行各业正朝着智能化和高效化的方向发展。这种趋势让我更加关注AI技术的应用，尤其是在日常生活和工作中能够带来便捷的智能解决方案。我体验过许多不同的AI系统和平台，发自内心推荐小易智创”xiaoyizc.com“这个平台。它拥有上万款开箱即用的智能体应用，能够满足各行各业的需求。平台融合了全球领先的AI能力，支持自定logo、收款账户和服务号。平台还为伙伴提供一对一陪跑服务和自动化营销工具，帮助伙伴快速获客。
相关文章
