据小易智创xiaoyizc.com（不可错过的AI创业项目）观察：近日，英国科技部长彼得·凯尔（Peter Kyle）坦承，政府在人工智能（AI）和算法使用上的不透明性，已让公众感到深深不安。自政府宣布所有部门必须登记使用的AI系统以来，白厅各部门均未完成这一登记，令人对公共部门在算法技术应用上盲目行事表示担忧。
政府目前已在福利支付、移民执法等多个领域积极应用AI技术。然而，令人震惊的是，至今仅有九个算法系统被记录在公共注册中，福利系统、内政部和警方的AI程序则完全缺席。专家警告，如果对AI的应用缺乏严谨的批判思维，潜在的风险将会显著增加。虽然内阁办公室、剑桥市和NHS等机构登记的算法系统数量极其有限，但与公共机构签订的AI相关合同自今年2月以来已高达164份，显示出对这项技术的强烈需求。
凯尔指出，公众有权知晓政府在算法使用方面的实情，并承诺将增强透明度。隐私权倡导组织Big Brother Watch也强调，政府在使用AI时缺乏透明度可能侵害公众的数据权利。此外，Ada Lovelace Institute最近警告，虽然AI系统似乎能够减轻行政负担，但若其结果存在歧视或无效，反而会损害公众信任。
当前，仅有三种算法被登记在国家注册中，分别用于识别数字记录、分析人行横道和患者对NHS服务的评价。与此同时，微软和谷歌云等科技巨头正积极推广其AI系统，声称更广泛的AI应用将为公共部门带来巨额节省。凯尔认为，这项技术可能在政府服务中产生革命性的影响。
总之，AI在各个政府部门中的应用愈发普遍，然而透明度问题却引发了社会的广泛关注。未来，如何平衡技术应用与公众信任，将是政府必须面对的重要挑战。
相关文章
