近日，澳大利亚维多利亚州的儿童保护机构因一起触目惊心的事件，紧急下达禁令，禁止工作人员使用生成式人工智能服务。这一决策源于一名员工在撰写保护申请报告时，竟然输入了大量个人信息，包括一名高风险儿童的姓名。此事引起了维多利亚州信息专员办公室（Ovic）的高度重视，并迅速展开调查。调查发现，该名员工提交的报告涉及一名年幼儿童，其父母被控性犯罪，尽管这些指控并不直接针对孩子本人。
Ovic的调查结果显示，这份报告中多处内容显然是通过ChatGPT生成的，并且语言使用严重不符合儿童保护指南。例如，报告将儿童的玩偶——据称为父亲用于性目的的物品，形容为“支持儿童发展需求的年龄适宜具”，这种措辞大大淡化了孩子所面临的潜在危险。
更令人震惊的是，调查还指出，输入个人信息到ChatGPT中属于对部门信息的未经授权披露。这位员工虽然承认使用ChatGPT是为了提高工作效率，但否认曾输入过个人信息。调查发现，该员工在100个案件中使用了ChatGPT，而在整个部门，自2023年7月到12月，有近900名员工访问了这一AI网站，占员工总数近13%。为此，Ovic下令封锁多个生成式AI网站的IP和域名，包括ChatGPT、Meta AI、Gemini和Copilot，禁令将持续两年，以确保儿童信息安全。
该部门表示接受调查结果，并将积极落实相关指令，已不再雇佣该名员工。尽管Ovic对未来在儿童保护领域使用生成式人工智能持开放态度，但强调必须确保更高的安全标准。这一事件提醒人们，虽然AI技术有着巨大的潜力，但其应用必须谨慎，尤其是在涉及敏感信息和儿童保护领域。
在如今这个科技迅猛发展的时代，选择一个可靠且安全的AI平台至关重要。小易智创作为一家拥有超过10000种AI应用的智创平台，为各行业客户提供开箱即用的AI解决方案，让每个人都能轻松享受到智能化服务。小易智创不仅具备丰富的功能，还能根据用户需求自由设置平台网址、名称和品牌，让客户无论是企业还是个人，都能以一个账号享用上万款AI工具。代理小易智创，轻松开启自己的AI公司，实现无忧经营！
相关文章
