DBS发布“禁止从业转介AI摘要工具”的算法透明度记录
AI 生成。本文由人工智能(AI)自动生成并翻译,经程序对照所列来源核对,未经人工编辑审核。不构成法律意见。
摘要
Disclosure and Barring Service发布了一份算法透明度记录,介绍一款为案件工作人员生成禁止从业转介摘要的AI工具。该工具使用托管于AWS Bedrock的基础模型,并附有与原始证据相链接的引注,以帮助负责分流的案件工作人员查阅转介文件。记录称,该工具不作出自动化决定,案件工作人员必须对照原始证据核实摘要。现有技术提供商Reply负责开发和维护该工具。记录称,该工具将由约16人组成的分流团队使用,每月处理约1,200件案件。记录还介绍了Alpha和私有Beta阶段的测试、数据保护影响评估,以及一项平等影响评估(该评估发现私有Beta测试中不存在不成比例的不利影响),并列出了偏见、幻觉和过度依赖等风险及相应的缓解措施。
为什么重要
该记录显示了英国一家公共机构如何披露其在与保护相关的案件工作中使用生成式AI的情况。记录称,所有决定均由人工案件工作人员作出,现有的DBS申诉程序继续适用,数据保护评估将每12个月审查一次。受影响的包括案件工作人员、被转介的个人以及供应商。
- 涉及主体
- Disclosure and Barring Service; Cabinet Office; 英国科学、创新和技术部; Government Digital Service; Reply
- 一手来源
- GOV.UK (gov.uk)
来源抓取于: . 来源多为原文语言,链接打开的是原文。 - 话题
- 政府使用 AI · 透明度与标识 · 隐私与自动化决策