Il DBS pubblica il registro di trasparenza algoritmica per lo strumento di IA che sintetizza le segnalazioni di interdizione
Generato dall’IA (AI). Questo testo è stato redatto e tradotto automaticamente da un’intelligenza artificiale e verificato tramite software rispetto alle fonti citate, senza revisione umana. Non costituisce consulenza legale.
Sintesi
Il Disclosure and Barring Service ha pubblicato un registro di trasparenza algoritmica che descrive uno strumento di IA che genera sintesi delle segnalazioni di interdizione per i responsabili dei casi. Lo strumento utilizza modelli di base ospitati su AWS Bedrock, con citazioni collegate alle prove originali, per aiutare i responsabili del triage a consultare i documenti delle segnalazioni. Il registro afferma che lo strumento non assume decisioni automatizzate e che i responsabili dei casi devono verificare le sintesi rispetto alle prove originali. Reply, l’attuale fornitore tecnico, lo sviluppa e lo mantiene. Secondo il registro, lo strumento sarà utilizzato da un team di triage di circa 16 persone che gestiscono circa 1.200 casi al mese. Il registro descrive i test nelle fasi Alpha e Beta privata, una valutazione d’impatto sulla protezione dei dati, una valutazione d’impatto sull’uguaglianza che non ha rilevato un impatto negativo sproporzionato nei test della Beta privata, e un elenco di rischi con relative misure di mitigazione, quali bias, allucinazioni e eccessivo affidamento.
Perché è importante
Il registro mostra come un ente pubblico del Regno Unito renda noto il proprio uso dell’IA generativa nella gestione di casi legati alla tutela. Afferma che i responsabili dei casi umani mantengono tutte le decisioni, che si applica l’attuale procedura di ricorso del DBS e che la valutazione sulla protezione dei dati sarà riesaminata ogni 12 mesi. Sono interessati i responsabili dei casi, le persone segnalate e il fornitore.
- Parti coinvolte
- Disclosure and Barring Service; Cabinet Office; Dipartimento per la scienza, l'innovazione e la tecnologia del Regno Unito; Government Digital Service; Reply
- Fonte primaria
- GOV.UK (gov.uk)
Fonte consultata il: . Le fonti sono spesso in altre lingue; i link aprono l’originale. - Temi
- Uso dell’IA da parte dello Stato · Trasparenza ed etichettatura · Privacy e decisioni automatizzate