DBS veröffentlicht Algorithmic Transparency Record für KI-Tool zur Zusammenfassung von Barring-Referrals
KI-generiert (AI). Dieser Text wurde von künstlicher Intelligenz automatisch erstellt und übersetzt und softwaregestützt mit den angegebenen Quellen abgeglichen; keine menschliche Prüfung. Keine Rechtsberatung.
Zusammenfassung
Der Disclosure and Barring Service hat einen Algorithmic Transparency Record veröffentlicht, der ein KI-Tool beschreibt, das für Sachbearbeiter Zusammenfassungen von Barring-Referrals erstellt. Das Tool nutzt auf AWS Bedrock gehostete Foundation-Modelle mit Quellenangaben, die mit den zugrunde liegenden Belegen verknüpft sind, um Sachbearbeitern in der Triage die Durchsicht der Referral-Unterlagen zu erleichtern. Laut dem Record trifft das Tool keine automatisierten Entscheidungen, und die Sachbearbeiter müssen die Zusammenfassungen anhand der ursprünglichen Belege überprüfen. Reply, der bestehende technische Dienstleister, entwickelt und wartet das Tool. Dem Record zufolge soll das Tool von einem Triage-Team von etwa 16 Personen genutzt werden, das etwa 1.200 Fälle pro Monat bearbeitet. Er beschreibt Tests in der Alpha- und der Private-Beta-Phase, eine Datenschutz-Folgenabschätzung, eine Gleichstellungsfolgenabschätzung, die in den Private-Beta-Tests keine unverhältnismäßigen nachteiligen Auswirkungen feststellte, sowie aufgeführte Risiken mit Gegenmaßnahmen, etwa Verzerrungen, Halluzinationen und übermäßiges Vertrauen.
Warum es wichtig ist
Der Record zeigt, wie eine britische öffentliche Stelle ihren Einsatz generativer KI in der Fallbearbeitung im Bereich Safeguarding offenlegt. Er besagt, dass alle Entscheidungen bei den menschlichen Sachbearbeitern verbleiben, dass das bestehende Widerspruchsverfahren des DBS gilt und dass die Datenschutzbewertung alle 12 Monate überprüft wird. Betroffen sind Sachbearbeiter, gemeldete Personen und der Lieferant.
- Beteiligte
- Disclosure and Barring Service; Cabinet Office; britisches Ministerium für Wissenschaft, Innovation und Technologie; Government Digital Service; Reply
- Primärquelle
- GOV.UK (gov.uk)
Quelle abgerufen: . Quellen sind oft in anderen Sprachen; Links öffnen das Original. - Themen
- KI-Einsatz durch den Staat · Transparenz und Kennzeichnung · Datenschutz und automatisierte Entscheidungen