Kommissar Computer: Wer betrügt den Staat?

Ein niederländisches Gericht stoppt Algorithmus
Digital.Leben Schwerpunkt "Künstliche Intelligenz"

26. Februar 2020, 16:55

Vor kurzem hat ein Gericht in Den Haag einer Behörde den Einsatz eines Algorithmus verboten. Das Betrugserkennungssystem System Risico Indicatie (SyRI) war seit 2014 im Einsatz, um potentielle Sozialhilfebetrüger aufzuspüren. Identifizierte es Menschen mit vermeintlich hohem Risiko, wurde ein Ermittlungsverfahren gegen sie eingeleitet. Voriges Jahr hatten Menschenrechtsorganisationen eine Klage gegen SyRI eingereicht, weil es arme Menschen diskriminiere. Nun haben sie Recht bekommen. Da immer mehr Behörden in Europa algorithmische Entscheidungssysteme einsetzen, dürfte das nicht der letzte derartige Gerichtsfall sein, wie Anna Masoner berichtet.