Amnesty International fordert die sofortige Einstellung des künstliche Intelligenz basierten Risikobewertungssystems der schwedischen Sozialversicherung, da dieses nachweislich marginalisierte Bevölkerungsgruppen diskriminiert. Eine investigative Recherche ergab, dass der Algorithmus unverhältnismäßig häufig Frauen, Personen mit ausländischen Wurzeln, Geringverdiener sowie Menschen ohne Universitätsabschluss fälschlicherweise unter Generalverdacht von Sozialbetrug stellt. Betroffene Bürger werden durch automatisierte Vorwürfe oft direkt in aggressive Kontrollverfahren gedrängt, was schwerwiegende Verletzungen der Privatsphäre und des Rechts auf Gleichbehandlung zur Folge hat. Obwohl schwedische Behörden die Einblicke in die genaue Funktionsweise der Software verweigerten, bestätigten statistische Analysen eine systemische, voreingenommene Verzerrung zulasten schutzbedürftiger Gruppen. Experten warnen daher vor Parallelen zu ähnlichen westeuropäischen Wohlfahrtsskandalen und drängen auf die strikte Einhaltung internationaler Menschenrechte sowie europäischer KI-Vorschriften.
Sweden: Authorities must discontinue discriminatory AI systems used by welfare agency
von Horst Polomka -