Amnesty International und verschiedene Kooperationspartner haben beim französischen Staatsrat eine offizielle Beschwerde eingereicht, um den Einsatz eines diskriminierenden Algorithmus der nationalen Familienkasse (CNAF) zu stoppen. Dieses automatisierte Risikobewertungssystem zur Aufdeckung von Leistungsbetrug benachteiligt gezielt vulnerable Gruppen wie arme Menschen, Arbeitslose, Alleinerziehende und Personen mit Behinderungen. Die Organisation kritisiert, dass solche Technologien die Privatsphäre verletzen, die Realität der Betroffenen verzerren und grundlegende Menschenrechte missachten. Obwohl die Europäische Union mit dem AI Act strenge Regeln für künstliche Intelligenz erlassen hat, bleibt unklar, ob die Software direkt unter das Verbot von Social-Scoring-Systemen fällt. Amnesty fordert die Behörden und die Europäische Kommission daher auf, für klare Bestimmungen zu sorgen und schädliche, unfaire Praktiken im Sozialwesen sofort zu beenden.
France: Discriminatory algorithm used by the social security agency must be stopped
von Horst Polomka -