Mijatović warnte gestern in einer Rede vor Justiz-Vertretern der 47 Mitgliedsstaaten des Europarats vor Diskriminierung durch den Einsatz von Algorithmen. „Maschinen funktionieren basierend auf dem, was Menschen ihnen sagen. Wenn ein System mit menschlichen Vorurteilen – bewusst oder unbewusst – gespeist wird, wird das Ergebnis zwangsläufig voreingenommen sein“, so Mijatović. Es habe sich gezeigt, dass Minderheiten und Migranten beispielsweise häufiger überprüft würden.
Wahrung der Privatsphäre
Eine weitere Herausforderung ist Mijatović zufolge die Wahrung der Privatsphäre, die ebenfalls ein grundlegendes Menschenrecht ist. „Wir liefern ständig Daten über unseren Aufenthaltsort, unsere Gesundheit, politische Ideen und das Familienleben, ohne zu wissen, wer diese Daten wie und warum verwenden wird“, sagte Mijatović. Die Justiz müsse sicherstellen, dass die Menschenrechte bei der Verwendung von Daten in der Strafverfolgung gewahrt würden.
Empfehlungen für den Umgang mit KI in der Justiz
Die Menschenrechtskommissarin hatte im Mai Empfehlungen für den Umgang mit KI in der Justiz herausgegeben. Teil dieser sind unter anderem bessere Schulungen der Angestellten in der Strafverfolgung im digitalen Bereich. Der Europarat mit Sitz im französischen Straßburg kümmert sich um den Schutz und die Einhaltung der Menschenrechte in den Mitgliedsstaaten. Er agiert unabhängig von der Europäischen Union.