Diskriminierung durch Künstliche Intelligenz: Transparenz und klare Regeln notwendig

Die Antwort der Landesregierung auf eine Kleine Anfrage der Landtagsabgeordneten Pia Schellhammer gibt einen Überblick über die Erkenntnisse der Landesregierung zu Diskriminierung durch den Einsatz von Künstlicher Intelligenz. Der Landesregierung sind Fälle nachgewiesener Diskriminierung aus anderen europäischen Ländern bekannt, bislang aber nicht aus Rheinland-Pfalz. Die Landesregierung macht deutlich, dass mangelnde Transparenz beim Einsatz von Künstlicher Intelligenz ein wesentlicher Grund für das bisherige Ausbleiben von Beschwerden im Land sein dürfte. Dazu erklärt Pia Schellhammer, Parlamentarische Geschäftsführerin und Sprecherin für Digitalpolitik der GRÜNEN Landtagsfraktion:

„Mit dem Autovermieter Sixt geht dieser Tage ein neuer Anbieter für Carsharing auf den deutschen Markt, der offen zugibt, dass eine Künstliche Intelligenz über die unterschiedlichen Preise entscheiden wird, die verschiedene Kundinnen und Kunden für dasselbe Produkt zahlen werden. Es ist vor diesem Hintergrund nur vordergründig eine gute Nachricht, dass die Landesregierung noch keine Kenntnis über konkrete Fälle von Diskriminierung durch den Einsatz von Künstlicher Intelligenz im Land hat. Die Einschätzung von Expertinnen und Experten sowie Fallbeispiele aus anderen Ländern deuten darauf hin, dass Diskriminierung durch KI auch in Rheinland-Pfalz bereits stattfinden dürfte. Die Antwort der Landesregierung macht deutlich, dass gerade Scoringverfahren wie etwa das der Schufa zwar potentiell diskriminierende Wirkung haben, als Geschäftsgeheimnis aber keinerlei Transparenz unterliegen. Wenn aber für die Bürgerinnen und Bürger der Einsatz Künstlicher Intelligenz gar nicht erkennbar ist, dann ist es zumeist auch eine dadurch erfolgte Diskriminierung nicht. Hier muss die Bundesebene dringend für Transparenz und klare Regeln sorgen. Eine Aufweichung unserer rechtlichen Standards durch die Hintertür darf es nicht geben.

Der Einsatz von Künstlicher Intelligenz wird in den kommenden Jahren stark zunehmen und enorme Effizienzgewinne für die Wirtschaft mit sich bringen können. Der Schutz von Bürgerinnen und Bürgern gegenüber Großunternehmen wird daher umso notwendiger. Heute haben wir noch die Chance, selbst die Standards zu definieren, nach denen Künstliche Intelligenz bei uns eingesetzt werden darf. Hier besteht Handlungsbedarf. Zum einen müssen Vorteile genutzt werden, damit wir nicht wirtschaftlich abgehängt werden. Zum anderen müssen Regelungen getroffen werden, damit beim Einsatz Künstlicher Intelligenz unsere Werte nicht über Bord geworfen werden. Algorithmen können genauso diskriminierend sein wie die Menschen, die sie programmieren. Es ist deshalb enorm wichtig, dass ethische Aspekte schon in der Ausbildung von Informatikerinnen und Informatikern eine zentrale Rolle einnehmen. Es muss ein Bewusstsein geschaffen werden für die Verantwortung, die mit dem Programmieren von Algorithmen einhergeht.

Um Regeln für einen wirtschaftlichen, sozialen und ökologisch sinnvollen Einsatz der Künstlichen Intelligenz zu definieren, brauchen wir eine umfassende gesellschaftliche Diskussion über die Chancen und Gefahren der KI. Die Erkenntnisse daraus müssen in einer „Strategie Künstliche Intelligenz“ des Landes Rheinland-Pfalz gebündelt und umgesetzt werden. Dass Verbraucherschutzministerin Anne Spiegel vorangeht und ihren diesjährigen Vorsitz der Konferenz der Verbraucherschutzministerinnen und -minister dafür nutzen will, sich für mehr Transparenz und ein Diskriminierungsverbot bei der Künstlichen Intelligenz einzusetzen, ist genau die richtige Antwort auf die derzeitigen Herausforderungen.“

Hier finden Sie die Kleine Anfrage sowie die Antwort der Landesregierung.

Pressestelle der Fraktion

Marieke Jörg
Tel. 06131 / 208 3129
Marieke.Joerg@gruene.landtag.rlp.de

Florian Sparwasser
Tel.: 06131 / 208 3630
Florian.Sparwasser@gruene.landtag.rlp.de

Bereitschaftsdienst: 0176 11122050