Das Diskriminierungspotenzial algorithmischer Entscheidungen im Hinblick auf die Reproduktion von Rassismus

Studienarbeit aus dem Jahr 2024 im Fachbereich Informatik - Künstliche Intelligenz, Note: 1.0, Universität zu Köln, Sprache: Deutsch, Abstract: Diese Arbeit beschäftigt sich mit der Frage, inwiefern algorithmische Entscheidungsträger objektiv und vorurteilsfrei im Umgang mit marginalisierten Gruppen agieren. Dafür wird zunächst definiert, was genau unter der Künstlichen Intelligenz und was unter einem Algorithmus verstanden wird. Aufgrund des begrenzten Umfangs der Arbeit liegt der Fokus auf der Diskriminierungsform Rassismus, wobei auch dieser Begriff definiert wird. Nachdem der aktuelle Forschungsstand hinsichtlich des Zusammenhanges von Algorithmen und Rassismus beleuchtet wurde, werden verschiedene Maßnahmen und Strategien gegen die diskriminierende Wirkung von Algorithmen präsentiert, um mögliche Lösungsansätze zur Verbesserung der Objektivität und Vorurteilsfreiheit der KI zu diskutieren. Abschließend folgen Fazit und Ausblick.
Durch die rasante Entwicklung der Künstlichen Intelligenz (KI) hat sich in den letzten Jahren ein weitreichenden Forschungsfeld entwickelt, welches nicht nur die Technologie, sondern auch unser tägliches Leben maßgeblich beeinflusst. Wie der Philosoph Rainer Mühlhoff bemerkt, sind KIs weitaus mehr als Technologien; sie sind "Konstitutionsbedingungen unseres Denkens, Fühlens und Handelns." (ebd. 2020) Von Navigationsgeräten im Auto, Sprachassistenten wie SIRI oder Alexa, die Gesichtserkennung bei Handys oder Sprachübersetzungen wie Google Translate - KIs sind allgegenwärtig. Spätestens seitdem im Jahr 2022 der Chatbot ChatGPT1 veröffentlicht wurde, werden Künstliche Intelligenzen gesamtgesellschaftlich kontrovers diskutiert. Einige sehen in einer KI die Möglichkeit, die Welt zu verbessern, andere wiederum warnen vor KIs und deren negativen Auswirkungen. So wird neben der Annahme, dass KIs erheblich an Zeit und Arbeit sparen können, auch hinsichtlich der Fairness argumentiert. Denn eine wissenschaftlich und gesellschaftlich weitverbreitete Annahme ist, dass KIs im Gegensatz zu Menschen dazu fähig seien, vorurteils- und verzerrungsfrei zu bewerten und Entscheidungen zu treffen. Beispielsweise wenn es um eine Vorsortierung von Bewerbung geht; dabei könne eine KI objektiv vorfiltern, wer potenziell für den Job geeignet sei, so die Annahme. Da 60 Prozent der deutschen Unternehmen überzeugt davon sind, dass die KI eine der wichtigsten Zukunftstechnologien überhaupt darstellt wird die Präsenz dieser unaufhaltsam wachsen, denn die KI wurde entwickelt, um zu bleiben.