Künstliche Intelligenz muss menschenzentriert bleiben

Seit einigen Jahren findet wiederkehrend ein Diskurs bezüglich Nutzen und Einsatzmöglichkeiten von KI statt – momentan verstärkt auch im Bezug auf Gesichtserkennung. Teilweise mutet der Dialog darüber jedoch so an, als würde es sich um Zukunftsphantasien handeln, die nur in Staaten mit niedrigem oder gar keinem Datenschutzniveau umgesetzt werden können. Doch dem ist nicht so, dass zeigt auch die in Deutschland geführte grundsätzliche Debatte bezüglich der Möglichkeiten zur Absicherung des öffentlichen Raums. Obwohl sich dagegen einiger Widerstand formiert (https://t3n.de/news/datenschutzbeauftragter-kelber-1137512/ und https://www.gesichtserkennung-stoppen.de/) zeigen die ständig neu aufkommenden Anwendungen wie im letzten Jahr die ‚FaceApp’ oder aktuell die Plattform ‚PimEyes’, dass in diesem Bereich unterschiedlich bewertet und agiert wird.

Dabei geht es auch bei diesen KI-basierten Anwendungen in erster Linie um Daten und deren Auswertung, denn diese sind sowohl für die Entwicklung von Anwendungen als auch entlang der gesamten Wertschöpfung unerlässlich.

Dies erklärt, warum den KI-basierten Anwendungen, mit denen sich relativ leicht große Datenmengen generieren lassen, mittlerweile eine so hohe Bedeutung beigemessen wird. Zeigt aber auch, dass die Nutzer besser informiert werden müssten, um ihre Handlungen auch tatsächlich abschätzen zu können.

Aufklärung ist gut

Umfragen zeigen, dass ein Großteil der Bevölkerung keine Vorstellung davon hat, was KI tatsächlich ist. Im Gegensatz dazu zeigen weitere Studien/Befragungen einerseits, dass die Menschen zunehmend mehr Vertrauen in die Technologie setzen, unter anderem aufgrund der Annahme, dass die Entscheidung einer KI als objektiver angesehen wird, was zum Beispiel die Untersuchung des Bitkom zum Einsatz von KI im Unternehmen belegt. Andererseits belegen Studien ebenso, dass das Thema KI große Unsicherheit hervorruft, weil die Technologie definitiv das Potential besitzt das Leben nachhaltig zu verändern, aber keine exakten Erkenntnisse darüber vorliegen, in welcher Form das passiert und ob die Effekte positiv oder negativ ausfallen beziehungsweise zu beurteilen sind.

Die fehlenden Kenntnisse können Auswirkungen zeigen: Sowohl konkret bei der arglosen Nutzung zum Beispiel von Anwendungen wie PimEyes, die auf Gesichtserkennung und KI basieren als auch allgemein bei der Frage nach der Gestaltungshoheit. Dies kann – wenn in unserer Gesellschaft der öffentliche Diskurs dazu nicht stattfindet – letztendlich dazu führen, dass folgerichtig zugelassen wird, dass einige wenige Akteure de facto festlegen, was „human-centric AI“ bedeutet und was ein verantwortungsvoller Umgang sowohl mit Daten als auch der Technologie ist. Ein Beispiel: 2010 postulierte Mark Zuckerberg in einem Interview: „Privatsphäre ist überholt“. // 2019 sagte er in einem Interview: „Zukunft ist privat“.

Fragestellungen die zeigen, warum ein Diskurs in unserer Gesellschaft stattfinden sollte:

Gesichtserkennung: Trotz Clearview, FindFace, FaceApp jetzt auch noch PimEyes?

Digitale Identität: Wer profitiert von ‚Digitale Identitäten’ und aus welchem Grund ist es möglich, dem Einzelnen die ‚Digitale Souveränität’ zu verweigern?