Im Jahr 1951 kam in Großbritannien der Großrechner Ferranti Mark 1 auf den Markt. Die zimmergroße Rechenmaschine war der erste programmierbare Digitalcomputer der Welt. Neben Daten verarbeiten oder Schach spielen konnte sie auch absurde Liebesgedichte generieren. „Das zeigte schon damals das Unkonventionelle und Alberne, zu dem eine solche maschinelle Intelligenz auch fähig ist, wenn man sie lässt“, sagt Eleanor Drage.
Sie ist die Ururenkelin des Tüftlers Vincent Ziani de Ferranti, der den Großrechner konstruiert hat. Ihre Familiengeschichte hat dafür gesorgt, dass sich die Britin schon von klein auf für Computer begeistern konnte – und heute beruflich Künstliche Intelligenz (KI) erforscht: Am Leverhulme Centre for the Future of Intelligence (CFI) der Universität Cambridge ist sie eine der Leiter:innen des Forschungsprojekts „Desirable AI“. Bei der Gemeinschaftsinitiative mit der Uni Bonn soll ein interdisziplinäres Team von Forschenden herausfinden, wie sich Menschen eine gerechte Digitalisierung vorstellen, allen voran bei der Einführung von KI. „Das Projekt gibt uns die Möglichkeit, wichtige Fragen zu stellen“, sagt Drage. Fragen wie: Was ist Gerechtigkeit für Menschen aus unterschiedlichen Kulturen? Aus welchen Gründen schauen sie sorgenvoll auf KI? Und welche Form dieser Technologie brauchen sie wirklich in ihrem Alltag?
Handreichungen erwünscht
Die 1991 geborene Drage ist KI-Ethikerin. Das bedeutet, dass sie sich Gedanken darum macht, wie KI verantwortungsvoll, sozial gerecht und nachhaltig gestaltet werden kann, die sie dann mit Ingenieur:innen und Programmierer:innen diskutiert. Zu diesem Themenfeld gekommen ist sie, als sie einst technische Mitarbeitende eines großen Telekommunikationskonzerns für ein Forschungsprojekt dazu interviewte, was „ethische KI“ für sie bedeutet. Das Ergebnis: Viele Mitglieder von KI-Entwicklungsteams hätten sich mehr Handreichungen zu Werten und Ethik bei ihrer Arbeit gewünscht, aber fühlten sich dabei alleingelassen.
Heute arbeitet Drage unter anderem daran, die Fehler und Vorurteile von KI-Tools bei Behörden oder Personalabteilungen zu entlarven und korrigieren. So wolle sich etwa die britische Polizei durch den großflächigen Einsatz von KI-Technologie zum Beispiel bei der Kriminalitätsvorhersage von dem Vorwurf befreien, sie sei voreingenommen. „Aber KI ist nicht unpolitisch oder neutral – diese Technologie wurde immer irgendwo von irgendwem erschaffen, und deren Beschränktheit und Vorurteile beeinflussen immer das Ergebnis“, sagt Drage.
Was aus ihrer Sicht aktuell schlecht läuft bei der laufenden großflächigen Einführung von KI in Unternehmen und Gesellschaft, beschreibt die Wissenschaftlerin in ihrem gerade erschienen Buch „What If We Got AI Right?“, also: „Was wäre, wenn wir KI richtig hinbekämen?“. Die Kritik: Der Rollout verlaufe planlos, getrieben von Heilsversprechen auf der einen und Untergangsdrohungen auf der anderen Seite.
„Alle zeigen auf die großen Tech-Unternehmen, die unverantwortlich vorgingen“, sagt Drage, „aber kaum jemand nimmt bei Kritik das Wort ‚Kapitalismus‘ in den Mund – das ist sozusagen der Elefant im Raum.“ Dabei sei doch die auf fortlaufendem Wachstum ausgelegte Form von unreguliertem Kapitalismus das eigentliche Problem. KI komme vor allem zum Einsatz, damit Menschen KI immer noch produktiver arbeiten können. Die hätten dann aber nicht etwa mehr freie Zeit. Stattdessen wachse die Wirtschaft immer weiter – und die Arbeitsbelastung steige beständig, anstatt nachzulassen. „Wie nachhaltig ist das?“, sagt Drage. „Diese Ideologie bringt uns nur dazu, dass wir uns bei der Einführung von KI schneller bewegen, als es uns eigentlich gut tut.“
Ein Ausweg? Genügsame Technologie!
Drage belässt es nicht bei Kritik. Ihr Buch trägt den Untertitel „How To Stop Catastrophising And Build An Ethical Future“, auf Deutsch etwa: „Wie man aufhört, alles schwarz zu malen, und eine ethische Zukunft gestaltet“. Und sie entwirft darin auch Auswege aus der gegenwärtigen Misere. Dazu gehört ein Ansatz, den sie „Frugale KI“ nennt, also genügsame Technologie. Darunter versteht sie kleine KI-Anwendungen, die lokal für konkrete Probleme entwickelt wurden. „Frugale Innovationen basieren nicht Milliarden US-Dollars und unbegrenzten Ressourcen“, sagt Drage. Stattdessen seien es gerade Ressourcenknappheit und konkret drängende Probleme der Menschen, die Kreativität freisetzten.
Ein Beispiel sei die indische App Mumkin, die genitalverstümmelte Frauen ohne Voreingenommenheit dabei unterstützt, sich über das Thema auszutauschen. Solche praktischen Lösungen, zugeschnitten auf praktische Bedürfnisse, könnten entstehen, wenn auf der einen Seite mehr Menschen bewandert seien in den Möglichkeiten von KI. Denn nur dann könnten sie ihre Bedürfnisse und die denkbaren Optionen zusammenbringen, um beides Entwicklungsteam mitzuteilen.
Auf der anderen Seite müssten eben diese Entwicklungsteams in großen wie kleinen Unternehmen diverser aufgestellt sein. Der Mangel an echter Diversität unter den Menschen, die KI-Anwendungen programmieren und trainieren, sei ein zentrales Problem. In einem ihrer Forschungsprojekte, berichtet Drage, hätten ihr die meist männlichen Ingenieure stolz gesagt, ihr Team sei „divers“ – weil ein Portugiese dabei sei, ein Deutscher und ein Menschen aus Polen. „Bei echter Diversität, wenn Menschen mit wirklich unterschiedlichen Hintergründen zusammenkommen, entstehen bessere Produkte, weil dahinter ein breiteres Spektrum an Erfahrungen steht“, sagt Drage.
Die Möglichkeiten überwiegen
Ihrer Ansicht nach überwiegen die Möglichkeiten, die KI der Menschheit bietet – auch wenn sie sich dagegen verwahrt, bei diesem Thema „Optimistin“ genannt zu werden. „Ich würde weder sagen, KI ist die Lösung für alles, noch dass KI an sich gefährlich und bedrohlich ist“, erklärt sie. Sie sehe sich als Realistin, die im Austausch mit echten Menschen deren Sorgen und Bedürfnisse in Bezug auf KI herausarbeitet. Eben das wollen sie und ihr Team an der Uni Cambridge in den kommenden Jahren im Rahmen einer umfassenden Studie in mehreren europäischen Ländern erforschen.
Am Ende dieses Prozesses könnten Richtlinien für ethische KI-Anwendungen entstehen, von denen mehr Menschen als bisher profitieren. Für Europa sei ein solcher Ansatz auch marktwirtschaftlich sinnvoll, argumentiert die überzeugte Europäerin Drage: „Wir haben in Europa nicht sehr viele Ressourcen und nur einen kleinen Markt – also was ist unsere Superpower, worauf können wir uns stützen, um global erfolgreich zu sein? Das könnte prosoziale, nachhaltige Technologien sein, die für das Wohlergehen von Menschen sorgen und dem Planeten gut tun.“ Idealerweise achten diese KI-Anwendungen – etwa Apps, die Ratschläge bei psychischen Problemen geben – dann selbständig darauf, dass sie sich konstruktiv verhalten. Dass das möglich ist, wusste schon Drages Ururgroßvater: Bereits für dessen Ur-Computer hatten Informatiker das erste Programm geschrieben, mit dem sich ein Rechner selbst überwachen kann.
Dr. Eleanor Drage ist Assistant Research Professor am Leverhulme Centre for the Future of Intelligence der University of Cambridge. Dort leitet die KI-Ethikerin das Projekt „Desirable AI“. In ihrem Podcast „The Good Robot“ spricht sie mit Forschenden und Praktiker*innen über KI-Ethik. Kürzlich ist ihr Buch „What If We Got AI Right? – How To Stop Catastrophising And Build An Ethical Future“ erschienen.n.
Interface
„Desirable AI – Rethinking AI for Just and Sustainable Futures“ ist ein Gemeinschaftsprojekt des Leverhulme Centre for the Future of Intelligence der University of Cambridge und dem Center for Science and Thought der Universität Bonn mit mehreren internationalen Partnern. Es erforscht, wie Künstliche Intelligenz und andere digitale Technologien verantwortungsvoll, sozial gerecht und nachhaltig gestaltet werden können.
