Künstliche Intelligenz - wo steht der Globale Süden?

Ist die Diskussion über die Risiken und den potenziellen Nutzen von KI im Globalen Süden anders als in Europa oder den USA?

Philipp Olbrich: Es gibt sicherlich viele nationale Unterschiede, was die Wahrnehmung von Risiken und potenziellem Nutzen von KI betrifft - nicht nur zwischen Ländern des Globalen Nordens und des Globalen Südens, sondern beispielsweise auch zwischen Europa und den USA und China. Und das obwohl wir in den Dokumenten zu KI-Ethik der OECD, der G20 und auch anderer Gremien die gleichen Prinzipien wie Transparenz, Rechenschaftspflicht oder menschenzentrierte Entwicklung finden.

Wie diese jedoch konkret ausbuchstabiert werden, ist sehr unterschiedlich. Die praktische Umsetzung dieser Grundsätze hängt oft von nationalen Aushandlungsprozessen ab. Diese sind in der Europäischen Union, Südafrika und Indien sehr unterschiedlich, auch weil die Staaten verschiedene Ausgangspositionen haben: Wie sieht beispielsweise die Regulierung des Datenschutzes aus, auf die Sie aufbauen können, wenn es um den Schutz der Privatsphäre geht oder die Sie mit Blick auf KI-Anwendungen anpassen müssen?

Gleichzeitig gibt es aber auch einige Gemeinsamkeiten, nämlich dann, wenn man sich von diesem nationalen Fokus wegbewegt: Die jeweiligen Industrieverbände oder Datenschutzkommissionen beispielsweise haben meist ziemlich ähnliche Positionen. So spricht etwa ein Industrieverband anders über den Grundsatz der Transparenz und des Schutzes der Privatsphäre als eine nationale Datenschutzkommission oder eine zivilgesellschaftliche Organisation.

Bislang wurden die meisten Leitlinien für eine ethische KI-Entwicklung und -Nutzung von Industrieländern entwickelt. Glauben Sie, dass die Interessen und Werte der Länder des Globalen Südens in diesen Leitlinien dennoch ausreichend berücksichtigt werden?

Philipp Olbrich: Ich denke, wenn man nicht mit am Tisch sitzt, ist es sehr schwierig, einen solchen Prozess zu beeinflussen. Wir müssen uns also gemeinsam bemühen, einen inklusiveren Prozess zur Entwicklung der KI-Ethik zu schaffen. Es gibt eine Reihe von Dokumenten, die auf Ebene der OECD und der G20 erstellt wurden, in denen das Interesse an und die Notwendigkeit für die Zusammenarbeit mit Schwellen- und Entwicklungsländern erwähnt wird. Aber diese Länder saßen bei der Entstehung der Dokumente nicht mit am Tisch. Das ist der große Unterschied zur Empfehlung der UNESCO: Sie wurde in einem inklusiven Prozess entwickelt, bei dem alle Staaten eingeladen waren, ihren Beitrag zu leisten.

Emma Ruttkamp-Bloem: Afrikanische Stimmen werden in der KI-Ethikdebatte nicht gehört. Der größte blinde Fleck dabei ist, dass die Auswirkungen des Ausschlusses des Globalen Südens von den meisten internationalen Diskussionen über KI-Ethik komplett unterschätzt werden. Hier im Globalen Süden besteht der Eindruck, dass uns diese Technologien irgendwie aufgezwungen werden. Das bringt die Menschen dazu ihnen grundsätzlich zu misstrauen, denn für sie sind sie etwas Fremdes. Das hat schwerwiegende Folgen: Wenn große Teile der Menschheit der Technologie misstrauen, wird sie nicht vollständig angenommen und wenn sie nicht vollständig angenommen wird, kann sie auch nicht ihren vollen Nutzen entfalten.

Im Hinblick auf die UNESCO-Empfehlung war es wirklich interessant zu sehen, wie schwierig es war, auch nur einen einzigen nicht-westlichen Wert darin aufzunehmen, nämlich den Wert der wechselseitigen Verbundenheit. Der Wert der Verbundenheit basiert auf einer kollektivistischen Ethik. Das heißt, wenn man einem Einzelnen schadet, schadet man dem Ganzen. Für mich ist das der Königsweg gegen die Bedrohung durch KI. Wir müssen einfach verstehen, dass es auf dieser Welt nicht nur ein ethisches System gibt und, dass es auch nicht nur eine einzige Art und Weise gibt, gemeinsame Werte auszudrücken. Wenn wir das berücksichtigen, kann es die globale Politikgestaltung stärken: Wenn wir sensibel für Nuancen sind und Regeln in vertrauten Begriffen ausdrücken, werden diese auch stärker befolgt.

Daneben gibt es kleinere blinde Flecken, zum Beispiel die Frage der Datensouveränität. Datensouveränität war ein großer Diskussionspunkt bei den UNESCO-Verhandlungen, weil es Ländern und Regionen, in denen die meisten multinationalen Unternehmen ihren Ursprung haben, entgegenkommt, wenn der Globale Süden seine Daten nicht selbst besitzt. Daten sind unser größter Schatz und unser größtes Kapital. Wir verdienen es, das Recht zu haben, sie zu schützen.

Ein Großteil der KI-Entwicklung findet in Industrieländern statt, aber die Technologie wird weltweit eingesetzt. Inwiefern ist das problematisch?

Emma Ruttkamp-Bloem: Die größten ethischen Bedenken auf dem afrikanischen Kontinent beziehen sich auf Dateneigentum und -verwertung sowie die Problematik des "ethic dumping" [der Export unethischer Forschungspraktiken aus einkommensstarken in einkommensschwache Länder]. Wir wollen afrikanische Lösungen für afrikanische Probleme. Wir wollen keine Technologie, die im Norden entwickelt und uns dann in den Schoß gelegt wird. KI-Systeme, die mit Daten aus dem Norden trainiert wurden, entsprechen nicht unbedingt dem, was wir sind und woran wir glauben. Wir wollen einbezogen werden und zwar zu unseren Bedingungen. Das heißt, wir wollen nicht nur Zaungäste sein, sondern als anerkannte Experten und Expertinnen, die wertvolle Beiträge leisten, an diesen Prozessen teilhaben. Aus politischen und sozialen Gründen brauchen wir vielleicht Unterstützung in unserer Entwicklung, aber das darf nicht dazu führen, dass unsere Rechte, unsere Identität und unser Know-how überschattet werden.

Philipp Olbrich: Wenn man es wirklich ernst nimmt, dass KI das Potenzial hat zur Erreichung der Ziele für nachhaltige Entwicklung oder zur Bekämpfung des Klimawandels beizutragen, müssen wir die KI-Entwicklung vor Ort unterstützen. Künstliche Intelligenz hat bereits gezeigt, dass sie großes Potenzial hat kritische Bedürfnisse in verschiedenen Sektoren wie Landwirtschaft, Mobilität oder Gesundheit zu erfüllen. Die Herausforderung besteht jedoch darin, dass es in Ländern mit niedrigem und mittlerem Einkommen oft an hochwertigen Daten mangelt, die erforderlich sind, um das Potenzial der KI zu nutzen. Es gibt keine KI ohne Daten. Und damit KI in Ihrem Kontext funktioniert, benötigen Sie lokale Datensätze. Viele Anwendungen, die in Industrieländern entwickelt wurden, werden weltweit eingesetzt. Sie funktionieren allerdings nicht für alle Menschen weltweit. Zum Beispiel die Sprachassistenten, die viele Menschen auf ihren Smartphones haben: Sie funktionieren sehr gut auf Englisch, Französisch und Deutsch, aber nicht auf Kinyarwanda oder Twi. Denn es gibt dafür noch keine ausreichenden Datensätze. Und das bedeutet, dass viele Menschen von der digitalen Transformation ausgeschlossen werden.

Ein weiteres Beispiel ist, dass ein KI-System zur Erkennung von Nutzpflanzen auf Satellitenbildern, das mit Satellitenbildern aus Nordamerika oder Europa trainiert wurde, in Ostafrika einfach nicht funktioniert. Das liegt daran, dass dort andere Nutzpflanzen angebaut werden, die folglich auch auf den entsprechenden Satellitenbildern ganz anders aussehen. Ein solches KI-System kann die Pflanzen also nicht identifizieren. Deshalb müssen wir gemeinsam lokale Datensätze sammeln, die dann dem KI-Ökosystem des jeweiligen Landes zur Verfügung stehen, das damit lokale KI-Lösungen entwickeln kann.

Emma Ruttkamp-Bloem: Philipp hat recht: Wir müssen hochwertige, lokale Datensets entwickeln und wir wollen diese Daten besitzen. Der Mangel an lokalen Datensets ist ein Problem, wenn man aber eine App aus dem Norden übernimmt und sie mit lokalen Daten trainiert, gibt es trotzdem noch einige Probleme. "Wir brauchen afrikanische Lösungen für afrikanische Probleme" ist daher eines der Kernprinzipien des Masakhane-Projekts, ein großes Projekt zur Sprachverarbeitung für lokale Sprachen in Südafrika.

Ein weiterer Punkt, den ich hervorheben möchte, sind die Probleme, die durch die Armut entstehen. Wenn man sich zum Beispiel ausländische Investitionen aus Industrieländern in afrikanische Start-ups ansieht, fällt auf, dass ein Großteil der Investitionen letztlich an die ausländischen Partner geht. Auch gibt es die Problematik der Bestechung und der Korruption, und es gibt das Problem, dass lokale Start-ups, sobald sie sehr erfolgreich werden, aus Afrika abwandern.

Digitale Technologien (wie KI) werden auch als Chance gesehen, den Abstand in der Wirtschafts- und Innovationskraft zwischen Nord und Süd zu verringern - wie kann dieses Potenzial genutzt werden?

Emma Ruttkamp-Bloem: Ich denke, in gewissem Sinne ist es ganz einfach: Wenn Industrieländer mit Partern aus dem Globalen Süden zusammenarbeiten, sollten sie respektieren, was im jeweiligen Land bereits vorhanden ist. Denn wenn wir den Abstand wirklich verringern wollen, brauchen wir gleichberechtigte Partnerschaften. Und wir müssen afrikanische KI-Ökosysteme entwickeln. Dabei ist es wichtig zu bedenken, dass die verschiedenen afrikanischen Länder und Regionen sich in sehr unterschiedlichen Ausgangslagen befinden. Man kann nicht von einem afrikanischen Ökosystem sprechen, aber man kann von afrikanischen Ökosystemen sprechen.

Philipp Olbrich: Ich teile Emmas Einschätzung, dass es entscheidend ist, zu berücksichtigen, dass man es in Afrika mit sehr unterschiedlichen KI-Ökosystemen zu tun hat; es gibt nicht den einen Ansatz, der für ganz Afrika funktioniert.

Digitale Technologien werden auch nicht allein in der Lage sein, den Abstand in der wirtschaftlichen Entwicklung zu überwinden, da dieses Thema sehr viel komplexer ist. Sie können jedoch einen Beitrag leisten. Eine gute Orientierungshilfe sind dabei die Prinzipien digitaler Entwicklungszusammenarbeit. Um nur zwei davon zu nennen: Erstens: Entwickeln Sie mit dem Nutzer. Das bedeutet, dass man ein Problem für die Nutzer löst und sie dabei in den Entwicklungsprozess einbezieht. Zweitens kann die Verwendung offener Standards, offener Daten und der Einsatz von Open-Source-Software sehr wirkungsvoll sein. Wie Emma schon sagte, ist entscheidend, wer die Daten besitzt. Offene Daten geben den lokalen KI-Experten Kontrolle über den Entwicklungsprozess und über den Wert, der daraus letztlich entsteht. Gleichzeitig können KI-Lösungen so einfacher an den lokalen Kontext angepasst und Monopole einzelner Firmen oder Institutionen verhindert werden. So können zum Beispiel KI-Modelle zur Erkennung gesprochener Sprache ähnlich sein, aber sie müssen allen lokalen Entwicklerinnen und Entwicklern gleichermaßen zur Verfügung stehen, damit diese sie an ihren lokalen Kontext anpassen können. So können mehr Menschen von KI profitieren.

Emma Ruttkamp-Bloem: Und es gibt bereits viele Beispiele, die zeigen, dass Afrika aufgeholt hat - denken Sie nur an den großen Erfolg von FinTech in Afrika oder an KI-Systeme, die in Kenia, Nigeria und Südafrika entwickelt wurden und Fragen der Gesundheit, der Landwirtschaft, des öffentlichen Nahverkehrs, der Sprachübersetzung oder des Schutzes von Wildtieren adressieren: Wir haben zum Beispiel KI-Technologien entwickelt, die eine wichtige Rolle für den Schutz von Nashörnern in Südafrika spielen.

Es tut sich viel und ich denke, gerade weil wir uns manchmal in so schwierigen Situationen befinden, gelingt es uns teilweise ganz neuartige Lösungen für verbreitete Probleme zu finden. Was uns allerdings auch helfen würde die Abstände zu verringern, wäre Hilfe bei ganz praktischen Dingen wie eine einfachere Visaerteilung oder geringere Reisekosten für afrikanische Expertinnen und Experten.

Die Fragen stellten Jeannine Hausmann und Maximilian Müngersdorff.