„Das Internet verstärkt Ungerechtigkeit und Vorurteile“

Freier Informationsfluss, dezentral und communitybasiert – noch vor wenigen Jahrzehnten waren dies die Leitlinien des Internets. Seitdem hat sich die Lage verschlechtert. Nicht nur, dass einige wenige Konzerne heute einen großen Teil des Internets beherrschen, die verwendeten Technologien verstärken auch auf immer gewalttätigere Weise ungerecht konzentrierte Machtverhältnisse. Anasuya Sengupta erforscht, wie dieses Machtmonopol auch in der analogen Welt Diskriminierung fördert. Sie ist Tech-Expertin und Gründerin der feministischen Initiative „Whose Knowledge?“. Als Richard von Weizsäcker Fellow an der Robert Bosch Academy beschäftigt sie sich mit digitalem Recht und der Darstellung von Wissen marginalisierter Gruppen. Im Interview erklärt sie, wie digitale Systeme zu mehr Gerechtigkeit führen können – und was „Dekolonisierung des Internets“ in der Praxis bedeutet. 

Frau Sengupta, wie würden Sie Ihren Beruf beschreiben?

In meiner Arbeit überschneiden sich Wissen und technologische Gerechtigkeit. Ich bin Teil des feministischen Kollektivs „Whose Knowledge?“, das sich auf das Wissen, die Geschichte und das Design von Menschen konzentriert, die durch die bestehenden Machtstrukturen marginalisiert oder "minorisiert" wurden. Die Menschen und Gruppen, die wir oft als Minderheiten bezeichnen, sind zahlenmäßig weit überlegen; sogenannte „Minderheiten“ sind in Wirklichkeit die globale Mehrheit. Dennoch werden sie aufgrund ihres Geschlechts, ihrer Sexualität, ihres Aussehens, ihrer Fähigkeiten, ihrer Sprache, ihres Standorts und vieler anderer Aspekte von Macht und Privilegien in der Wissenschaft und im Internet diskriminiert. In meiner Arbeit geht es also darum, sich auf diese Stimmen, Körper und Geschichten zu konzentrieren, anstatt das Silicon Valley zu unterstützen, das aus einer kleinen Gruppe von Menschen besteht, die glauben, die Probleme der Welt lösen zu können.

Wie sieht Ihr Alltag als Fellow der Robert Bosch Academy aus?

Das Schöne an diesem Fellowship ist, dass man sich nicht dafür bewirbt – man wird ausgewählt. Als ich die erste E-Mail darüber erhielt, dachte ich, es sei Spam. Ich konnte nicht glauben, dass ich eingeladen wurde, sechs Monate in Berlin zu verbringen. Die Stipendiaten treffen sich zweimal pro Woche zum Mittagessen, um Projekte zu besprechen. Diese Gespräche sind das Beste daran. Man bringt Menschen aus der ganzen Welt zusammen, die Expert:innen auf ihrem jeweiligen Gebiet sind, und durch die Diskussionen entwickeln wir eine neue Perspektive auf unsere eigene Arbeit. Wir lassen uns voneinander inspirieren und können Verbindungen knüpfen, die sonst nicht möglich wären. Es ist ein Geschenk, diesen Raum zu bekommen.

Sie befassen sich mit den Machtstrukturen von Technologie. Was ist problematisch am Internet, wie wir es heute nutzen?

Wir sehen das Internet oft als eine befreiende, emanzipatorische Infrastruktur für Wissen und Kommunikation. Das ist in vielerlei Hinsicht richtig. Gleichzeitig sehen wir das Internet als etwas grundlegend Neues, das nichts mit unserer Vergangenheit zu tun hat. Das ist ein Irrtum. Alle Technologien enthalten das Beste und das Schlechteste der menschlichen Phantasie. Das Internet trägt nicht nur dazu bei, Solidarität zu fördern und Menschen an verschiedenen Orten zu verbinden. Es verstärkt auch bestehende Ungerechtigkeit, Diskriminierung und Gewalt. Technologie und Algorithmen sind nicht neutral, sie sind politisch. Die Technologie folgt einer bestimmten Architektur, weshalb sie Diskriminierung und Vorurteile verstärkt – je nachdem, wer sie entwickelt.

Welches Wissen ist nicht im Internet repräsentiert, und wie kann man das ändern?

Fast 70 Prozent der Welt sind derzeit über das Internet digital vernetzt, darunter knapp die Hälfte aller Frauen. Zwei Drittel davon kommen aus dem globalen Süden. Und doch sieht das Internet nicht so aus wie wir, oder? Die meisten wissenschaftlichen Artikel erscheinen auf Englisch, die meisten Sprachen, die vertreten sind, haben ihren Ursprung in Europa. Die Mehrheit der Welt ist also nicht im Internet vertreten. Ich denke, das können wir nur ändern, wenn wir uns genau ansehen, wer die neuen Technologien entwickelt und wie die Inhalte verbreitet werden. Der Schwerpunkt digitaler Systeme muss sich weg von einigen wenigen großen Unternehmen wie Google, Amazon, Meta, Apple oder Microsoft und hin zu gemeinschaftsorientierten Netzwerken bewegen.

In Ihrer Arbeit beschäftigen Sie sich mit dem Begriff der „Dekolonisierung als Praxis“. Was genau meinen Sie damit?

Der Begriff Dekolonisierung stammt aus der Weltgeschichte und dem Wissen um die Unabhängigkeitsbewegungen in Asien, Afrika und Lateinamerika. In jüngster Zeit ist der Begriff wieder aktuell geworden, insbesondere durch die Studentenbewegungen in Südafrika von 2015 bis 2017. Südafrika ist zwar politisch unabhängig, aber die Auswirkungen des Apartheidsystems bestehen weiter, auch im Bildungssystem. Es hat verschiedene Kampagnen gegen dieses System und die enormen wirtschaftlichen und sozialen Ungleichheiten gegeben. Wenn wir über die Dekolonialisierung des Internets nachdenken, müssen wir die Verbindung zwischen Kolonialismus, Kapitalismus und der Funktionsweise des Internets erkennen.

Was können Einzelpersonen dafür tun, das Internet zu dekolonisieren?

Achten Sie darauf, wem Sie in den sozialen Medien folgen. Folgen Sie Menschen, die andere Geschichten erzählen, anderes Wissen haben, von anderen Orten kommen und andere Sprachen sprechen. Die Vorstellungen und die Entscheidungen, die uns in zahlreiche Krisen geführt haben, werden uns nicht aus ihnen herausbringen. Wir sollten uns fragen: Wie können wir uns von den Menschen inspirieren lassen, die uns bisher unbekannt waren?

Wie kann die Entwicklung neuer Tech-Systeme inklusiver werden?

Wir sollten von außen nach innen entwerfen - und nicht andersherum. Ein Beispiel ist die Entwicklung von Sicherheitsgurten: In der Vergangenheit hatten Frauen bei Autounfällen eine 71 Prozent höhere Verletzungsrate, weil Sicherheitsgurte nur mit Tests an männlichen Dummys entwickelt wurden. Eine Möglichkeit wäre, Frauen in die Entwicklung einzubeziehen, aber mit „Whose Knowledge?“ haben wir einen anderen Ansatz: Wir wollen eine neue Frage stellen. Anstatt zu fragen: „Wie kann man einen Sicherheitsgurt entwerfen?“, würden wir fragen: „Was bedeutet Sicherheit in einem Auto?“.  Dann bringen wir eine Vielzahl von Experten zusammen und entwickeln gemeinsam Konzepte und Systeme. Das Ergebnis ist vielleicht gar kein Sicherheitsgurt, aber etwas Revolutionäres.

Das Tech-Thema der Stunde ist künstliche Intelligenz. Welche Gefahren erkennen Sie dabei?

Der Begriff KI ist irreführend, denn sie ist weder künstlich noch intelligent. Wir sprechen von Systemen, deren Algorithmen mit Hilfe riesiger Datenbanken trainiert werden. Wir halten sie für intelligent, weil sie menschliche Interaktion und Kommunikation nachahmen. Dennoch beruhen die Daten auf menschlicher Arbeit - sie werden auch von Menschen gereinigt, repariert und gewartet. Arbeiter:innen in Nairobi und Bangalore zum Beispiel werden unter schlechten Arbeitsbedingungen ausgebeutet, während wir in Berlin oder London sitzen und ChatGPT Fragen stellen. Wir müssen verstehen, dass die menschliche Arbeit, die für uns unsichtbar ist, in algorithmischen Systemen nicht einfach verschwindet, sondern für ihre Funktionalität weiterhin unerlässlich ist.

Welche Regeln brauchen wir im Umgang mit KI?

Die Menschen sind von Verbraucher:innen zu Datenpunkten geworden - und damit zu Produkten. Wir brauchen Autonomie und Handlungsfähigkeit, und die EU spielt hier eine wichtige Rolle. Sie ist ein wichtiges Gegenstück zu Big Tech oder Silicon Valley. Auch die Intentionalität der Technologie spielt eine Rolle. Wir müssen uns die Frage stellen: Wie sieht die Welt aus, die wir uns für die Zukunft wünschen? Welche Probleme versuchen wir mit KI zu lösen? Wie können digitale Technologien, einschließlich algorithmischer Systeme, dabei helfen? Es kommt oft vor, dass eine Technologie auf den Markt gespült wird, die sich für einige von uns aufregend und lustig anfühlt. Erst dann fragen wir uns, wofür sie genutzt werden kann. Wir sollten den umgekehrten Ansatz wählen.

Erinnern Sie sich an einen Moment, in dem Sie gespürt haben, dass sich Ihre Arbeit lohnt?

Der Moment, als ich die E-Mail von der Robert Bosch Stiftung erhielt, hat mir gezeigt, dass sich meine Arbeit lohnt. Was wir sagen, hat Gewicht, und darüber bin ich sehr froh. Wir von „Whose Knowledge?“ waren vermutlich die ersten, die den Begriff „Decolonizing the Internet“ verwendet haben, um die südafrikanischen Studentenbewegungen und unsere Geschichte der Dekolonisierung zu ehren. Seitdem haben viele Leute begonnen, diesen Begriff auf unterschiedliche Weise zu verwenden, um Probleme und Herausforderungen in der Technologie anzusprechen.

Wenn Sie in die Zukunft blicken, was sehen Sie in fünf Jahren?

Ich würde mir wünschen, dass es weltweit mehr Organisationen gibt, die von marginalisierten Gemeinschaften geführt werden, die im Austausch mit Technologieakteur:innen stehen und die im Mittelpunkt der Gestaltung, Architektur und Verwaltung des Internets sind. Ob wir diesen Punkt erreichen werden, ist eine andere Frage, aber das wäre mein Wunsch.