Thomas Edlinger: Der Ausbau der sogenannten Kontrollgesellschaft durch Algorithmen wurde zumeist als Entwicklung verstanden, die dem Dogma radikaler Transparenz zuarbeitet. Demnach sollen alle Geheimnisse, alle dunklen Flecken der Intimität und der Privatheit ausgeleuchtet werden. Wie verträgt sich Ihre Diagnose des „neuen dunklen Zeitalters“ mit diesem Streben nach Sichtbarkeit?

James Bridle: Die Idee der Transparenz wurde von den Machthabern instrumentalisiert. Die Visibilität ist asymmetrisch. Wir sind für die Macht immer besser sichtbar, während die Macht selbst nach wie vor zu einem guten Teil im Dunkeln bleibt. Wenn etwas ans Licht kommt, dann als Leak, also in einer auf bestimmte Weise kontrollierten Form des Informationsflusses. Das scheint zu einem besseren Verständnis der Welt beizutragen, aber sicher nicht zu einer radikalen Veränderung. Zudem führen das heutige Ausmaß der Bildproduktion und Bildübertragungen bzw. die Sichtbarkeit von Informationen zur Problematisierung der Vorstellung, dass ein größeres Wissen über die Welt schon eine Veränderung bewirkt.

Edlinger: Der Begriff des „neuen dunklen Zeitalters“ weist auch auf das Mittelalter hin. Im Gegensatz zum historischen Mittelalter befinden wir uns in einer Zeit, die auf Errungenschaften wie Kritik, Moderne oder Aufklärung aufbaut. Welche politischen oder technologischen Entwicklungen haben dazu geführt, dass diese Werte heute oft infrage gestellt werden?

Bridle: Zum einen wird Information auf verschiedene Weise durch staatliche Einrichtungen oder private Firmen kontrolliert. Zum anderen ist Information allein wertlos. Wir können mit den riesigen Mengen an verfügbaren Informationen nicht auf eine sinnvolle Art umgehen, weil die Möglichkeiten der kritischen Handhabe verloren gehen. Das passiert zum Teil ganz bewusst durch das Herunterfahren von vor allem technologischer Bildung oder durch die Verbreitung von falscher oder widersprüchlicher Information.

Edlinger: Der Untertitel Ihres Buchs lautet „Technology and the End of the Future“. Welche Vorstellung der Zukunft kommt da an ihr Ende?

Bridle: Ich meine eine Zukunft, die aus vergangenen Daten errechnet wird. Ein Beispiel aus dem Buch ist die Wettervorhersage. Meteorologische Daten von früher werden zu ausgefeilten Modellen zusammengeführt. Diese Modelle werden zur Grundlage unseres Blicks auf die Welt. Anstatt also der Welt so zu begegnen, wie sie tatsächlich ist, begegnen wir einem mathematischen Modell, das auf dem basiert, was früher passiert ist. Das ist sowohl unglaublich konservativ als auch häufig falsch. Die Vergangenheit wird so nicht nur wiederholt, sondern sogar verstärkt. Denken Sie daran, wie Genderungerechtigkeiten oder rassistische Einstellungen durch die digitale Technologie in Computersystemen codiert werden und dann die Zukunft bestimmen. Diese Einstellungen erscheinen immer weniger kritisierbar und hinterfragbar, weil sie in die Technologie selbst eingelagert sind. Außerdem können wir immer weniger mit jener Zukunft umgehen, die tatsächlich passiert. Die Fähigkeit zur Wettervorhersage war eine große Errungenschaft des 20. Jahrhunderts, die nun verloren geht. Der durch den Menschen verursachte Klimawandel sorgt dafür, dass das Wetter von heute nicht mehr so aussieht wie das Wetter von gestern. Die Modelle von früher stimmen nicht mehr. Das gilt nicht nur für die Meteorologie, sondern auch für die Finanzwelt, das Soziale und die Politik.

Edlinger: Jede Investition am Finanzmarkt ist eine Spekulation auf eine mögliche Zukunft, die aber andererseits auf die Gegenwart zurückwirkt und diese verändert. Dieser Feedbackzusammenhang erscheint wie eine weitere Störung der chronologischen Ordnung.

Bridle: Absolut. Eine Wette auf die Zukunft an den Finanzmärkten ist keine neutrale Wette. Sehr mächtige Kräfte mischen sich in diese Wette ein und versuchen zu gewährleisten, dass diese Zukunft und nicht jene eintritt. Und das passiert nicht nur auf den Finanzmärkten, sondern betrifft immer mehr Bereiche der Gesellschaft. Immer größere Teile unserer sozialen Beziehungen werden in technologischen Systemen codiert, die auf Vorausberechenbarkeit basieren. Die Zukunft wird so mehr und mehr auf das reduziert, was vorausgesagt werden kann.

Edlinger: Sie widmen sich in New Dark Age den fundamentalen Mängeln des „computational thinking“ und präsentieren ein Paradox: Je mehr wir Informationen vertrauen, desto weniger wissen wir. Wie hat sich dieses fast religiöse Vertrauen in die Macht der Information durchgesetzt, und wo sehen Sie konkrete Anhaltspunkte für die Herrschaft dieses informationsgläubigen Denkens?

Bridle: Dafür gibt es mehrere Gründe. Zum einen die menschliche Liebe zum Neuen, die Technophilie. Aber es gibt noch einen anderen Grund, der in der Psychologie und der Neurologie verankert ist. Unsere Gehirne sind so gebaut, dass sie automatisierte Antworten akzeptieren, die schneller erfolgen, als wir sie uns vorstellen können. Man hat das am Beispiel von hoch qualifizierten Piloten untersucht, die sehr rasch Entscheidungen treffen müssen und dabei häufig technologischen Lösungen vertrauen. Psychologen nennen diese Neigung zur Akzeptanz der Technik „Automation Bias“. Wir vertrauen diesen Vorschlägen mehr als anderen Inputs, weil sie unsere Entscheidungsprozesse überflügeln und es leichter erscheint, diesen Lösungen zu folgen, als selbst zu denken. Den Begriff des Religiösen finde ich diesem Zusammenhang aber problematisch. Wenn wir heute über Religion sprechen, suggeriert das, dass wir es mit dem Gegenteil von Rationalität und Aufklärung zu tun haben. Doch ich glaube, wir brauchen tatsächlich eine Sphäre, in der wir Unsicherheit und Zweifel diskutieren können, ohne sie mithilfe der Computerlogik zu entsorgen. Ein Teil des Problems besteht genau darin, dass wir nach dem Rückzug der Religion keinen Ort mehr haben, an dem wir Unsicherheit und Zweifel etwas Produktives und Bedeutungsvolles abgewinnen können.

Edlinger: Chris Anderson hat in Wired 2008 einen viel beachteten Artikel über „das Ende der Theorie“ bzw. deren Ersetzung durch auf Algorithmen basierte Korrelationen publiziert. Lässt sich der Glaube an die sich rein pragmatisch gebende Problemlösungsfähigkeit durch Algorithmen selbst als Ideologie der Postideologie verstehen?

Bridle: Wir verstehen Technologie als etwas Unfehlbares und komplett Rationales. Wir verorten sie nicht im Kontext von komplexen Phänomenen wie Ideologie, der wir mit Kritik und Diskussion begegnen würden. Technologie erscheint nicht im Register des Glaubens, sondern als vorgefertigtes Faktum.

Edlinger: In der sogenannten Informationsgesellschaft versuchen sowohl staatliche Stellen wie auch private Unternehmen, den Informationsfluss zu kontrollieren und zu überwachen. Zugleich wächst die Paranoia und die Skepsis gegenüber Fake News und Post-Truth-Verstärkern. Inwiefern hängen das Vertrauen auf die Wichtigkeit der Information und das Misstrauen gegenüber Information zusammen?

Bridle: Die Vorstellung einer computerbasierten Wahrheit kaschiert, dass die technologische Welt, in der wir leben, auch ein Schlachtfeld der Ideologien ist. Verschwörungstheorien und Fake News werden daher oft als eigenartige Auswüchse des Systems verstanden und weniger als Folge politischer und ideologischer Debatten. Das Internet ist ein kommerzialisierter, kapitalistischer Raum, in dem Regierungen, Staaten und andere Mächte miteinander konkurrieren. Es findet ein massiver und vielgestaltiger Krieg statt, der innerhalb der Technologie verborgen bleibt.

Edlinger: Sie betonen den materiellen Aspekt der Metaphorik des Netzes und des zentralen Begriffs der Cloud. Wo und wie können wir die Wolke angreifen?

Bridle: Ich versuche, die Wolke zu entmystifizieren, indem ich die aktuellen geografischen Gegebenheiten untersuche. Ich habe Datencenter besucht und bin den Routen der Glasfaserkabel gefolgt. Dann bemerkt man, dass solche Orte mit machtpolitischen Implikationen aufgrund des Klimawandels zu tun haben. Mikrowellennetzwerke orientieren sich aufgrund der finanziellen Verhältnisse zwischen Staaten und Institutionen in bestimmten Richtungen. In einem zweiten Schritt frage ich im Buch, ob angesichts dieser Verstrickungen von Politik, Ökologie und Wirtschaft die Metapher der Cloud immer noch sinnvoll ist. Und da denke ich, dass die Vorstellung des Wolkigen immer noch etwas aussagt. Das Wolkige legt die Vorstellung des Unerkennbaren und Undurchschaubaren nahe, die immer noch produktiv ist. Ich finde es faszinierend, dass die zentrale Metapher der Gegenwart faktisch und auf der Ebene der Beschreibung etwas Gefährliches an sich hat, zugleich aber auch offenbart, was wir über die gegenwärtige Welt wissen können.

Edlinger: Wie verhält sich diese Beschreibung zu dem, was der Philosoph Timothy Morton unter „Hyperobjects“ versteht?

Bridle: Das Hyperobjekt von Morton meint etwas, das so riesig ist, dass wir es geistig nicht vollständig erfassen können. Zugleich betrifft es uns alle, und wir alle erfahren den Kontakt damit in verschiedener Art und Weise. Morton nennt eine Reihe von Beispielen, aber in meinem Zusammenhang geht es vor allem um den Klimawandel und das Internet. Wir können zwar mit der Cloud interagieren, aber der größte Teil davon ist uns geografisch und zeitlich unzugänglich. Das Leben mit Hyperobjekten wird so zur zentralen Aufgabe im 21. Jahrhundert.

Edlinger: Wer ist für die Undurchschaubarkeit der Cloud verantwortlich? Sind es globale Player des informationstechnisch-militärischen Komplexes oder ist diese Vernebelung schon in der Technologie selbst angelegt?

Bridle: Die Verantwortung liegt bei uns. Es gibt bislang keinen Algorithmus, der das steuert. Es gibt immer noch einen Menschen in der Maschinerie. Das Problem ist, dass die Leute an den Schalthebeln der Macht oder die Fachleute mit technologischem Insiderwissen oft selbst nicht in der Lage oder willens sind, etwas politisch zu verbessern. Daher liegt momentan die einzige vernünftige Antwort darin, den Zugang zu diesen Diskussionen für alle zu ermöglichen.

Edlinger: Ein konkretes Beispiel für das Undurchschaubare oder auch Unheimliche sind die zahllosen Meme von Internetvideos für Kinder, die unkontrollierbar dahinwuchern und in die sich diverse Horror- und Gewaltszenarien einschleichen. Was ist in dem Fall das wirklich Beunruhigende? Dass man nicht weiß, welche Szene in dieser algorithmischen Appropriation als Nächstes auf ein harmloses Bild folgt? Oder dass man nicht mehr weiß, ob Maschinen oder nur anonyme Menschen hinter diesen Bilderfluten stecken?

Bridle: Ich glaube, auf der praktischen Ebene gibt es eine politische Lösung. Die erste Antwort wäre: Lass deine Kinder nicht YouTube ansehen! Aber das wollen die meisten Menschen nicht. Die bessere Antwort wäre daher eine sorgsamere Kinderbetreuung. Tatsächlich unheimlich ist es aber, dass wir zunehmend mit Phänomenen konfrontiert werden, deren Ursprung wir nicht mehr erkennen können. Wir wissen nicht mehr, wer hier agiert. Und so etwas passiert immer öfter. Wir wissen nicht, ob sich hier Bots als Menschen ausgeben oder ob Menschen Bots programmieren. So ähnlich stellt sich die Frage auch in Bezug auf den Klimawandel. Wer ist dafür verantwortlich und in welchem Ausmaß? Wer hat das Problem verursacht, wer soll es klären, und auf welcher Ebene – soll das staatlich erfolgen, etwa zwischen Erste-Welt-Verursachern und Dritte-Welt-Staaten, oder eher individuell? Die Frage der Verantwortung in komplexen Systemen gehört zu den schwierigsten Problemen, mit denen wir es heute zu tun haben.

Edlinger: Heute wird oft davon gesprochen, dass Daten so etwas wie das Erdöl des 21. Jahrhunderts darstellen. Sie ersetzen am Ende des Buchs diesen Vergleich durch den von Daten mit der Atomkraft. Warum?

Bridle: Die Atomkraft ist auf einer abstrakten Ebene unerschöpflich und produziert scheinbar endlos saubere Energie. Natürlich wissen wir, dass die Atomkraft in Wirklichkeit riesige Mengen an Müll produziert, die man managen muss. Ich glaube, dass die Fragen über Langzeitfolgen des Atommanagements mit den Fragen zu den Langzeitfolgen des Informationsmanagements vergleichbar sind. Und noch etwas ist wichtig: Die Debatte über die Nutzung der Atomkraft geht alle an. Niemand würde sie ExpertInnen allein überlassen, weil die Folgen uns alle betreffen. Zurzeit wird aber die Diskussion über technologische Fragen an eine sehr kleine Gruppe von Profis delegiert, obwohl klar ist, dass die Auswirkungen der technologischen Entwicklung uns alle und noch dazu sehr lange betreffen.

Edlinger: Sie erwähnen noch eine Analogie: Nukleare Kontamination ist unsichtbar, so wie man auch die Cloud nicht klar sieht.

Bridle: Ja, das ist ebenfalls ein wichtiger Aspekt.

Edlinger: Wie würden Sie Ihre Haltung beschreiben? Lässt sie sich noch in Begriffen wie Optimismus und Pessimismus fassen? Oder geht es darum, wieder Kontrolle über ein System zu erlangen, das selbst nach Kontrolle strebt?

Bridle: Ich finde, man muss mit dem Begriff der Kontrolle sehr vorsichtig sein, weil Kontrolle immer eine Form von Beherrschung einer Situation impliziert. Wenn man von Kontrolle spricht, läuft man Gefahr zu glauben, dass hier eine Idee gegen eine andere antritt und einige wenige Leute die anderen beherrschen. Diese Vorstellung widerspricht meiner Ansicht nach dem Netzwerk, das dieser Dynamik beständig entgegenarbeitet. Das Buch selbst erscheint zwar offensichtlich pessimistisch. Aber ich halte mich selbst nicht für eine total pessimistische Person, weil ich an die Kraft des Verstehens und des Engagements glaube.

James Bridles Buch New Dark Age. Technology and the End of the Future ist 2018 bei Verso London erschienen. Seine Installation Citizen Ex ist auf dem donaufestival 2019 zu sehen.

 

 

---