„Die grandiose Bestechung“

1993 startete AT&T eine Werbekampagne mit Szenen von damals noch ziemlich unwahrscheinlichen Orten der Telekommunikation und stellte Fragen wie: „Haben Sie schon einmal ... ein Fax vom Strand aus geschickt?“, „… Ihr Kind von einer Telefonzelle aus ins Bett gebracht?“, „… mit Ihrer Stimme Türen geöffnet?“ oder „… barfuß an einem Meeting teilgenommen?“ Jeder der TV-Spots endete mit dem gleichen Werbespruch-Voice-over und einer an George Orwells 1984 erinnernden Textgrafik: „YOU WILL“. Diesen zugleich faustischen und orwellianischen Deal, teils Erfindungsgeist, teils fortschrittlicher Marketingansatz, hätte Lewis Mumford vermutlich eine „grandiose Bestechung“ genannt. Auf kuriose Weise passt dies zu einer häufig zitierten Bemerkung von Alvin Toffler, dessen Buch und späterer Film Future Shock – mit Orson Welles als Erzähler – das „vorzeitige Eintreten der Zukunft“ verkündete.
Von der Turing-Maschine bis zu Marvin Minskys Traum einer Deep AI waren voll intelligente Computersysteme von jeher hehres Ziel und heiliger Gral der Systemelite, der spekulativen Cyber-PhilosophInnen, der digitalen ZukunftsforscherInnen und der Marketingleute, die Künstliche Intelligenz (KI) jetzt in einer enormen Vielfalt von Disziplinen und Geräten zum Einsatz bringen.
Die Kommerzialisierung der KI ist mittlerweile unter der Metapher „intelligentes System“ oder „Big Data“ in nahezu alle elektronischen Systeme, digitalen Geräte, Netzwerke und Dienste vorgedrungen. KI – wobei es vermutlich angebrachter wäre, von „algorithmischer“ Intelligenz zu sprechen – wird als domestiziert, freundlich, ja sogar intim angesehen. Sie schaltet sich ein als stumme Präsenz, als intelligente Betreuung, diskrete/r Angestellte/r, gehorsamer Lehrling, pflichtbewusster Partner, kurz angebundener Diener, Personal Shopper, „intelligente“ Begleitung, als gefügiger, teilnahmsloser, unterwürfiger Agent mit respektvollem, ehrerbietigem Verhalten. Die ersten Schritte der KI im öffentlichen Bereich waren zunächst noch etwas holprig, so auch bei den ersten Versuchen der Standardisierung von Mensch-Maschine-Interaktionen wie ELIZA (Joseph Weizenbaum), einer vom Turing-Test „inspirierten“ psychotherapeutischen Untersuchung, bei der ein „Arzt-Skript“ ausgeführt wurde. Damit entstand der sogenannte „ELIZA-Effekt“ („die menschliche Neigung, weit mehr Verständnis in eine von Computern verknüpfte Folge von Symbolen – vor allem Wörter – hineinzulesen, als gerechtfertigt ist“ – Douglas Hofstadter). Er brachte eine Fülle pseudopsychiatrischer Tautologien mit sich, die heftig verhöhnt und als weitgehend sinnlose Unterhaltung abgetan wurden.¹ KI fand Eingang in die Science-Fiction-Literatur und vor allem in den Film. Bei den vielen öffentlichen Spektakeln, etwa dem Sieg von IBMs Big Blue über Gary Kasparov, dem Gewinn der Fernseh-Quizshow Jeopardy oder der Rolle, die KI in unzähligen Filmen (2001, Welt am Draht, Bladerunner, Terminator, Matrix, A.I., Her etc.) spielte, handelte es sich um Vorboten, dystopische oder eskapistische virtuelle Welten und warnende Beispiele.
In Kubricks Film 2001 ist es der empfindungsfähige, allwissende, allgegenwärtige und allesfressende rebellische Computer HAL, der das Schiff steuert und sich entschließt, dessen von ihm als unpraktisch, unzuverlässig und letztendlich unnötig betrachtete menschliche Besatzung zu töten. Der Drehbuchautor Serge Daney bezeichnete HAL als „ersten sprechenden und sterbenden Computer im Film“. Während HALs KI-Schaltkreise nach und nach abgeschaltet werden, sinkt der Computer stotternd in den Shutdown-Modus, und seine „bewusste“ Regression wie auch sein Todeskampf als geheime Subroutine vermitteln eine Botschaft über die „eigentliche“, wenn auch unklar bleibende Mission.
HALs Vermächtnis ist in der schwindelerregenden Vielfalt „smarter“ Technologien für das Alltagsmanagement wieder aufgetaucht – in Form von Smartphones, intelligenten Gadgets, Lautsprechern, Glühbirnen, Haushaltsgeräten und Hausüberwachungssystemen –, eine dem „Internet der Dinge“ eigene „Smartness“, die zugleich als triumphierende Anthropomorphisierung der KI in Form intelligenter Dinge (miteinander verbundener, mit Spracherkennungsalgorithmen ausgestatteter Gegenstände) daherkommt und als Technologie, die zur scheinbar mühelosen Steuerung von Routinetätigkeiten befähigen soll.
Erst kürzlich rief mich ein Mitarbeiter meines Mobilfunkanbieters an, um mir ein Upgrade meines Telefons anzubieten. Als ich nach den Vorteilen fragte, hieß es nach einer kurzen Pause: „SIRI.“ Daraufhin meinte ich, dass ich kein Problem damit hätte zu telefonieren, es aber vorziehen würde, dass das Telefon dabei nicht „zuhört“ (worauf am anderen Ende Schweigen herrschte). Aber so passiv ist das Zuhören (bzw. im Fall von HAL das Lippenlesen) möglicherweise gar nicht.
In einer Schlagzeile des U.K. Telegraph vom 8. Januar 2017 hieß es: „Amazon Echo – Warnung vor versehentlichen Puppenhausbestellungen durch ‚Alexa‘ nach Fernsehsendung“². Weiter heißt es in dem Artikel: „Die Sendung zeigte eine Sechsjährige, die das neue Amazon Echo der Familie fragt, ob es mit ihr Puppen spielen und ihr ein Puppenhaus besorgen könne. Das Gerät leistete der Aufforderung Folge und bestellte ein KidKraft Sparkle-Puppenhaus, außerdem vier Pfund Kekse.“ Es gab auch zahlreiche Berichte, die Polizei in Arkansas habe die Daten eines Amazon Echo für Ermittlungen in einem Mordfall angefordert. So geht etwa ein Artikel im Newsfeed von National Public Radio der Frage nach, ob das Gerät möglicherweise – „bewusst“, zufällig oder heimlich – Beweise für das Verbrechen aufgezeichnet hat.³ Bisher hat Amazon die Herausgabe des Geräts bzw. der in der Cloud aufgezeichneten „Äußerungen“ (wie Amazon sie nennt) verweigert. Auch „intelligente“ Fernseher sind betroffen. Der Fernsehhersteller Vizio wurde kürzlich wegen der unangemessenen Sammlung von Daten zu einer Geldstrafe von mehreren Millionen US-Dollar verurteilt. Im Bericht der FTC (Federal Trade Commission) vom 6. Februar 2017 heißt es zu dem Fall: „Laut Anklage hat Vizio die Privatsphäre verletzt. Das Unternehmen übergab IP-Adressen seiner KundInnen an Datenaggregatoren, die wiederum die Adresse einzelnen KundInnen oder Haushalt zuordneten. Zwar verbietet Vizio die Reidentifizierung von KundInnen und Haushalten durch den Namen in seinen Verträgen mit Dritten, lässt jedoch eine Fülle anderer persönlicher Angaben wie Geschlecht, Alter, Einkommen, Familienstand, Haushaltsgröße, Bildung und Eigenheimbesitz zu. Außerdem gestattete Vizio diesen Unternehmen, seine KundInnen geräteübergreifend zu tracken und gezielt mit Werbung anzusprechen.“
Nahezu täglich gibt es neue Beispiele. So titelte die Deutsche Welle am 17. Febuar 2017: „Deutsche Gesetzgeber fordern Eltern auf, die ‚Spionage-Puppe‘ Cayla zu vernichten“. Der Artikel beginnt mit einer rätselhaften Aussage: „Eine deutsche Behörde hat Eltern vor den Gefahren eines Kinderspielzeugs namens ‚Meine Freundin Cayla‘ gewarnt. Die Puppe ist in der Lage, persönliche Daten offenzulegen und damit de facto ein ‚Spionagegerät‘, so die Bundesbehörde.“⁴ In einem früheren Bericht heißt es: „Laut norwegischem Verbraucherverband, der das intelligente Spielzeug untersucht hat, wird alles, was das Kind der Puppe erzählt, an das in den USA ansässige Unternehmen Nuance Communications übermittelt, das auf Spracherkennungstechnologie spezialisiert ist.“⁵
„Always on“, „Standby-Modus“, „intelligente Interaktivität“, „Sprachaktivierung“ – Pannen durch „Schadprogramme“ sind bei diesen sprachgesteuerten Geräten mittlerweile gang und gäbe. Die scheinbar „harmlosen“ Aufzeichnungen und Aktivierungen sowie die zunehmende Gefahr von Hacks lassen das „Internet der Dinge“ alles andere als fehlerlos oder harmlos erscheinen. Da überrascht es nicht, dass im US-amerikanischen Strafvollzug eine sogenannte „Stingray“-Technologie angewendet wird, die Mikrofone von Mobiltelefonen identifizieren, aktivieren und abhören kann. Mittlerweile kommt das unerkannte Hacking von Aufzeichnungssystemen bei Computern und Telefonen (einschließlich Audio und Video) tatsächlich häufig vor.
Die Überwachung vermeintlicher Zufallsäußerungen, gelegentlicher Ausbrüche, impulsiver Bemerkungen, ausgeklügelter Übertragungen mit Aktivierungsimpulsen und tödlichen Auseinandersetzungen könnte möglicherweise andere Folgen haben als gedacht. Die schönen neuen Dinge der KI könnten sich als Kreuzung aus einer Büchse der Pandora und einem fehlgeleiteten Automaten oder aus einem genialen Diener für die Routinesteuerung von Abläufen und einem böswilligen Deus ex Machina zu Überwachungs- und Spionagezwecken erweisen. Kommt Ihnen das bekannt vor?