Rückblick 2019

Warum Deepfake das wichtigste Technik-Thema des Jahres ist

2019 hat der Mensch endgültig die Hoheit über sein Gesicht verloren. Maschinen können es überall identifizieren - aber auch manipulieren und fälschen

Der Dezember ist traditionell der Monat der Retrospektiven. Wofür stand das vergangene Jahr? Was waren die Hypes und Meta-Themen und welche Entwicklungen werden unsere Leben für die Zukunft am meisten verändern? Im Bereich Technologie ging es 2019 weniger um die eine neue Technologie oder das eine Device. Ob ein Smartphone nun zwei oder vier Kameras hat. Oder ob ein anachronistischer Panzer wie Teslas "Cybertruck" unsere Mobilität voranbringen wird. Teils egal, teils zweifelhaft.

2019 ist indes in einem Bereich auf vielen Ebenen etwas passiert, das uns ziemlich sicher die nächsten Jahre beschäftigen wird. Der Mensch hat nämlich endgültig die Hoheit über sein Gesicht verloren. Und wer sich sich die Narrative anschaut, dem wird klar, dass es um weit mehr geht, als um das vermeintlich sichere Entsperren des eigenen Telefons oder dem Taggen von Freunden auf Facebook.

Unser aller Gesicht ist ziemlich einzigartig. Unser biometrisches Passfoto weist uns bei der Grenzkontrolle aus, private Computer und Smartphones können per Gesichtskontrolle entsperrt werden. Daher ist vor allem im Bereich Überwachung die Gesichtserkennung das Thema schlechthin. China treibt wie kein anderes Land diese Entwicklung voran. Nirgends wird digitale Überwachung so extensiv betrieben wie hier. Vier Milliarden Überwachungskameras stehen bereits in dem bevölkerungsreichsten Land. Das sind mehr als zwei für jede Einwohnerin und jeden Einwohner. Tendenz steigend.

Pluspunkte für alle, die regelmäßig ihre Mutter besuchen

Schon heute seien die Erkennungssysteme zu 95 Prozent genau. Seit dem 1. Dezember muss jeder neue Handy-Vertrag in China mit einem Gesichts-Scan beantragt werden. Im nächsten Jahr wird zudem der "Social Credit Score" eingeführt. Eine Art digitales staatliches Punkte-Ranking wie bei Yelp oder Airbnb, das für alle im Land gilt. Pluspunkte bekommt, wer regelmäßig seine Mutter besucht, fleißig arbeitet und sonst auch positiv auffällt. Wer aber bei Rot über die Ampel geht, Kippen auf die Straße wirft oder die Schuhe in der Bahn auf Sitze abstellt, bekommt instantan Minuspunkte. Die können dazu führen, dass man keine Zugtickets mehr kaufen kann oder im ernsthafteren Fall auch keine Jobs mehr bekommt.

Die Gesichtserkennung macht die Täterschaft ziemlich eindeutig – wir sprechen hier eigentlich von Bagatellen, aber auch davon, dass die Technologie noch lange nicht ausentwickelt ist. Vor einiger Zeit rühmten sich Staatsmedien damit, im Publikums eines vollen Sportstadions per Facial Recognition einen Verbrecher dingfest gemacht zu haben. Wer nun naiverweise glaubt, solche Entwicklungen würden im Westen niemanden tangieren, glaubt auch, Fotografie sei keine Kunst. Öffentliche Räume werden auch hier zunehmend überwacht. Die Sängerin Taylor Swift ließ bei ihrer diesjährigen US-Tournee ebenfalls schon Gesichts-Scanner für das Publikum beim Çheck-In installieren.

Schauspieler werden mit Millionen-Etats künstlich verjüngt

Wo es auf der einen Seite um die eindeutige Verfizierung eines Menschen qua Gesichtserkennung geht, lassen sich auf der anderen Seite heute Gesichter einfacher denn je manipulieren oder gar fälschen. Machine Learning und Algorithmen werden heute durch die Demokratisierung der Technologien auch immer mehr nicht-professionellen Usern zugänglich gemacht. Dass im Film "The Irishman" von Martin Scorsese oder in "Gemini" mit Will Smith Schauspieler durch CGI mit Millionen-Etats verjüngt werden, überrascht kaum noch. Dank Deepfake wächst indes die Szene vor allem männlicher Teilnehmer, die Pornos mit den Gesichtern prominenter Popstars, Schauspielerinnen oder Ex-Freundinnen produzieren.

Das Prinzip ist relativ einfach. Man füttert einen Computer mit möglichst vielen Fotos einer Person, das Gesicht wird daraufhin synthetisiert, um später auf bestehendes Videomaterial draufgepappt werden zu können. Diese Form der non-consensual pornography ist moralisch höchst bedenklich und mit der Praxis des Rache-Pornos vergleichbar. Pornografie könnte dennoch in der Weiterentwicklung und Verbreitung unterschiedlicher Gesichts-Simulations-Technologien einen ähnlich großen Beitrag leisten wie schon zuvor bei der VHS, DVD und dem World Wide Web. Deepfakes sind nicht da, um wieder von der Bildfläche zu verschwinden. Sie zeigen vielseitige Anwendungsbereiche. Wie diese Beispiele hier eindrucksvoll illustrieren:

Schauspieler Bill Hader verwandelt sich in Tom Cruise und Seth Rogen


Ein Fake-Boris-Johnson gibt die Macht ab:


Auch Geschichte kann mit Hilfe von Deepfake "umgeschrieben" werden, wie bei dieser gefälschten Rede vom früheren US-Präsidenten Richard Nixon:

 


Im Prinzip ähnlich, aber technisch anders funktioniert die Plattform "Virt-A-Mate". Hier geht es weniger um Manipulationen und Synthese von Videomaterial sondern um das Erstellen von Computer-Figuren für dreidimensionale Virtual-Reality-Applikationen. Man ahnt es, auch hier sind sexuelle Inhalte die Treiber der Angelegenheit. Es gibt einen richtiggehenden Patreon-Markt, in dem für Geld virtuelle Körperteile, Kleidung und Accessoires erworben werden können. Aber auch das Erstellen von VR-Gesichtern ist eine gefragte Dienstleistung. Besonders beliebt sind mal wieder Scans von Celebrities, Ex-Freundinnen, Schwarm oder Chefin. Charaktereigenschaft der Hauptzielgruppe: ungebumst, männlich.

Was heute in der Auflösung und Animation noch hölzern und wenig geschmeidig aussieht, wird die Zeit ausmerzen. Dafür muss man nur auf die permanenten grafischen Fortschritte in der Gaming- und eben auch Filmindustrie schauen. Wie beim Deepfake gilt: Je mehr Bildmaterial aus möglichst vielen Perspektiven vorliegt, desto besser lassen sich die Computer trainieren, um eine möglichst realistische Simulation zu schaffen. So haben Superstars wie Scarlett Johansson und Emma Watson quasi keine Chance, um gegen "Virt-A-Mate" oder Deepfake auch nur irgendetwas anzurichten.

Kurz, je mehr Fotografien, Selfies und Videos von einem online zu finden sind, desto besser lässt sich das für die Gesichtserkennung, aber eben auch Deepfake und Konsorten nutzen. Erinnert sich noch jemand an FaceApp? Im Frühjahr/Sommer gab es Millionen von Selfies, in denen sich Menschen durch Filter virtuell gealtert zeigten. Ein netter und für die User recht teurer Gag. Wie nun bekannt wurde, soll das russische Unternehmen mit dem russischen Geheimdienst zusammengearbeitet haben. Das FBI hat Ermittlungen eingeleitet. Gesichtsdaten sind eben wertvoll. Mit einem persönlichen Profil oder Device verknüpft auch ziemlich authentisch. Aber Facebook, Instagram, Snapchat und auch TikTok geht es im Grunde genommen um nichts anderes.

Medienrealitäten sind Realitäten

Eine interessante und paradoxe Situation. Auf der einen Seite wird das Gesicht immer mehr zur eindeutigen ID in unserer digitalisierten und vernetzten Gesellschaft. Auf der anderen Seite wird die Möglichkeit, genau das zu manipulieren, immer einfacher. Dass Medienrealitäten Realitäten sind, sollte nicht mehr diskutiert werden müssen. So wie man Millennials gerne in den Mund legt: "Du warst nicht da, wenn du kein Gram davon gemacht hast." 

So kommunizieren Unternehmen wie Facebook, aber auch Betreiber von Porno-Portalen, dass sie alles daran setzten, nicht konsensuelle Deepfakes per Algorithmus aus ihren Inhalten herauszufiltern, was natürlich ein Katz-und-Maus-Spiel ist und zugleich gar nicht so einfach. So tauchte bei Facebook ein Deepfake-Video von Mark Zuckerberg auf, worin er erklärt, er strebe mit seinen Peta-Tonnen User-Daten die Weltherrschaft an. Facebooks Algorithmen und Redaktionen selbst haben das Video natürlich nicht erkannt, das Löschen erwies sich als schwierig und es taucht immer wieder auf der eigenen Plattform auf.


Auch die chinesische Regierung justiert gesetzlich nach. Im November wurde bekanntgegeben, dass ab dem 1. Januar 2020 das Verbreiten von Deepfake-Videos ohne eindeutige Kennzeichnung als krimineller Akt gilt. Sowohl Produzent wie Video-Plattform sollen dafür strafrechtlich belangt werden können. Pandoras Büchse ist also längst sperrangelweit offen. Im Frühjahr veröffentlichte das Computerunternehmen NVIDIA die Open-Source-Software StyleGAN. GAN steht für Generative Adversarial Network. Ein Netzwerk, das aus zwei neuronalen Netzwerken besteht, die wiederum eine Art Nullsummenspiel durchführen.

In diesem Falle sorgen die Algorithmen dafür, durch unzählige Selfies aus dem Internet (vielleicht auch Ihrem) trainiert, Fotos von Gesichtern zu generieren, die es gar nicht gibt. Auf der Website "This Person Does Not Exist" kann man sich die seltsam vertraut vorkommenden, aber doch befremdlichen Gesichter angucken. Kein Resultat gleicht dem anderen. Was sagt unter diesen Begebenheiten das Gesicht an sich überhaupt noch aus?

Gibt es einen Weg, die Kontrolle zurückzuerlangen?

Diese Technologien und ihre ständigen Erweiterungen werden ohne Frage Auswirkungen auf unsere Gesellschaft haben. Die Frage nach dem Bild, der Authentizität, aber auch der individuellen Persona stellen sich. So etwas betrifft das Soziale, die Medien aber auch die Kunst. Mit Sorge und Skepsis schauen die, die sich auskennen, auf große anstehende politische Kampagnen wie der US-Präsidentschaftswahl 2020. Was man mit systematischen Falschinformationen auf Sozialen Medien erreichen kann, bewiesen Cambridge Analytica, Brexit und Trump-Wahl bereits. Welches geleakte Promi-Sextape im schummrigen Licht könnte heute überhaupt noch als solches vermarktet werden? Und gibt es einen Weg, die Kontrolle über das eigene Gesicht wieder zurück erlangen?

Letzteres ist eine rhetorische Frage. Wer wachstumsorientierten Tumor-Unternehmen täglich und freiwillig Selfies, Stories, Snaps und TikToks in den gierigen Schlund schubst, darf sich nicht wundern. Klingt harsch, ist aber so. Und nein, Instagram Stories werden bei den Facebook-eigenen Servern nicht nach 24 Stunden gelöscht. Sie bleiben.

Was nun? Ich glaube unterdessen an die interdisziplinäre Logik der Nachhaltigkeit. Auch das Digitale ist eine Umwelt. Wer weniger konsumiert, weniger Datenmüll produziert, läuft im glücklichen Fall auch weniger Gefahr vom eigenen Schrott erschlagen zu werden. Nachhaltigkeit bedeutet auch zu entscheiden, wem man sein Geld, beziehungsweise persönliche Daten überlässt. Welchen sozialen Einfluss haben die Unternehmen, wenn überhaupt? Ein komplexes und massives Thema. Passt gut zu Gans, Portwein und Stollenkonfekt. Vielleicht fangen wir an, derweil die richtigen Fragen zu stellen und weniger Selfies zu verbreiten und durch juvenile Filter zu jagen. Unter uns: interessiert nämlich wirklich niemanden.