Welchen Bildern wir trauen können
Eine Technik bereitet den Sicherheitsbehörden Sorgen: „Deep Fakes“– manipulierte Videos. Erste Fälle zeigen, wie gravierend der Einfluss auf Politik sein kann
Berlin. Die Szene ist bizarr. Der britische Premierminister Boris Johnson sitzt an seinem Schreibtisch, die grellblonden Haare kurz geschnitten, dahinter die Fahne des Vereinigten Königreichs. Und jetzt, kurz vor den Wahlen für das Parlament, spricht Johnson diese Sätze in die Kamera: Er wolle die Spaltung des Landes überwinden und rufe die Menschen auf, seinen Konkurrenten Jeremy Corbyn zum nächsten Premier zu wählen. So wünscht es sich Johnson, selbst gerade erst im Amt. Mitten im Wahlkampf.
Eine andere Szene, anderer Wahlkampf, USA im Frühjahr 2019. Nancy Pelosi, damals Sprecherin der Demokraten im Repräsentantenhaus, nuschelt ihre Worte nur, wackelt mit der Hand, lallt. Ist sie betrunken? Mitten in einem Fernsehauftritt?
„Die Wahrscheinlichkeit des Einsatzes von Deep Fakes erhöht sich sicher noch einmal vor besonderen Anlässen wie einer Wahl.“Bundesamt für Sicherheit in der Informationstechnik (BSI)
Beide Videos verbreiten sich rasch, werden 1000-fach geklickt, geguckt, weitergeleitet. Nur: Es sind Fälschungen, aber kaum als solche zu erkennen. Die Videos sind ein Vorgeschmack auf das, wovor Sicherheitsbehörden warnen: eine Unterwanderung des Vertrauens in die Demokratie durch „Deep Fakes“, tiefgehende Verfälschungen – mithilfe von Computersoftware und KI, künstlicher Intelligenz.
Das Johnson-video stammt von der britischen Organisation Future Advocacy. Wer es bis zum Ende schaut, erfährt, dass die Rede mithilfe von Software manipuliert wurde. Die Aktivisten wollten zeigen, wie leicht es ist, Politik durch Deep Fakes zu beeinflussen.
Die It-spezialisten von Future Advocacy haben zunächst ein echtes Video mit einer Rede von Johnson als Grundlage für ihren Fake gesucht. Dann recherchierten sie, welche Worte Johnson häufig in seinen Botschaften nutzt. Ein Stimmenimitator
sprach die neue Rede ein. Mithilfe einer Software wurde die Darstellerstimme mit den Mundbewegungen von Johnsons echter Rede synchronisiert und überspielt. Der Computer „lernt“die Bewegungen. Aussehen, Mimik, Sprache – alles scheint echt.
Fachleute der EU schreiben in einer Analyse, dass Kampagnen zur Desinformation „Misstrauen säen und gesellschaftliche Spannungen erzeugen“können. Ein Staat wie Russland sehe Kampagnen zur Desinformation als Teil „hybrider Kriegsführung“. Informationen als Waffe – so halte es die russische Militärdoktrin fest.
Bisher können deutsche Sicherheitsbehörden nicht einschätzen, wie gravierend die Manipulation politischer Debatten mithilfe von Deep Fakes werden kann. Doch eine Sorge eint die Fachleute: Je besser die Computertechnik wird, je einfacher sie zu bedienen ist, desto häufiger dürften Deep Fakes ins Internet gestellt werden. Auch mit böswilliger Absicht.
Und die Sorge wächst auch angesichts der in Deutschland anstehenden Wahl im September. Die Sicherheitsbehörden sehen nach Kenntnissen unserer Redaktion bisher keine Versuche organisierter Manipulation durch Deep-fake-videos. Und doch zeigt die Vergangenheit: Abgeordnete und Parteien, der Bundestag und andere Institutionen sind Ziel staatlich gesteuerter Cyberangriffe.
„Wie jede Art der Desinformation können auch Deep Fakes zur Beeinflussung der öffentlichen Meinung genutzt werden. Die Wahrscheinlichkeit des Einsatzes erhöht sich sicher noch einmal vor besonderen Anlässen wie einer Wahl“, schreibt das Bundesamt für Sicherheit in der Informationstechnik (BSI) auf Nachfrage unserer Redaktion.
Dass fremde Staaten oder deren
Nachrichtendienste gezielt manipulierte Videos ins Netz stellen, ist den Sicherheitsbehörden bisher aber nicht bekannt. Es seien „allenfalls geringe Auswirkungen auf Ereignisse wie die Bundestagswahl zu erwarten“, heißt es aus dem Bundesinnenministerium.
Doch auch rechtsextremistische Netzwerke inszenieren aufwendige Propagandavideos und streuen gezielt Falschinformationen. Einer ihrer Kanäle heißt „Infokrieg“.
Wer hinter einer Desinformationskampagne steht, ist für deutsche Sicherheitsbehörden oft kaum nachverfolgbar. „Im Prinzip kann jede oder jeder Videos fälschen, da viele Tools mit Anleitung frei im Netz verfügbar sind“, schreibt das BSI.
Die meisten Nutzer im Internet verbreiteten diese Fakes, ohne sie auch nur grob zu prüfen, beklagen Sicherheitsleute. Das Problem: Für viele, vor allem junge Menschen, sind Facebook, Instagram und Youtube die wichtigste Informationsquelle. Die Geschwindigkeit, mit der sich Deep Fakes auf diesen Kanälen verbreiten, lässt den Kampf gegen Manipulationen oft scheitern. Obwohl das Video mit der angeblich betrunkenen Demokratin Nancy Pelosi schnell als Fake enttarnt wurde, klickten es ihre Gegner und Fans von Donald Trump millionenfach in den sozialen Netzwerken wie Facebook. Der Schaden für Pelosi war groß, die Lüge schwer einzufangen.