Thüringische Landeszeitung (Weimar)
„Die Wahrscheinlichkeit des Einsatzes von Deep Fakes erhöht sich sicher noch einmal vor besonderen Anlässen wie einer Wahl.“
Beide Videos verbreiten sich rasch, werden 1000-fach geklickt, geguckt, weitergeleitet. Nur: Es sind Fälschungen, aber kaum als solche zu erkennen. Die Videos sind ein Vorgeschmack auf das, wovor Sicherheitsbehörden warnen: eine Unterwanderung des Vertrauens in die Demokratie durch „Deep Fakes“, tiefgehende Verfälschungen – mithilfe von Computersoftware und KI, künstlicher Intelligenz.
Das Johnson-Video stammt von der britischen Organisation Future Advocacy. Wer es bis zum Ende schaut, erfährt, dass die Rede mithilfe von Software manipuliert wurde. Die Aktivisten wollten zeigen, wie leicht es ist, Politik durch Deep Fakes zu beeinflussen.
Die IT-Spezialisten von Future Advocacy haben zunächst ein echtes Video mit einer Rede von Johnson als Grundlage für ihren Fake gesucht. Dann recherchierten sie, welche Worte Johnson häufig in seinen Botschaften nutzt. Ein Stimmenimitator
sprach die neue Rede ein. Mithilfe einer Software wurde die Darstellerstimme mit den Mundbewegungen von Johnsons echter Rede synchronisiert und überspielt. Der Computer „lernt“die Bewegungen. Aussehen, Mimik, Sprache – alles scheint echt.
Fachleute der EU schreiben in einer Analyse, dass Kampagnen zur Desinformation „Misstrauen säen und gesellschaftliche Spannungen erzeugen“können. Ein Staat wie Russland sehe Kampagnen zur Desinformation als Teil „hybrider Kriegsführung“. Informationen als Waffe – so halte es die russische Militärdoktrin fest.
Bisher können deutsche Sicherheitsbehörden nicht einschätzen, wie gravierend die Manipulation politischer Debatten mithilfe von Deep Fakes werden kann. Doch eine Sorge eint die Fachleute: Je besser die Computertechnik wird, je einfacher sie zu bedienen ist, desto
■ Im Kampf gegen Deep Fakes will die Bundesregierung zum einen auf Bildung setzen und vor allem junge Menschen über sichere Quellen informieren. Auch Lehrer sollen Kinder stärker im Medienkonsum schulen. Das soziale Netzwerk Facebook hat eine eigene Stelle zur Enttarnung von „Fake News“eingerichtet. häufiger dürften Deep Fakes ins Internet gestellt werden. Auch mit böswilliger Absicht.
Und die Sorge wächst auch angesichts der in Deutschland anstehenden Wahl im September. Die Sicherheitsbehörden sehen nach Kenntnissen unserer Redaktion bisher keine Versuche organisierter Manipulation durch Deep-Fake-Videos. Und doch zeigt die Vergangenheit: Abgeordnete und Parteien, der Bundestag und andere Institutionen sind Ziel staatlich gesteuerter Cyberangriffe.
„Wie jede Art der Desinformation können auch Deep Fakes zur Beeinflussung der öffentlichen Meinung genutzt werden. Die Wahrscheinlichkeit des Einsatzes erhöht sich sicher noch einmal vor besonderen Anlässen wie einer Wahl“, schreibt das Bundesamt für Sicherheit in der Informationstechnik (BSI) auf Nachfrage unserer Redaktion.
Dass fremde Staaten oder deren
■ Auch fälschungssichere digitale Signaturen können Sicherheit bieten. Möglich ist dies heute bereits bei digitalen Textdokumenten. Allerdings gibt es nach Angaben von Fachleuten bisher noch keine digitale Signatur für Videos, die flächendeckend von den Programmen der Nutzer zu Hause unterstützt wird.
Nachrichtendienste gezielt manipulierte Videos ins Netz stellen, ist den Sicherheitsbehörden bisher aber nicht bekannt. Es seien „allenfalls geringe Auswirkungen auf Ereignisse wie die Bundestagswahl zu erwarten“, heißt es aus dem Bundesinnenministerium.
Doch auch rechtsextremistische Netzwerke inszenieren aufwendige Propagandavideos und streuen gezielt Falschinformationen. Einer ihrer Kanäle heißt „Infokrieg“.
Wer hinter einer Desinformationskampagne steht, ist für deutsche Sicherheitsbehörden oft kaum nachverfolgbar. „Im Prinzip kann jede oder jeder Videos fälschen, da viele Tools mit Anleitung frei im Netz verfügbar sind“, schreibt das BSI.
Die meisten Nutzer im Internet verbreiteten diese Fakes, ohne sie auch nur grob zu prüfen, beklagen Sicherheitsleute. Das Problem: Für viele, vor allem junge Menschen, sind Facebook, Instagram und Youtube die wichtigste Informationsquelle. Die Geschwindigkeit, mit der sich Deep Fakes auf diesen Kanälen verbreiten, lässt den Kampf gegen Manipulationen oft scheitern. Obwohl das Video mit der angeblich betrunkenen Demokratin Nancy Pelosi schnell als Fake enttarnt wurde, klickten es ihre Gegner und Fans von Donald Trump millionenfach in den sozialen Netzwerken wie Facebook. Der Schaden für Pelosi war groß, die Lüge schwer einzufangen.