Digitale Täuschungskünste: Deepfakes als neue Welle des Internet-Spams Mit der rasanten Weiterentwicklung der künstlichen Intelligenz tauchen vermehrt Deepfakes in sozialen Netzwerken auf. Was steckt dahinter und wie erkennen wir sie?
KI-generierte Realitätstäuschung: Sind Deepfakes das nächste große Ding?
Wenn du Tom Hanks oder Mr. Beast folgst, dann ist dir vielleicht ein Deepfake-Video von ihnen begegnet. Aber auch Nicht-Prominente sind nicht immun dagegen, wie Patric Raemy, ein renommierter Wissenschaftler der Universität Freiburg, betont.
Das bemerkenswerte Deepfake-Ergebnis von HeyGen zeigt, wie gesprochene Sprache in Videos problemlos in andere Sprachen übersetzt wird, wobei die Lippenbewegungen perfekt angepasst sind. Der Unterschied zum Original ist nahezu unerkennbar.
Häufung von Deepfakes: Fluch oder Segen?
Die Fähigkeit, derartig realistische Fälschungen zu erstellen, hat sich dramatisch verbessert. Diese KI-generierten Videos sind mittlerweile so überzeugend, dass sie sogar als Werbebanner auf Plattformen wie Tiktok verwendet werden.
Es ist ein trügerischer Trend: Prominente, Politiker oder Influencer – niemand ist sicher. Beispielsweise verbreitete ein Deepfake von Tom Hanks eine Werbung für eine Zahnversicherung, während MrBeast angeblich günstige iPhones auf Tiktok verteilte, ohne davon zu wissen.
Einblicke von Patric Raemy, dem Deepfake-Guru
In einem Gespräch erläutert Raemy die potenziellen Gefahren von Deepfakes und warum sie immer präsenter werden.
“Das MrBeast-Video verdeutlicht die Risiken. Es zeigt die Bedrohung für das Individuum und die Möglichkeit, dass andere darauf hereinfallen. Deepfakes sind im Wesentlichen die nächste Generation von Spam, ähnlich den betrügerischen E-Mails von einst. Wir müssen jedoch stärker auf das Thema Deepfakes sensibilisieren.”
Warum der plötzliche Anstieg von Deepfakes?
Laut Raemy hat die KI, insbesondere mit Plattformen wie ChatGPT, enorme Fortschritte gemacht. Vor fünf Jahren benötigte ein Deepfake von Obama ein ganzes Universitätsteam. Heute? Es ist einfacher denn je.
Wie schützt man sich vor Deepfakes?
Ein bewährter Rat: “Überlege es dir zweimal, bevor du ein Foto oder Video ins Netz stellst”. Raemy betont, wie wichtig es ist, Medienkompetenz zu entwickeln. Frage dich immer: Wer hat es veröffentlicht? Wo wurde es veröffentlicht? Wie glaubwürdig ist die Quelle?
Erkennungszeichen von Deepfakes
Es gibt technische Grenzen bei Deepfakes. Achte auf ungewöhnliche Augenbewegungen, Beleuchtungsfehler oder seltsame Lippenbewegungen.
Was bedeutet das für die Politik?
Politiker sind oft im Rampenlicht, was sie zu idealen Zielen für Deepfakes macht. Ein Beispiel ist ein Deepfake von Guy Parmelin, das für Diskussionen sorgte. Wegen solcher Vorfälle haben viele Parteien bereits Richtlinien eingeführt, um den Einsatz von KI in Kampagnen einzuschränken.
Aktuelle Forschung über Deepfakes
Die Forschung ist im vollen Gange, mit Beiträgen von Universitäten und Instituten. Die Ergebnisse dieser Studien sollen 2024 präsentiert werden und werden hoffentlich mehr Licht in dieses komplexe Thema bringen.
Schlusswort: In einer digitalen Welt, in der die Grenzen zwischen Realität und Fiktion verschwimmen, ist es unerlässlich, wachsam zu bleiben und unsere Medienkompetenz stetig zu verbessern.
