Jutta Jahnel vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) des Karlsruher Instituts für Technologie (KIT) gibt einen Einblick in die komplexe Welt der Generativen Künstlichen Intelligenz. Als Expertin des #digiTALK erklärt Jahnel die Technologie hinter den sogenannten Deepfakes - und ihre Anwendungen.
Was sind Deepfakes und wie funktionieren sie?
"Die Bezeichnung Deepfakes setzt sich aus dem Deep Learning, einer Form des Maschinellen Lernens von KI und Fälschungstechniken - also Fakes - zusammen", sagt die Expertin. Dieser Prozess, eine Fusion von Deep Learning und Fälschungstechniken, erlaubt die Erstellung von täuschend echten Gesichtern, Stimmen und fiktiver Inhalte.
"Das Thema betrifft uns inzwischen alle. Zuvor haben sich die Deepfakes auf Prominente und Politiker konzentriert, da von Ihnen die meisten Daten im Netz kursierten. Inzwischen genügt der KI allerdings eines unserer Bilder aus den Sozialen Netzwerken, um ein Deepfake zu generieren", erklärt Jahnel.
Was sind die Risiken und Chancen?
Durch die Technologie hinter den Deepfakes ergeben sich unzählige positive Anwendungsmöglichkeiten, beispielsweise in den Bereichen der Bildung, Kunst und Medizin, meint die Expertin des KIT. Auf individueller Ebene machten sich jedoch deutliche Risiken sichtbar.
"Die direkten Auswirkungen von Deepfakes betreffen Persönlichkeitsrechte, Urheberrechte und Datenschutz. Durch gezielte Manipulationen können persönliche Leben schwerwiegend beeinträchtigt werden, von Identitätsdiebstahl bis zu psychologischen Folgen durch Cybermobbing und Erpressung", so Jahnel.
Auch für Organisationen und Institutionen stellen Deepfakes eine ernstzunehmende Bedrohung dar. Die Bedrohungen reichten von Betrug und Sicherheitsrisiken bis zur Beeinträchtigung von Biometrischen-Überprüfungssystemen, erklärt die Expertin für Technikfolgenabschätzung.
"Deepfakes können in betrügerischen Anrufen von vermeintlichen Vorgesetzten bis hin zu gefälschten Vorstellungsgesprächen für Banktransaktionen eingesetzt werden. Auch die Schaffung gefälschter Social Media-Accounts für Markenmanipulation ist ein relevantes Risiko."
Für die Gesellschaft als Ganzes bedeutet das: Deepfakes haben das Potenzial, das Rechtssystem, die Wissenschaft und die Demokratie zu schwächen. So weist Jutta Jahnel auf die Beeinflussung der Meinungsbildung durch bewusste Täuschung hin, wobei politische Akteure möglicherweise gezielt eingesetzt werden könnten.
Wie können wir Deepfakes erkennen?
Um die negativen Folgen von Deepfakes abzuwenden, hilft nur, sie frühzeitig zu erkennen - am besten, bevor man sie mit anderen teilt, erklärt Lukas Flad, selbstständiger Medienpädagoge, Gründer von ki-im-unterricht.de und KI-Experte.
Das Problem: "Auf den ersten Blick sind Deepfakes oft nicht als Fälschung zu erkennen. Bei genauerer Betrachtung lassen sich meist Ungereimtheiten feststellen. Die sind der Schlüssel", sagt Flad.
Visuelle Merkmale als Indikator
Passen visuelle Merkmale wie Mimik, Gestik und Co. mit dem Inhalt zusammen? Lassen sich unregelmäßige Bildqualität, unnatürliche Bewegungen und inkonsistente Schatten beobachten? "All diese Aspekte können ein Anzeichen für Deepfakes sein, doch die Technologie wird immer raffinierter", erklärt der Medienpädagoge.
Zwar habe KI derzeit noch Schwierigkeiten mit natürlichen Bewegungen und Händen, was zu verwaschenen oder unnatürlichen Bewegungen führen kann. Jedoch werde die Technologie zunehmend raffinierter. "Diese subtilen Hinweise werden also zunehmend schwerer zu erkennen sein, insbesondere für Laien, die möglicherweise nicht die Zeit haben, Videos mehrfach zu überprüfen."
Flad weist darauf hin, dass auch auditive Merkmale, wie metallischer Ton, Hintergrundrauschen oder merkwürdige Aussprache, auf Deepfakes hinweisen können.
"Es müssen alle Alarmglocke läuten, wenn die Audioqualität nicht zum Video passt oder wenn es zu lange Pausen in Reden gibt, die nicht mit der normalen Sprechweise der betroffenen Person übereinstimmen", erklärt der Experte.
Inhaltliche Merkmale als letzter Ausweg
Trotz dieser Merkmale sei es nicht möglich, Deepfakes zuverlässig zu erkennen. "Besonders problematisch wird es, wenn politische Persönlichkeiten plötzlich entgegengesetzte Ansichten vertreten", meint Flad.
Als letzten Ausweg empfiehlt er, die Quelle zu recherchieren, um die Authentizität zu überprüfen. Das sei die zuverlässigste Methode, um Täuschungen zu durchschauen und die Verbreitung von manipulierten Inhalten zu minimieren, erklärt der Experte.
Kann man auf nichts mehr vertrauen?
Murat Karaboga vom Fraunhofer-Institut für System- und Innovationsforschung (ISI) beleuchtet den Vertrauensverlust durch Deepfakes. Dabei handelt es sich um einen indirekten Effekt der Technologie. "Besonders betroffen ist das Vertrauen in Medien, da Deepfakes die Erwartung der Wahrheit enttäuschen", meint der Forscher.
Die Täuschung könne sich langfristig auch auf die Demokratie auswirken: "Die wachsende Manipulation durch Deepfakes führt zu einer generellen Zunahme von Unsicherheit. Die Frage, wer in der digitalen Welt noch echt ist – sei es bei Fakeprofilen, KI-Persönlichkeiten oder gefälschten Beweisen – untergräbt das Vertrauen in Medieninhalte", so Karaboga.
Die potenzielle Schädigung der Demokratie durch Wahlmanipulation und das allgemeine Misstrauen in das System stehen im Fokus. Die Schritte der Deepfake-Verbreitung und rechtliche Aspekte: Der Beitrag erklärt den Prozess der Deepfake-Erstellung und Verbreitung, angefangen bei der Idee bis hin zur Wahrnehmung durch die Öffentlichkeit.
Wie werden wir vor Deepfakes geschützt?
Rechte, sowohl zivilrechtliche als auch strafrechtliche, spielen eine entscheidende Rolle im Schutz vor Deepfakes. "Aktuelle Schutzmaßnahmen, die bereits greifen sind, die Meldung von Fakes bei Social Media Giganten und die Regulierung durch den EU-Digital Service Act. Die Technikregulierung, insbesondere die noch nicht erlassene EU-KI-Regulierung, wird ebenfalls als wichtiger künftiger Schritt betrachtet", so Karaboga.
Trotz Fortschritten in der Authentizitätsprüfung von Websites bestehe weiterhin Bedarf an Verbesserungen. "Nur so können wir Panik vermeiden, während gleichzeitig die schlimmsten Auswirkungen, wie Pornografie und Volksverhetzung, konsequent bekämpft werden", meint der Experte.
Ausblick für die Zukunft
"Desinformation und Manipulation existierten schon immer- und es wird sie auch weiterhin geben", sagt Karaboga. Deshalb seien vor allem die Chancen für positive Anwendungen von Deepfake-Technologien zu bedenken.
"Wie viele Menschen sich an lustigen und kreativen Projekten im Internet erfreuen, welche alle auf derselben Technologie aufbauen, lässt sich kaum zählen", gibt der Forscher zu bedenken. Neben den weitreichenden Möglichkeiten für Medizin und Bildung gebe das allen Anlass zum Optimismus.
Jutta Jahnel betont dennoch die dringende Notwendigkeit von Maßnahmen, um die Gefahren von Deepfakes einzudämmen. "Politische, technische und bildungspolitische Ansätze sind erforderlich, um die Transparenz zu verbessern und eine kritische Bewertung von Inhalten durch Mediennutzer zu ermöglichen. In einer Welt, in der Deepfakes eine zunehmende Bedrohung darstellen, liegt die Lösung in einem ganzheitlichen Ansatz zur Bewältigung dieser Herausforderung", so der Appell der Expertin.
Über den #digiTALK
Die Veranstaltungsreihe #digiTALK setzt sich mit Themen der digitalen Welt von morgen auseinander und rückt gezielt Diskussionen und Austausch in den Mittelpunkt. Die Themen verstehen sich als Karlsruher Beitrag zu aktuellen Debatten einer zunehmend digitalen und vernetzten Gesellschaft.
Der #digiTALK ist ein Gemeinschaftsprojekt des Wissenschaftsbüros der Stadt Karlsruhe, der Initiative karlsruhe.digital, des Nachrichtenportals ka-news.de sowie der Karlshochschule International University.