Deepfaking: Was Sie über Deepfake-basierte Sextortionsprogramme wissen sollten

Das US-amerikanische Federal Bureau of Investigation (FBI) warnt vor einer Zunahme von Erpressungskampagnen, bei denen Kriminelle leicht verfügbare Tools der künstlichen Intelligenz (KI) nutzen, um aus unschuldigen Fotos von Personen sexuell eindeutige Deepfakes zu erstellen und sie dann zu belästigen oder zu erpressen.

Laut seiner jüngsten Mitteilung des öffentlichen Dienstes, hat das Büro eine wachsende Zahl von Berichten von Opfern erhalten, „deren Fotos oder Videos in explizite Inhalte umgewandelt wurden“. Die Videos, in denen sowohl Erwachsene als auch Minderjährige zu sehen sind, werden in sozialen Medien oder auf Pornoseiten verbreitet.

Besorgniserregend ist, dass die sich schnell entwickelnde Technologie es fast jedem ermöglicht, gefälschte, explizite Inhalte zu erstellen, in denen scheinbar nicht einwilligende Erwachsene und sogar Kinder zu sehen sind. Dies führt dann insbesondere zu Belästigung, Erpressung und Sextortion.

Manchmal findet das Opfer den Inhalt selbst, manchmal wird es von jemand anderem darauf aufmerksam gemacht und manchmal wird es direkt vom böswilligen Akteur kontaktiert. Was dann passiert, ist eines von zwei Dingen:

• Der Bösewicht verlangt eine Bezahlung, sonst teilt er den Inhalt mit Freunden und Familie
• Sie verlangen echte Bilder oder Videos mit sexuellem Thema

Ein weiterer Treiber für Sextortion

Bei letzterem kann es sich um Sextortion handeln, eine Form der Erpressung, bei der ein Bedrohungsakteur ein Opfer dazu bringt, sexuell eindeutige Inhalte von sich selbst zu teilen, und dann mit der Veröffentlichung droht, es sei denn, er bezahlt oder sendet weitere Bilder/Videos. Dies ist ein weiterer schnell wachsender Trend, vor dem das FBI im vergangenen Jahr öffentliche Warnungen herausgeben musste.

Normalerweise freundet sich das Opfer in Sextortion-Fällen online mit einer Person an, die vorgibt, jemand anderes zu sein. Sie fesseln das Opfer, bis es die expliziten Bilder/Videos erhält. Im Fall von Deepfake-gestützter Erpressung sind die gefälschten Bilder das Mittel, mit dem Opfer Lösegeld erpressen – es ist keine Freundschaft erforderlich.

In diesem Zusammenhang begehen einige Kriminelle auch Sextortionsbetrug die E-Mails beinhalten Darin behaupten sie, auf dem Computer des Opfers Schadsoftware installiert zu haben, die es ihnen angeblich ermöglicht habe, die Person beim Pornoschauen aufzuzeichnen. Dazu gehören persönliche Daten wie ein altes E-Mail-Passwort, das aus einer historischen Datenpanne stammt um die Drohung – fast immer eine leere – realistischer erscheinen zu lassen. Das Phänomen der Sextortion-Betrugs-E-Mails ist auf das gestiegene öffentliche Bewusstsein für Sextortion selbst zurückzuführen.

Das Problem mit Deepfakes

Deepfakes werden mithilfe neuronaler Netze erstellt, die es Benutzern ermöglichen, das Aussehen oder den Ton einer Person effektiv zu fälschen. Bei visuellen Inhalten werden sie darauf trainiert, Videoeingaben zu übernehmen, sie über einen Encoder zu komprimieren und sie dann mit einem Decoder neu aufzubauen. Dies könnte genutzt werden, um das Gesicht eines Ziels effektiv auf den Körper einer anderen Person zu übertragen und sie die gleichen Gesichtsbewegungen wie diese nachahmen zu lassen.

Die Technologie gibt es schon seit einiger Zeit. Ein virales Beispiel war ein Video von Tom Cruise Golf spielen, zaubern und Lutscher essen, und es sammelte Millionen von Aufrufen, bevor es entfernt wurde. Natürlich wurde die Technologie auch genutzt, um die Gesichter von Prominenten und anderen Personen in anstößige Videos einzufügen.

Die schlechte Nachricht ist, dass die Technologie immer leichter für jedermann zugänglich wird und so weit ausgereift ist, dass Technik-Neulinge sie mit ziemlich überzeugender Wirkung nutzen können. Deshalb ist (nicht nur) das FBI besorgt.

Wie man die Deepfaker besiegt

Sobald solche synthetischen Inhalte veröffentlicht werden, können sich die Opfer mit „erheblichen Herausforderungen konfrontiert sehen, die verhindern, dass die manipulierten Inhalte weiterhin weitergegeben oder aus dem Internet entfernt werden.“ Dies dürfte in den USA schwieriger sein als innerhalb der EU, wo die DSGVO regelt Im Hinblick auf das „Recht auf Löschung“ sind Diensteanbieter verpflichtet, bestimmte Inhalte auf Wunsch des Einzelnen zu löschen. Dennoch wäre es für Eltern oder ihre Kinder eine belastende Erfahrung.

In der ständig aktiven digitalen Welt, die unbedingt geteilt werden muss, klicken viele von uns auf „Veröffentlichen“ und erstellen einen Berg persönlicher Videos und Fotos, die über das Internet verteilt sind. Diese sind harmlos genug, aber leider sind viele dieser Bilder und Videos für jedermann leicht zugänglich. Diejenigen mit böswilliger Absicht scheinen immer einen Weg zu finden, diese visuellen Ressourcen und die verfügbare Technologie für böse Zwecke zu nutzen. Hier kommen auch viele Deepfakes ins Spiel, denn heutzutage kann fast jeder solche synthetischen, aber überzeugenden Inhalte erstellen.

Es ist besser, dem Trend jetzt einen Schritt voraus zu sein, um den potenziellen Schaden für Sie und Ihre Familie zu minimieren. Erwägen Sie die folgenden Schritte, um das Risiko, überhaupt Opfer eines Deepfakes zu werden, zu verringern und die möglichen Folgen im schlimmsten Fall zu minimieren:

Für Sie:

• Denken Sie immer zweimal darüber nach, wenn Sie Bilder, Videos und andere persönliche Inhalte veröffentlichen. Der harmloseste Inhalt könnte theoretisch von böswilligen Akteuren ohne Ihre Zustimmung genutzt werden, um ihn in einen Deepfake umzuwandeln.
• Erfahren Sie mehr über die Datenschutzeinstellungen Ihrer Social-Media-Konten. Es ist sinnvoll, Profile und Freundeslisten privat zu machen, sodass Bilder und Videos nur mit Personen geteilt werden, die Sie kennen.
• Seien Sie immer vorsichtig, wenn Sie Freundschaftsanfragen von Personen annehmen, die Sie nicht kennen.
• Senden Sie niemals Inhalte an Personen, die Sie nicht kennen. Seien Sie besonders vorsichtig bei Personen, die Druck ausüben, bestimmte Inhalte zu sehen.
• Seien Sie vorsichtig bei „Freunden“, die sich online ungewöhnlich verhalten. Ihr Konto wurde möglicherweise gehackt und dazu verwendet, Inhalte und andere Informationen abzugreifen.
• Verwenden Sie immer komplexe, eindeutige Passwörter und Multi-Faktor-Authentifizierung (MFA), um Ihre Social-Media-Konten zu sichern.
• Führen Sie regelmäßige Online-Suchen nach sich selbst durch, um alle persönlichen Informationen oder Video-/Bildinhalte zu identifizieren, die öffentlich verfügbar sind.
• Erwägen Sie die umgekehrte Bildsuche, um Fotos oder Videos zu finden, die ohne Ihr Wissen online veröffentlicht wurden.
• Senden Sie niemals Geld oder grafische Inhalte an unbekannte Personen. Sie werden nur mehr verlangen.
• Melden Sie jede Sextortierungsaktivität der Polizei und der entsprechenden Social-Media-Plattform.
• Melden Sie Deepfake-Inhalte den Plattformen, auf denen sie veröffentlicht wurden.

Für Eltern:

• Führen Sie regelmäßige Online-Suchen bei Ihren Kindern durch, um herauszufinden, wie viele persönliche Informationen und Inhalte online öffentlich verfügbar sind.
• Überwachen Sie die Online-Aktivitäten Ihrer Kinder im Rahmen des Zumutbaren und besprechen Sie mit ihnen die Risiken, die mit der Weitergabe persönlicher Inhalte verbunden sind.
• Überlegen Sie zweimal, ob Sie Inhalte Ihrer Kinder veröffentlichen, in denen deren Gesichter zu sehen sind.

Die billige Deepfake-Technologie wird sich weiter verbessern und Erpressung und Belästigung demokratisieren. Vielleicht ist es der Preis, den wir für ein offenes Internet zahlen. Aber wenn wir online vorsichtiger agieren, können wir die Wahrscheinlichkeit verringern, dass etwas Schlimmes passiert.