FBI-Tipps zum persönlichen Schutz vor KI-Angriffen

Ralf Liebhold/shutterstock.com

Die digitale Neuauflage des Enkeltricks, Phishing-Attacken oder andere KI-gestützte Angriffe: All das zeigt, das Kriminelle mit generativer KI Betrugsmaschen glaubwürdiger und effizienter machen. Mit der Technologie erstellen Cyberkriminelle neue, weitgehend fehlerfreie Inhalte auf Basis von Benutzereingaben. So vermeiden die Verbrecher typische Warnsignale für Betrug, wie Rechtschreib- oder Grammatikfehler.

 Da KI-generierte, synthetische Inhalte schwer zu erkennen sind, liefert das FBI Beispiele, wie solche Technologien in betrügerischen Plänen eingesetzt werden:

KI-generierter Text

Kriminelle nutzen generative KI, um überzeugende Inhalte für Betrugsmaschen wie

• Social Engineering,
• Phishing,
• Finanzbetrug und
• Kryptowährungs-Anlagebetrug

zu erstellen.

Sie setzen KI ein, um täuschend echte Social-Media-Profile zu erstellen, Nachrichten schneller automatisiert zu generieren und weitgehend fehlerfrei zu übersetzen. Zudem integrieren sie KI-Chatbots in betrügerische Websites, um Opfer gezielt zu manipulieren und auf schädliche Links zu lenken.

KI-generierte Bilder

Auch die Macht der Bilder wird von Kriminellen mithilfe von KI-Generation missbraucht. Sie erstellen etwa realistisch wirkende Inhalte für Betrugsmaschen wie Social Engineering, Identitätsdiebstahl, Anlagebetrug und Sextortion. Dazu zählen

• glaubwürdige Profilfotos,
• gefälschte Ausweisdokumente und
• Bilder für fiktive Social-Media-Profile.

Zudem verwenden die Betrüger KI, um fingierte Bilder von Prominenten, Naturkatastrophen oder globalen Konflikten zu erstellen. So sollen Opfer etwa durch falsche Werbung, betrügerische Spendenaktionen oder Marktmanipulationen in die Irre geführt werden. Ähnliche Inhalte werden auch in der privaten Kommunikation genutzt, um das Vertrauen von Opfern zu gewinnen.

KI-generiertes Audio

Zwar aufwendiger, aber auch immer beliebter sind KI-generierte Audiodateien. Beim sogenannten Vocal Cloning geben sich Kriminelle als Verwandte oder bekannte Persönlichkeiten aus und versuchen Zahlungen zu erpressen. Sie erstellen realistische Stimmen, um in Krisensituationen finanzielle Hilfe oder Lösegeld zu fordern.

Zudem setzen sie solche Audiodateien ein, um sich Zugang zu Bankkonten zu verschaffen, indem sie sich am Telefon als Kontoinhaber ausgeben.

KI-generierte Videos

Bewegte Bilder bleiben von der Kreativität der Kriminellen ebenso nicht verschont. Immer häufiger erstellen sie KI-generierte Videos, um Prominente täuschend echt zu imitieren. Sie setzen diese Videos in

• Echtzeit-Videochats,
• privater Kommunikation und
• irreführenden Werbematerialien

ein.

Solche Deepfakes kommen meist bei Anlagebetrug und Social Engineering zum Einsatz, um die Betrugsmasche glaubwürdiger zu machen.

Tipps, um sich zu schützen

Um sich vor Betrügereien mit generativer KI zu schützen, rat das FBI deshalb zu folgenden Maßnahmen:

• Familien sollten sich ein auf geheimes Wort einigen, um Identitäten zu verifizieren.
• Es gilt, verstärkt auf Unstimmigkeiten in Bildern, Videos oder Stimmen sowie Tonfall und Wortwahl von Anrufern zu achten.
• Die eigene Online-Präsenz sollte reduziert, Social-Media-Konten auf “privat” gestellt und Inhalte nur mit vertrauten Personen geteilt werden.
• Verdächtige Anrufe sollten direkt bei der betreffenden Organisation überprüft, keine sensiblen Informationen weitergeben und keine finanziellen Transaktionen mit Unbekannten getätigt werden.