KI-Stimmenklonen und Deepfake-Betrug: So erkennen und verhindern Sie Betrugsversuche

Künstliche Intelligenz kann heute Stimmen, Gesichter und Kommunikationsstile erstaunlich realistisch nachbilden. Diese Technologie bietet sinnvolle Anwendungen, etwa für Barrierefreiheit, Medienproduktion und Unterhaltung. Gleichzeitig nutzen Kriminelle sie zunehmend für Betrugsversuche. KI-Stimmenklonen und Deepfake-Betrug können einen Anruf, ein Video oder eine Nachricht so wirken lassen, als stamme sie von einer vertrauten Person.

Das eigentliche Risiko liegt jedoch nicht nur in der Qualität der Fälschung. Betrüger verbinden synthetische Medien mit klassischen Methoden des Social Engineering: Zeitdruck, Angst, Autorität und angebliche Notfälle sollen das Opfer dazu bringen, schnell zu handeln.

Was sind KI-Stimmenklonen und Deepfakes?

Beim Stimmenklonen erzeugt künstliche Intelligenz Sprache, die der Stimme einer realen Person ähnelt. Dafür können Betrüger beispielsweise öffentlich zugängliche Sprachaufnahmen aus sozialen Netzwerken, Videos oder anderen Quellen verwenden. Die US-Verbraucherschutzbehörde FTC warnt, dass bereits kurze Sprachproben für missbräuchliche Stimmimitationen genutzt werden können.

Deepfakes sind mit KI erzeugte oder manipulierte Audio-, Video- oder Bildinhalte. Eine Person kann dadurch scheinbar etwas sagen oder tun, was tatsächlich nie passiert ist.

Das FBI berichtet, dass Kriminelle KI-generierte Stimmen zur Imitation von Angehörigen oder bekannten Personen einsetzen. Auch synthetische Videos können verwendet werden, um Führungskräfte, Behördenvertreter oder andere vertrauenswürdige Personen zu imitieren.

Wie funktionieren solche Betrugsmaschen?

Viele Angriffe beginnen mit dem Sammeln öffentlich verfügbarer Informationen. Betrüger suchen nach Namen, Fotos, Sprachaufnahmen, beruflichen Funktionen und familiären Beziehungen.

Anschließend wird eine glaubwürdige Identität aufgebaut. Ein Opfer könnte beispielsweise einen Anruf erhalten, der scheinbar von einem Familienmitglied kommt und einen dringenden Notfall schildert. In einem Unternehmen kann ein vermeintlicher Vorgesetzter eine dringende Zahlung verlangen.

Dabei ist die psychologische Manipulation oft wichtiger als die eigentliche KI-Technologie. Aussagen wie „Du musst sofort bezahlen“ oder „Sag niemandem etwas“ sollen verhindern, dass das Opfer die Geschichte überprüft.

Besonders problematisch sind auch Anlagebetrugsmaschen. Laut FBI verursachten Anlagebeschwerden mit einem gemeldeten KI-Bezug im Jahr 2025 Verluste von mehr als 632 Millionen US-Dollar. Dabei wurden unter anderem KI-generierte Stimmen und Videos von Prominenten, CEOs und anderen vertrauenswürdigen Personen eingesetzt.

Woran erkennt man einen gefälschten Anruf oder ein Deepfake-Video?

Es gibt kein einzelnes Merkmal, mit dem sich jede KI-Fälschung zuverlässig erkennen lässt. Moderne synthetische Inhalte können sehr überzeugend sein. Das FBI weist ausdrücklich darauf hin, dass KI-generierte Stimmen nahezu identisch mit echten Stimmen klingen können.

Deshalb sollte nicht nur die Aufnahme selbst geprüft werden, sondern vor allem die Identität und die Forderung dahinter.

Achten Sie insbesondere auf:

• unerwartete Forderungen nach Geld oder vertraulichen Daten,
• ungewöhnlichen Zeitdruck,
• neue Telefonnummern oder Kommunikationskanäle,
• Zahlungsforderungen über Kryptowährungen, Geschenkkarten oder Überweisungen,
• unnatürliche Lippenbewegungen oder Gesichtsausdrücke,
• Personen, die eine einfache Identitätsprüfung vermeiden.

Der wichtigste Grundsatz lautet: Vertrauen Sie nicht allein auf eine bekannte Stimme. Wenn ein Angehöriger angeblich einen Notfall hat, beenden Sie das Gespräch und rufen Sie die Person über eine bereits bekannte Telefonnummer zurück. Die FTC empfiehlt diese Vorgehensweise bei Verdacht auf einen KI-gestützten Familiennotfall-Betrug.

Die beste Schutzmaßnahme ist unabhängige Überprüfung

Ein festgelegtes Verfahren zur Identitätsprüfung kann wirksamer sein als der Versuch, jede KI-Fälschung selbst zu erkennen.

Familien können beispielsweise ein geheimes Codewort vereinbaren. Unternehmen sollten Zahlungsaufforderungen über einen zweiten, unabhängigen Kommunikationsweg bestätigen lassen.

Wenn ein angeblicher Geschäftsführer während eines Videoanrufs eine dringende Überweisung verlangt, sollte der Mitarbeiter die Person über das normale Unternehmenssystem kontaktieren, bevor Geld überwiesen wird.

Technische Erkennungssysteme können helfen, sind aber nicht unfehlbar. Die FTC untersucht unter anderem Erkennungssysteme, Echtzeitüberwachung, Authentifizierung und Verfahren, die das Klonen von Stimmen erschweren sollen. Gleichzeitig betont die Behörde, dass es keine einzelne Lösung gibt, die alle Risiken des Stimmenklonens beseitigt.

Was tun bei einem möglichen Deepfake-Betrug?

Beenden Sie die Kommunikation, bevor Sie Geld oder vertrauliche Informationen weitergeben. Öffnen Sie keine verdächtigen Links und verwenden Sie nicht die Kontaktinformationen aus der verdächtigen Nachricht zur Überprüfung.

Stattdessen:

1. Gespräch oder Chat beenden.
2. Die angebliche Kontaktperson über einen bekannten Kanal erreichen.
3. Die Situation gegebenenfalls mit einer zweiten Person überprüfen.
4. Nachrichten, Telefonnummern und Zahlungsinformationen sichern.
5. Bei bereits erfolgter Zahlung sofort die Bank oder den Zahlungsdienstleister kontaktieren.
6. Den Vorfall bei den zuständigen Behörden oder der jeweiligen Plattform melden.

Das FBI warnt weiterhin vor Betrugsmaschen, bei denen KI-generierte Stimmen, Bilder und Videos zur Täuschung und Identitätsimitation eingesetzt werden.

Häufig gestellte Fragen

Kann KI tatsächlich eine menschliche Stimme klonen?
Ja. Moderne Systeme können aus relativ kurzen Sprachproben überzeugende synthetische Sprache erzeugen. Deshalb ist eine bekannte Stimme allein kein sicherer Identitätsnachweis.

Kann man jedes Deepfake-Video erkennen?
Nein. Manche Fälschungen weisen erkennbare Fehler auf, aber moderne Systeme können sehr realistische Inhalte erzeugen. Eine unabhängige Identitätsprüfung ist deshalb zuverlässiger.

Was sollte man bei einem angeblichen Notruf eines Angehörigen tun?
Nicht sofort Geld senden. Gespräch beenden und die Person über eine bekannte Telefonnummer kontaktieren. Ein vorher vereinbartes Familien-Codewort kann zusätzliche Sicherheit bieten.

Sind auch Unternehmen von Stimmenklon-Betrug betroffen?
Ja. Kriminelle können Führungskräfte oder Mitarbeiter imitieren, um Zahlungen oder vertrauliche Informationen zu erhalten. Das FBI und die FTC haben vor solchen KI-gestützten Betrugsversuchen gewarnt.

Fazit

KI-Stimmenklonen und Deepfakes machen Identitätsbetrug überzeugender als früher. Die wichtigste Gegenmaßnahme ist jedoch einfach: Wichtige Forderungen immer unabhängig überprüfen. Eine bekannte Stimme oder ein überzeugendes Video sollte niemals allein ausreichen, um Geld zu überweisen oder vertrauliche Informationen preiszugeben.