Bitcoin-CEO Michael Saylor lässt jeden Tag 80 Deepfake-Videos entfernen

Echt oder Fake? Ein Video mit Michael Saylor.

Mithilfe generativer KIs wie ChatGPT nutzen Betrüger immer häufiger gefälschte Videos. MicroStrategy-Boss Michael Saylor ist nicht der einzige Krypto-Promi, der davon betroffen ist. Aber was kann man dagegen machen?

Vor kurzem warnte Michael Saylor, CEO von MicroStrategy und Inbegriff des eisernen Bitcoin-Hodlers, dass MicroStrategy keine Bitcoins verschenke. „Mein Team lässt“, erklärte er, „jeden Tag etwa 80 KI-generierte Fake-Videos von YouTube löschen, aber die Betrüger laden jeden Tag mehr hoch.“

⚠️ Warning ⚠️ There is no risk-free way to double your #bitcoin, and @MicroStrategy doesn't give away $BTC to those who scan a barcode. My team takes down about 80 fake AI-generated @YouTube videos every day, but the scammers keep launching more. Don't trust, verify. pic.twitter.com/gqZkQW02Ji

— Michael Saylor⚡️ (@saylor) January 13, 2024

Michael Saylor wirbt als Sprecher auf Konferenzen und Interviewgast im Fernsehen gerne mit markigen Worten für Bitcoin. Für Betrüger, die mit KI-generierten Videos, sogenannte „Deepfakes“, Leuten ans Geld wollen, ist er ein dankbares Objekt. Die gefälschten Videos sind in der Regel Variationen des plumpen „Impersonation Scam“, bei dem sich jemand in den sozialen Medien als eine bekannte Person oder Firma ausgibt und verspricht, alle Bitcoin oder Ether zu verdoppeln, die man an eine bestimmte Adresse sendet.

Here is the Michael Saylor deep fake scam. Just popped up on YouTube (again) pic.twitter.com/9t4PDCJcU6

— ⪛⦿⫺Beyondthehorizon2620 (@BTH2620) January 8, 2024

Generative KIs treiben den Spuk nun auf eine neue Ebene. Die künstlichen Intelligenzen sind in der Lage, Videos zu produzieren, die andere Personen täuschend echt nachahmen. Für unerfahrene Zuschauer sind die Unterschiede mittlerweile so gut wie unmöglich zu erkennen.

Das Finanzwesen – und speziell Krypto – dient als eine Art Frühwarnsystem für den Missbrauch solcher Technologien. Denn nirgendwo sonst lassen sich Lug und Trug so direkt in Geld umwandeln. Etwas ähnliches hat man schon bei Krypto-Börsen erlebt, die die natürliche erste Anlaufstelle für Hacker sind, um Software-Schwächen auszunutzen, oder, in einem weiteren Sinn, mit Ransomware. Die immensen Schäden, die Hacker damit angerichtet haben, haben immerhin geholfen, die Sicherheitsstandards anzuheben.

Bei generativen KIs und Deep Fakes fehlt diese Wendung ins Positive noch. Neben Michael Saylor wurden zahlreiche andere prominente Vertreter der Krypto-Szene zur Vorlage von Deepfakes, etwa Solana-Mitgründer Anatolij Jakowenko, Cardano-Gründer Charles Hoskinson und viele andere. Dass die Betrüger dabei schlicht den alten „Impersonation-Scam“ neu aufleben lassen, anstatt die Märkte zu manipulieren, ist derzeit noch beruhigend. Es wäre vermutlich möglich, etwa durch ein Video mit Michael Saylor die Bitcoin-Kurse fallen – oder steigen – zu lassen, worunter nicht nur diejenigen leiden würden, die auf den Fake reinfallen, sondern der gesamte Markt.

Auch außerhalb von Krypto wurde 2023 zu einem Durchbruchsjahr für Deepfakes. So kursieren immer wieder Videos mit bekannten Fernsehmoderatoren, die für dubiose Finanzprodukte werben. Aber auch hier bleiben die Betrüger bisher auf dem Niveau der plumpen Abzocke, anstatt Märkte stärker zu manipulieren. Doch vermutlich ist es nur eine Frage der Zeit, bis auch das geschieht.

Der Unterschied zwischen „echt“ und „gefälscht“ wird immer schwieriger zu erkennen. Dies kann und wird auch politische Konsequenzen haben. Das Weltwirtschaftsforum (WWF) warnte erst kürzlich, dass durch generative KI gestützte Desinformation das größte globale Risiko der nächsten Jahre sei. Deepfakes können helfen, Wahlen zu manipulieren oder die Gesellschaften zu spalten. Dies macht sie zu einer Gefahr für Demokratie, Wohlstand, Freiheit und letztlich auch für die Wahrheitsfähigkeit als solche.

Diese Gefahr ist längst nicht mehr nur theoretisch. Es gibt zahlreiche Beispiele für politische Manipulation durch Deepfakes: Tagesschau-Moderatoren geben zu, bei Berichten über die Coroina-Impfung gelogen zu haben, Wirtschaftsminister Robert Habeck verkündet die Schließung aller Freibäder, ein junger Mann pöbelt WWF-Gründer Klaus Schwab auf der Bühne an; alles belegt durch Videos oder Tonaufnahmen, die aber samt und sonders gefälscht sind.

Deepfakes sind Teil des Propagandakrieges um unsere Köpfe geworden, ob es einem gefällt oder nicht. Innenministerien, Faktenchecker und Polizeiorganisationen haben dies zwar längst auf dem Schirm, wirken in ihren Maßnahmen gegen sie aber eher verzweifelt. Die Bundesregierung rät, auf Mimiken und Unstimmigkeiten in Videos zu achten und Quellen zu prüfen, Correctiv weist regelmäßig auf Deepfakes hin, und wer es sich wie Michael Saylor leisten kann, beauftragt ein Team, das sie auf Youtube löschen lässt.

Nichts davon wird aber verhindern können, dass Betrüger das Internet mit Videos fluten, die KIs in Sekunden fälschen können, und dass sie damit auch Menschen erreichen. Etwas vielversprechender ist der Ansatz, Feuer mit Feuer zu bekämpfen, also KI-generierten Deepfakes mit KIs auf die Schliche zu kommen, und so die Identifizierung von Fälschungen ebenso zu automatisieren wie die Fälschungen selbst. Dies aber wird niemals eine vollständige Lösung sein, sondern nur ein ewiges Wettrüsten auslösen.

Sinnvoller wäre es, Deepfakes im Keim zu ersticken. Cardanos Charles Hoskinson schlägt etwa vor, Wasserzeichen für Videos aus nachvollziehbaren Beweisketten zu bilden, die als NFT auf Blockchains sichtbar und verifizierbar sind. Eine ähnliche Funktion könnten Soulbound-Token oder Identitäts-Token einnehmen, oder auch der „Proof of Human“ von Worldcoin. Die technischen Möglichkeiten sind vorhanden – doch die Umsetzung hängt maßgeblich von den großen ideoplattformen wie Youtube und TikTok sowie deren Nutzer ab.