Ein neuer Fall von Identitätsdiebstahl sorgt für Diskussionen: Der Chefredakteur der Sicherheit-Zeitung, Daniel Richard Janetschek, machte auf X darauf aufmerksam, dass sich die nächste Generation von KI-basierten Betrugsmaschen rasant weiterentwickelt.

Durch gezielte, bezahlte Werbung auf Plattformen von Meta, wie Facebook und Instagram, verbreiten sich diese Inhalte seit Tagen im österreichischen Netz. Zu den Betroffenen zählen diesmal der bekannte ORF-Moderator Armin Wolf und der Bundespräsident Alexander Van der Bellen. Vor einer Woche war Bundeskanzler Karl Nehammer betroffen.

Diese Fakes sind eine totale Sauerei – aber glücklicherweise noch so offensichtlich schwachsinnig (und technisch schlecht), das hoffentlich niemand auf diesen dummen Betrug hineinfällt.
Das Problem ist: Diese KI-Fakes werden sehr schnell sehr viel besser und schlauer werden. https://t.co/SNb11FtqPS

— Armin Wolf (@ArminWolf) July 25, 2024

Über bezahlte Anzeigen wurden manipulierte Inhalte verbreitet, die durch den Missbrauch der Identitäten Vertrauen schaffen und betrügerische Absichten verfolgen sollten. Armin Wolf äußerte sich besorgt über die zunehmende technische Raffinesse solcher Fakes. Obwohl die aktuellen Manipulationen noch als technisch schwach einzustufen seien, warnte er:

„Diese KI-Fakes werden sehr schnell sehr viel besser und schlauer werden.“ (Armin Wolf)

Janetschek sieht ebenfalls einen alarmierenden Trend. Immer häufiger werden Staatsoberhäupter, Medienvertreter und andere prominente Personen für solche Scams genutzt. Der Verdacht, dass politische Attacken hinter diesen Aktionen stecken könnten, sei nicht auszuschließen.

Die wachsende Bedrohung durch Deep-Fakes stellt Gesellschaft und Gesetzgebung vor große Herausforderungen. Janetschek betonte, wie wichtig es sei, solche Fälle zu melden und anzuzeigen, da dies die einzige Möglichkeit sei, den Betrug schrittweise zu bekämpfen.

Er kündigte an, diesen Vorfall bei RTR und KommAustria zur Anzeige zu bringen. Außerdem wolle er Meta zur Verantwortung ziehen, da die Plattformen in Europa über ihre Zentrale in Irland agieren und dort gegenüber den europäischen Medienaufsichtsbehörden rechenschaftspflichtig seien.

Bild: Screenshot (D.R.Janetschek)