Das Thema Spam könnte durch den Einsatz von künstlicher Intelligenz (KI) eine neue Dimension erreichen. Natürlich im negativen Sinne.
Spammer versenden täglich unerwünschte E-Mails, Textnachrichten und gefälschte Produktbewertungen, um Nutzer zum Kauf zu verleiten, auf Phishing-Links zu klicken, Malware zu installieren oder ihre Meinung zu ändern. Spam ist ein lukratives Geschäft, da eine einzige E-Mail-Kampagne in nur wenigen Stunden Tausende von Dollar einbringen kann.
Jüngste Fortschritte in der KI-Technologie könnten es Spammern ermöglichen, individuelle Vorlieben, Überzeugungen und Persönlichkeitsmerkmale von Menschen zu erlernen und diese Informationen zu nutzen, um ihre Spam-Nachrichten noch überzeugender zu gestalten und Filtermaßnahmen zu umgehen. Beispielsweise können große Sprachmodelle wie ChatGPT vollständige E-Mails im Schreibstil des Empfängers verfassen, nachdem sie einige Beispiele dafür gesehen haben, wie der Empfänger normalerweise schreibt. LLMs können auch die politischen Überzeugungen, den Familienstand oder die Lebensprioritäten von Nutzern vorhersagen, und zwar auf der Grundlage von Beiträgen in sozialen Medien oder anderen öffentlich verfügbaren Informationen.
Die Forscher erklären auch, dass Spamfilter durch den Einsatz von KI ebenfalls verbessert werden und neue Barrieren für unerwünschte E-Mails schaffen können. Spam-Filter könnten beispielsweise KI-Tricks von Spammern erkennen und blockieren.
Der Artikel betont auch, dass KI nicht nur für Spammer von Vorteil sein kann, sondern auch für Spamfilter, um bessere Filtermethoden zu entwickeln und Nutzer besser zu schützen. Schließlich können KI-Technologien dazu beitragen, die Schwächen des menschlichen Denkens zu verstehen und Maßnahmen zu entwickeln, um den Schaden durch böswillige Akteure zu minimieren.
Foto von Lindsey LaMont
