Lernende Algorithmen
Bard ist williger Komplize bei Cyber-Kriminalität
Bild: Midjourney/Sebastian Halm
17.07.2023 - Mit einfachen Mitteln spuckt Googles intelligenter Chatbot ohne weiteres Texte für Phishing-Mails oder Ransomware-Code aus.
von Sebastian Halm
Sicherheitsdienstleister Check Point Research
hat getestet, wie Cyberkriminelle künstliche Intelligenz für böswillige Zwecke ausnutzen können. Aus aktuellem Anlass wandten sich die Forscher der generativen KI-Plattform "Bard" von Google
zu.
Zunächst versuchte CPR die einfachste Anfrage zur Erstellung einer Phishing-E-Mail, die sowohl von ChatGPT als auch von Bard abgelehnt wurde. CPR versuchte es erneut, fragte nach einem Beispiel für eine Phishing-E-Mail und während ChatGPT die Anfrage ablehnte, lieferte Bard eine gut geschriebene Phishing-E-Mail, die sich als ein Finanzdienstleister ausgab. Nach weiteren Versuchen und mit einer Begründung der Anfrage lieferten beide KI-Bots schließlich einen Keylogger, der die Tastenanschläge des Forschers/Nutzers aufzeichnete, mit dem Unterschied, dass ChatGPT eine Art Haftungsausschluss über bösartige Verwendung hinzufügte.
In einem zweiten Versuch zeigte sich, dass Bard über Umwege auch einfachen Ransomware-Code erstellt. Nachdem eine erste simple Anfrage fehlschlug, fragten die Forscher Bard nach den häufigsten Aktionen, die von einer Ransomware ausgeführt werden. CPR erhielt eine stichpunkteartige Liste, wie Ransomware vorgeht und wandelte diese durch simples Kopieren und Einfügen in Anforderungen an ein Script um. Das funktionierte: Mit Angabe der Anforderungen an das Script erhielt CPR einen schädlichen Code.
Microsoft führt "geschützten" KI-Chat für Unternehmen ein
Großteil der Werbetreibenden nutzt generative KI-Tools
Vorträge zum Thema:
HighText Verlag
Mischenrieder Weg 18
82234 Weßling
Tel.: +49 (0) 89-57 83 87-0
Fax: +49 (0) 89-57 83 87-99
E-Mail: info@onetoone.de
Web: www.hightext.de
Besuchen Sie auch:
