Die rasante Entwicklung künstlicher Intelligenz (KI) bietet eine aufregende Perspektive. Viele nutzen Apps wie ChatGPT oder Bard, sei es aus Neugier oder um langfristig effizienter zu arbeiten. Unternehmen setzen vermehrt KI-basierte Chatbots und Assistenten ein, doch hier liegt ein Problem: KI kann dazu verleitet werden, sensible Informationen preiszugeben und so erhebliche Sicherheitslücken zu schaffen.
Obwohl KI erhebliche Verbesserungen bei Arbeitsprozessen verspricht, dürfen die damit einhergehenden Risiken nicht ignoriert werden. Die Regulierung des KI-Einsatzes ist nicht nur eine ethische und rechtliche Angelegenheit, sondern auch eine entscheidende Frage der Cybersicherheit. Einige der größten Unternehmen weltweit haben dies erkannt und die interne Verwendung von ChatGPT eingeschränkt oder sogar verboten.
KI-basierte Chatbots können dazu verleitet werden, sensible Daten preiszugeben
KI-basierte Chatbots wie ChatGPT sammeln nicht nur die vom Nutzer bereitgestellten persönlichen Daten, sondern auch Informationen über deren Geräte, Standorte und sogar Aktivitäten in sozialen Medien. Obwohl die Datenschutzrichtlinien oft den Schutz und die Nichtweitergabe dieser Daten versprechen, fehlen den Chatbots wichtige Datenschutzmechanismen wie Verschlüsselung, Data Loss Prevention und Zugangsbeschränkungen. Dies eröffnet Hackern Möglichkeiten zur Ausnutzung von Sicherheitslücken.
Hacker können durch geschickte Formulierungen sensible Daten wie Kontaktdaten, Standorte, Präferenzen und Passwörter extrahieren, indem sie die Chatbots gezielt manipulieren. Mit diesen Informationen können Kriminelle hochpersonalisierte und gezielte Angriffe auf Einzelpersonen und Unternehmen durchführen, einschließlich Phishing-Kampagnen, Ransomware-Angriffen und Identitätsdiebstahl.
Die Rolle von KI bei Cyberangriffen
- Ransomware, Malware und Spam
Hacker nutzen ChatGPT sogar zur Schadcode-Erstellung. Sie manipulieren die Kontrollmechanismen, um unentdeckten Schadcode zu erstellen, der Code-Injektionen und Mutationen ermöglicht. ChatGPT kann effiziente Ransomware erstellen, die ganze Systeme verschlüsselt, und es ermöglicht die Optimierung von Spam-Kampagnen.
- Phishing-Angriffe
Kriminelle verwenden KI, um überzeugende Phishing-E-Mails zu erstellen, indem sie personalisierte, fehlerfreie und glaubwürdige Nachrichten verfassen. ChatGPT-Angriffe zielen darauf ab, Opfer zur Preisgabe von Zugangs- oder persönlichen Daten zu verleiten.
- Identitätsmissbrauch und Kontokaperung
KI kann E-Mails und Nachrichten so authentisch verfassen, dass sie von echten Personen stammen. Dies ermöglicht es Hackern, hochrangige Mitarbeiter zu imitieren, um Zahlungen oder die Herausgabe vertraulicher Daten zu fordern. Account-Hijacking wird ebenfalls genutzt, um Insider-Informationen zu erlangen.
- Business E-Mail Compromise (BEC)
KI-basierte BEC-Angriffe sind besonders schwer zu erkennen, da sie äußerst raffiniert und personalisiert sind, die Zielpersonen sind meist Führungskräfte. Sie werden daher auch Whaling-Angriffe genannt. Aufgrund der Muster, die normale BECs aufweisen, können sie von Anti-Malware leicht erkannt werden. Die Raffinesse und der Grad der Personalisierung eines KI-basierten BECs machen ihre Erkennung jedoch deutlich schwieriger.
Schutz vor KI-basierten Cyberangriffen
Obwohl eine hundertprozentige Prävention unmöglich ist, können starke Sicherheitsmaßnahmen und Schulungen die meisten Unternehmen optimal schützen. Maßnahmen wie Firewalls, Endpoint-Protection, starke Passwörter, Multi-Faktor-Authentifizierung, Zugangskontrolle, Verschlüsselung, Data Loss Prevention und regelmäßige Aktualisierungen sind unerlässlich.
Die Überwachung des E-Mail-Verkehrs und der E-Mail-Konten ermöglicht es, Schwachstellen zu erkennen und datengestützte Entscheidungen zur Sicherheitsoptimierung zu treffen.