Cyberkriminelle haben ebenfalls entdeckt, dass KI-Tools nützlich sind: Sie setzen die praktischen Helfer gezielt für ihre Betrugstechniken ein. KI-Angriffe sind eine weitere große Bedrohung für Unternehmen.
Wir erklären, wie Cyberkriminelle KI-Tools für sich nutzen und auf welche KI-Angriffe Unternehmen achten müssen.
Hacker verwenden auch KI-Tools
Anwendungen, die künstliche Intelligenz verwenden, haben sich in letzter Zeit als äußerst nützlich erwiesen. Der große Erfolg von KI-Tools spiegelt sich in Nutzerzahlen wider, von denen einige Rekorde brechen — und sie scheinen die KI-Entwicklung erneut kräftig voranzutreiben. Denn: Jeden Tag kommen mehr Tools auf den Markt, die unsere Arbeitsweise revolutionieren sollen.
Die Einsatzmöglichkeiten sind nahezu unbegrenzt: Texte und Präsentationen können mit KI-Chatbots wie ChatGPT oder Google Bard erstellt werden, Microsoft 365 Copilot und Windows 11 Copilot sollen die tägliche Arbeit erleichtern, Bilder für Präsentationen oder Websites können mithilfe eines KI-Tools in Sekundenschnelle generiert werden, und KI-Chatbots können auch bei komplizierteren Aufgaben wie der Programmierung helfen.
Das Problem: Cyberkriminelle erkennen das Potenzial von KI genauso wie der Rest der Welt. Sie nutzen seit langem verschiedene Einsatzmöglichkeiten, um ihre Angriffe auf ein neues Level zu bringen. Für Unternehmen bedeutet das, dass KI-Angriffe eine neue Bedrohung darstellen!
Was sind KI-Angriffe?
Der Begriff KI-Angriff umfasst jede Art von Cyberangriff, bei dem Cyberkriminelle künstliche Intelligenz einsetzen, um Angriffe noch schneller und häufiger auszuführen und die Qualität der Angriffe zu verbessern. Die Bandbreite der möglichen Anwendungen reicht von Phishing-Angriffen über Deep-Fakes bis hin zu Malware-Angriffen.
Insbesondere KI-Chatbots wie ChatGPT eröffnen Cyberkriminellen völlig neue, für Opfer gefährliche Möglichkeiten, die bereits vielfach genutzt werden. Es zeichnet sich bereits ab, dass KI-Angriffe an Häufigkeit zunehmen und zu einer höheren Erfolgsquote führen. Experten warnen davor, dass Hackerangriffe in Zukunft in direktem Zusammenhang mit dem Fortschritt der KI-Entwicklung stehen werden und fordern, dass KI in gleichem Maße zur Abwehr von KI eingesetzt werden muss.
So nutzen Cyberkriminelle KI für Angriffe
Es ist nichts Neues, dass Cyberkriminelle extrem erfinderisch sind, wenn es darum geht, immer wieder neue Angriffsmethoden zu erfinden — und jetzt hilft ihnen auch künstliche Intelligenz.
Sie ist sozusagen die beste Komplizin: Sie lernt schnell, ist mindestens so erfinderisch wie die Cybergangster selbst, hat keine moralischen oder ethischen Bedenken und tut mühelos, was traditionell als Beihilfe zu einem Verbrechen oder Herstellung von Mordwaffen bekannt ist. Das Schadenspotenzial von KI-Angriffen ist entsprechend groß.
Dies wird durch einen Blick auf die verschiedenen Arten bestätigt, wie Cyberkriminelle KI bereits erfolgreich für ihre Zwecke einsetzen. Im Folgenden stellen wir vier gängige Methoden vor — wir können definitiv keinen Anspruch auf Vollständigkeit erheben, wenn es um dieses Thema geht.
Methode #1: Hacker nutzen den Hype um ChatGPT für Phishing
Phishing ist der Begriff für Cyberkriminelle, die mithilfe betrügerischer E-Mails, Textnachrichten, Telefonanrufe oder Websites versuchen, vertrauliche Daten von ihren Opfern zu erhalten — das können Bankdaten, Anmeldedaten oder sogar Sozialversicherungsnummern sein. In einem zweiten Schritt werden diese Daten dann für Identitätsdiebstahl, Kreditkartenbetrug oder Ransomware-Angriffe verwendet. Gerade bei Unternehmen sind erfolgreiche Phishing-Angriffe oft mit (hohen) finanziellen Verlusten und Datenpannen verbunden und stellen daher ein großes Problem dar.
Für ihre Angriffe wählen Angreifer in der Regel Hooks, die potenziell in der Nähe des Opfers liegen (zum Beispiel mit einem E-Mail-Betreff wie „Sie haben Ihr DHL-Paket verpasst“) oder die ein aktuelles, kontroverses Thema ansprechen — zum Beispiel künstliche Intelligenz. In letzter Zeit wurde ChatGPT auch als Köder verwendet. Auf Facebook gibt es zum Beispiel angebliche Chat-GPT-Gruppen, über die Cyberkriminelle den Fobo-Trojaner verbreiten. Und E-Mail-Betreffzeilen verweisen auch gerne auf den derzeit bekanntesten KI-Chatbot — in der Hoffnung, dass die Adressaten neugierig sind und der Masche zum Opfer fallen.
Methode #2: KI-Chatbots helfen bei Phishing-Angriffen
Aber es gibt noch einen zweiten Zusammenhang zwischen Phishing und KI-Chatbots wie ChatGPT: Cyberkriminelle nutzen Textroboter, um Texte für ihre Phishing-E-Mails und Websites schreiben zu lassen — mit dem Ziel, den Erfolg ihrer Phishing-Kampagnen zu verbessern.
Denn: Bisher galten sprachliche Ungenauigkeiten als Hinweis darauf, dass es sich bei E-Mails, Nachrichten oder Websites um einen Betrugsversuch handeln könnte — die Menschen dahinter kommen oft aus dem Ausland, sprechen also selbst nicht die deutsche Sprache. Im Zeitalter von ChatGPT werden diese Beweise hinfällig: Der Textroboter erstellt so perfekte Texte für das gewünschte Phishing-Thema, dass der Empfänger tatsächlich glauben könnte, dass die E-Mail oder Website von einem vertrauenswürdigen Absender stammt.
ChatGPT-Phishing wird übrigens noch perfekter, wenn Cyberkriminelle auch KI-Tools verwenden, die täuschend echte Kopien von Websites erstellen. Ein Link in den betrügerischen E-Mails führt die Opfer direkt auf ebenfalls perfekt gefälschte Websites, wo dann zum Beispiel Login-Daten abgefragt werden oder Malware-Varianten per Drive — per Download — ausgeliefert werden.
Methode #3: Von KI-Chatbots erstellte Malware
Und dann gibt es noch eine dritte Variante, mit der Cybergangster das Potenzial von KI-Chatbots ausschöpfen können: Die Tools sind in der Lage, Schadsoftware zu erstellen. Das spielt natürlich Kriminellen in die Hände, die keine Programmierkenntnisse haben. Dies führt zwar häufig nicht zu ausgeklügelter Malware, dies könnte sich jedoch in Zukunft ändern, da KI lernfähig ist, sodass die Raffinesse der KI-generierten Malware zunehmen kann.
In jedem Fall werden die Möglichkeiten zur Generierung von Schadcode in verschiedenen Darknet-Foren ausführlich diskutiert. Die Forscher von Checkpoint Research entdeckten von ChatGPT generierten Code, der Dateien mit bestimmten Dateierweiterungen auf PCs sammeln und ins Internet hochladen kann — einen sogenannten Infostealer. In den Untergrund-Chats wurde auch ein Code gefunden, der Dateien verschlüsseln und somit als Ransomware verwendet werden kann.
In Kombination mit anderen KI-Tools können Cyberkriminelle laut Checkpoint Research sogar ganze Angriffsketten erstellen. In einem Test gelang es den Sicherheitsforschern, mithilfe der Tools ChatGPT und Codex eine Phishing-E-Mail und eine bösartige Excel-Datei zu erstellen, die mithilfe von Makros zusätzlichen Schadcode auf Computer laden kann.
Methode Nummer 4: Deepfakes täuschen per Sprache, Bild und Video
Deepfakes sind eine weitere Form von KI-Angriffen. Dabei werden KI-Technologien verwendet, um gefälschte Bilder, Videos und Sprachdateien zu erstellen. Die Möglichkeiten, viel mehr zu tun, als nur herumzuscherzen, sind nahezu unbegrenzt. Angreifer könnten zum Beispiel durch Fotofälschungen fiktive Geschichten glaubwürdig erscheinen lassen — und in Zeiten viraler Beiträge in sozialen Netzwerken könnten sich Fake-News rasant verbreiten.
Das Gleiche gilt für Videos. KI-Funktionen ermöglichen es, anhand von Fotos Gesichter in bewegte Bilder einzufügen, sodass der Eindruck entsteht, dass sie in den abgebildeten Szenen tatsächlich zu sehen sind. Solche Deepfake-Videos können bereits für ein paar hundert Euro im Darknet in Auftrag gegeben werden und können dem oder den Opfern nachhaltigen Schaden zufügen.
Mittlerweile gibt es auch solche Deepfakes für Sprachnachrichten. Sie benötigen lediglich ein entsprechendes KI-Tool und echte Sprachaufnahmen einer Person. Mit etwas Training wird das Tool bald in der Lage sein, die Stimme dieser Person zu replizieren und gefälschte Sprachnachrichten zu erstellen — beste Voraussetzungen zum Beispiel für erfolgreichen CEO-Betrug!
Unternehmen besonders gefährdet
Die Liste der Methoden, die für KI-Angriffe verwendet werden, könnte erweitert werden — und im Laufe der Zeit werden sicherlich weitere Methoden hinzukommen. Unternehmen stehen erneut vor einer besonderen Herausforderung: Sie verfügen über umfangreiche Datensätze und sind ein lukratives Ziel für Cyberkriminelle. Mit den folgenden sieben Tipps können Sie zumindest das Risiko von KI-Angriffen minimieren:
- Verwenden Sie moderne Sicherheitslösungen:
Hersteller von Sicherheitslösungen sind sich des Risikos von KI-Angriffen bewusst und passen ihre Software an. Unternehmen sollten hier auf leistungsstarke und moderne Lösungen setzen! - Bekämpfung von KI mit KI:
Manche Angriffe können nur mit eigenen Mitteln bekämpft werden — auch bei KI-Angriffen. Mit Hilfe spezieller KI-Systeme können anomale Verhaltensmuster identifiziert und Maßnahmen ergriffen werden. - Mitarbeiter schulen:
Mitarbeiter sollten sich der Risiken und Auswirkungen von KI-Angriffen bewusst sein, damit sie verdächtige Aktivitäten und Phishing-Versuche erkennen und entsprechend reagieren können. Schulungen zum Sicherheitsbewusstsein sind ideal. - Verwenden Sie die Multifaktor-Authentifizierung:
Ob KI oder nicht, die Multifaktor-Authentifizierung schützt vor vielen Cyberangriffen. Es stellt sicher, dass nur autorisierte Personen auf sensible Daten zugreifen können. Es gibt jedoch bereits Möglichkeiten, wie Angreifer diese Sicherheitsmaßnahme außer Kraft setzen können. - Führen Sie regelmäßige Updates durch:
Es ist extrem wichtig, regelmäßige Updates durchzuführen und so Sicherheitslücken zu schließen. Tatsächlich könnte KI auch verwendet werden, um Sicherheitslücken in Software zu erkennen. - Überprüfen Sie die Software von Drittanbietern:
Unternehmen sollten auch die Software ihrer Lieferanten oder Partner überprüfen, um sicherzustellen, dass sie keine Schwachstellen enthält. Das Stichwort hier: Angriff auf die Lieferkette. Es ist ratsam, diesbezügliche IT-Nachrichten und -Benachrichtigungen zu verfolgen. - Verwenden Sie VPN-Dienste:
Die Verwendung eines virtuellen privaten Netzwerks (VPN) ist für Unternehmen im Allgemeinen nützlich. Es erhöht die Netzwerksicherheit, indem verschlüsselte Verbindungen zwischen der Unternehmenszentrale und den Benutzergeräten hergestellt werden.
Durch die Umsetzung dieser Maßnahmen können Unternehmen ihr Risiko minimieren und sich besser vor möglichen Schäden durch einen KI-Angriff schützen. Fakt ist: KI-Technologien helfen Cyberkriminellen, noch gezielter vorzugehen und Schwachstellen schneller zu entdecken.
IT-Experten bieten Hilfe gegen KI-Angriffe
Die Tatsache, dass sich sowohl Sicherheitsexperten als auch Unternehmen mit dem Thema KI-Angriffe auseinandersetzen müssen, lässt sich nicht abwenden. Es ist wichtig, die Bedrohungslage stets im Blick zu behalten und auf den böswilligen Einsatz von KI-Technologien mit geeigneten Gegenmaßnahmen zu reagieren. Zum Glück stehen Unternehmen mit dieser Aufgabe nicht ganz alleine da!
Tatsächlich gibt es externe IT-Experten, die ihr Wissen und ihre Erfahrung einsetzen, um Unternehmen dabei zu helfen, sich gegen (KI-) Angriffe zu verteidigen. Sie entwickeln Strategien, um Unternehmenssysteme sicherer zu machen, und setzen auch auf Sicherheitslösungen, die ebenfalls KI-Algorithmen verwenden, um Anomalien schneller zu erkennen. IT-Experten bieten auch Sensibilisierungstrainings für Mitarbeiter an, da es oft gerade menschliche Fehler sind, die Angreifern Tür und Tor öffnen.
Nehmen Sie Kontakt auf und lassen Sie sich beraten!
Weitere Links:
PC-Welt, BSI, BSI, infosperber, t3n, BSI
Lesen Sie den Originalartikel auf IT-SERVICE.network