2023 stand Innovation stark im Fokus, was vor allem durch das große Interesse für generative KI (GenAI) und die Auswirkungen, die sie kurz oder lang auf Unternehmen haben könnte, vorangetrieben wurde. Im Jahr 2024 werden sich immer mehr Unternehmen auf schnelle Experimente und die Einführung neuer GenAI-Initiativen (zusammen mit den damit einhergehenden Risiken) einlassen, sie werden diese Innovationsgeschwindigkeit jedoch mit Governance und höherer Verantwortlichkeit in Einklang bringen müssen.
Mit diesem Umfeld als Hintergrund prognostiziert Forrester für 2024 Folgendes:
- Die Verantwortung für mindestens drei Sicherheitsverletzungen wird öffentlich KI-generiertem Code zugeschoben werden. Während Entwickler zur Codegenerierung und Produktivitätssteigerung gerne Assistenten für die KI-Entwicklung einsetzen, sogenannte TuringBots, werden gewissenhafte Unternehmen diesen Code auf Sicherheitsmängel prüfen. Leider werden einige allzu selbstsichere Entwicklungsteams darauf vertrauen, dass KI-generierter Code sicher ist. Gleichzeitig werden sich viele Technologie-Führungskräfte Gedanken über die Sicherheit des generierten Codes machen – was angesichts erheblicher API-Missbrauchsraten bei den Antworten großer Sprachmodelle auf Fragen zum Stapelüberlauf verständlich ist. Forrester prognostiziert, dass ohne angemessene Schutzmechanismen für den von TuringBots generierten Code 2024 die Verantwortung für mindestens drei Sicherheitsverletzungen öffentlich auf unsicheren KI-generierten Code geschoben wird. Diese basieren entweder auf Sicherheitsmängeln im Code selbst oder auf Schwachstellen in den von der KI vorgeschlagenen Abhängigkeiten
- Eine App, die ChatGPT verwendet, wird eine Geldbuße für ihren Umgang mit PII erhalten. Die Aufsichtsbehörden waren fast das gesamte Jahr 2023 mit GenAI beschäftigt und OpenAI steht weiterhin im Fokus der Regulatoren in verschiedenen Regionen der Welt. Beispielsweise hat der europäische Datenschutzausschuss eine Task Force zur Koordinierung der Durchsetzungsmaßnahmen gegen ChatGPT von OpenAI gegründet. In den USA hat die FTC ebenfalls eine Untersuchung von OpenAI eingeleitet. Während OpenAI über die technischen und finanziellen Ressourcen verfügt, um sich selbst gegen Regulierungsbehörden zu verteidigen, gilt dies nicht unbedingt für andere Apps von Drittanbietern, die ChatGPT nutzen. Tatsächlich bringen einige Apps aufgrund der Nutzung externer Tech-Anbieter Risiken mit sich, es mangelt ihnen jedoch an Ressourcen und Expertise, um diese angemessen zu mindern.
- Bei 90 Prozent der Sicherheitsverletzungen wird der Faktor Mensch beteiligt sein. Veröffentlichungen zu Datenschutzverletzungen und Branchenkenner schätzen, dass bei bis zu 74 % der Datenschutzverletzungen der Faktor Mensch eine Rolle spielt, d. h. dass Personen an dem für die Sicherheitsverletzung verwendeten Fehler, Missbrauch, Diebstahl von Zugangsdaten oder Social Engineering beteiligt waren. Selbst Branchengruppen, die den Fokus auf Technologien legen, räumen mittlerweile die Rolle ein, die Menschen bei der Nutzung von Technologie zukommt. Der Prozentsatz an Sicherheitsverletzungen, die eine menschliche Komponente enthalten, wird 2024 aufgrund der Auswirkungen von GenAI und der Verbreitung von Kommunikationskanälen, die Social Engineering-Angriffe einfacher und schneller machen, noch weiter steigen. Diese Steigerung wird eines der vielgepriesenen Wundermittel für die Minderung von Sicherheitsverletzungen durch Menschen in den Mittelpunkt rücken: Sicherheitsbewusstsein und Schulung. Entsprechend werden 2024 mehr CISOs ihren Schwerpunkt auf ein Konzept zum adaptiven Schutz durch Menschenverlagern, da das NIST seine Richtlinien zur Sensibilisierung und Schulung aktualisiert und mehr Anbieter von Human Quantification auf den Markt kommen.
Lesen Sie unseren vollständigen Report Prognosen 2024:Cybersicherheit, Risiko und Datenschutz, um mehr über die einzelnen Prognosen zu erfahren sowie zwei weitere Prognosen als Extra zu erhalten. Vereinbaren Sie ein Beratungsgespräch mit Forrester, um über diese Prognosen zu sprechen oder Ihre Strategie für Sicherheit, Risiko und Datenschutz für 2024 zu planen.
Wenn Sie noch kein Kunde von Forrester sind, können Sie unseren kostenlosen Guide zu den Prognosen herunterladen, der unsere wichtigsten Prognosen für 2024 enthält. Holen Sie sich weitere kostenlose Ressourcen, einschließlich Webinars, im Hub für Prognosen 2024.
