En 2023, l’accent a été mis sur l’innovation, stimulée en grande partie par l’attention portée à l’IA générative (genAI) et l’impact qu’elle peut avoir sur les entreprises à court et à long terme. En 2024, alors que de plus en plus d’organisations adoptent l’expérimentation rapide et lancent de nouvelles initiatives genAI (ainsi que les risques qui les accompagnent), elles devront compenser cette vitesse d’innovation avec plus de gouvernance et une plus grande responsabilité.
Dans ce contexte, Forrester prévoit qu’en 2024 :
- Au moins trois violations de données seront publiquement imputées à des codes générés par l’IA. Alors que les développeurs adoptent des assistants de développement IA appelés TuringBots pour générer du code et stimuler la productivité, les organisations les plus consciencieuses analyseront ce code pour y détecter des failles de sécurité. Malheureusement, certaines équipes de développement trop confiantes considéreront que le code généré par l’IA est sécurisé. En même temps, de nombreux leaders technologiques s’interrogent sur la sécurité du code généré, ce qui est compréhensible étant donné les taux importants d’utilisation erronée des API dans les réponses des grands modèles de langue pour les questions de Stack Overflow. Si des garde-fous appropriés ne sont pas appliqués au code généré par les TuringBots, Forrester prévoit qu’en 2024, au moins trois violations de données seront publiquement imputées à un code généré par l’IA non sécurisé, soit en raison de failles de sécurité dans le code généré lui-même, soit de vulnérabilités dans les dépendances suggérées par l’IA.
- Une application utilisant ChatGPT se verra infliger une amende pour sa gestion des IPI. Les régulateurs ont été occupés par la genAI pendant la majeure partie de l’année 2023, et OpenAI continue de faire l’objet d’un contrôle réglementaire important dans plusieurs régions du monde. Par exemple, en Europe, le Comité européen de protection des données a créé un groupe de travail pour coordonner les mesures d’application contre ChatGPT d’OpenAI. Et aux États-Unis, la FTC enquête également sur OpenAI. Bien qu’OpenAI dispose des ressources techniques et financières nécessaires pour se défendre contre ces régulateurs, ce ne sera probablement pas le cas d’autres applications tierces exécutées sur ChatGPT. En effet, certaines applications présentent des risques provenant de leur fournisseur de technologie tiers, mais manquent de ressources et d’expertise pour les atténuer de manière appropriée. En 2023, les entreprises doivent identifier les applications qui pourraient potentiellement augmenter leur exposition aux risques et doubler leurs efforts de gestion du risque tiers.
- Quatre-vingt-dix pour cent des violations de données incluront un élément humain. Les publications sur les violations et les sources du secteur estiment que jusqu’à 74 % des violations comprennent un élément humain, avec des personnes impliquées dans l’erreur, l’utilisation abusive, le vol d’identifiants ou l’ingénierie sociale utilisée dans la violation. Même les groupes industriels axés sur la technique reconnaissent désormais le rôle des humains dans l’exploitation de la technologie. Le pourcentage de violations qui incluent un élément humain augmentera encore davantage en 2024 en raison de l’impact de la genAI et de la prévalence des canaux de communication qui rendent les attaques d’ingénierie sociale plus simples et plus rapides. Cette augmentation mettra en lumière l’une des solutions les plus efficaces pour atténuer les violations humaines : la sensibilisation et la formation à la sécurité. Par conséquent, de plus en plus de RSSI se concentreront sur une approche adaptative de la protection humaine en 2024, à mesure que le NIST mettra à jour ses directives sur la sensibilisation et la formation et que de plus en plus de fournisseurs de quantification humaine émergeront.
Lisez l’intégralité de notre rapport Prévisions 2024 : cybersécurité, risque et confidentialité (en anglais), qui contient plus de détails sur chacune de ces prévisions, ainsi que deux autres prévisions bonus. Organisez une guidance session avec Forrester pour en parler avec un expert ou planifier votre stratégie pour 2024.
Si vous n’êtes pas encore client, vous pouvez télécharger notre guide des prévisions 2024 gratuitement, qui couvre nos principales prévisions pour l’année à venir. Pour finir, obtenez des ressources supplémentaires gratuites sur la plateforme Prévisions 2024.
Note: Cet article a été traduit. Langue originale : anglais.
