IA/IAG : un outil de cyber-attaques comme de cybersécurité

Il est désormais bien connu que les cybercriminels utilisent l’IA et même l’IAG pour créer des cyber-attaques. De la même façon, l’IA est utilisée depuis longtemps déjà pour aider la cybersécurité. Une étude du Capgemini Research Institute vient pointer la prise de conscience par les entreprises de ces faits et les conséquences induites.

Les auteurs rappellent ainsi que « l’IA générative présente trois risques majeurs pour les organisations : des attaques plus sophistiquées impliquant davantage de protagonistes, une extension de la surface de cyber-attaque, et une augmentation des vulnérabilités dans l’ensemble du cycle de vie des solutions d’IA générative. » De la même façon, « l’utilisation inappropriée de l’IA et de l’IA générative par les employés peut également accroître considérablement le risque de fuite de données. » C’est notamment le cas lorsque des collaborateurs soumettent des données sensibles à des outils publics tels que ChatGPT.

IA : de l’attaque à la défense

97 % des entreprises ont été confrontées à de telles fuites de données sensibles depuis un an selon l’étude. Et 67 % s’inquiètent au sujet des données d’entraînement, qu’elles intègrent des éléments confidentiels ou soient « empoisonnées » afin de délivrer des hallucinations. 43 % estiment avoir subi des pertes suite à une attaque par deepfake, même si le niveau de sophistication est en général inférieur au cas de Hong-Kong.

60 % des entreprises utilisant l’IA pour leur cybersécurité affirment avoir un délai de détection réduit d’au moins 5 % et 40 % ont un délai de remédiation réduit également d’au moins 5 %. De ce fait, 61 % considèrent l’IA comme critique pour répondre efficacement aux menaces.