IAG : l’ANSSI publie ses préconisations
Par Bertrand Lemaire | Le | Cybersécurité
L’ANSSI vient de publier un court guide avec des recommandations pour utiliser l’IAG en toute sécurité dans une entreprise ou une administration.
L’intelligence artificielle générative (IAG) peut avoir de nombreuses utilisations en entreprises ou administrations, notamment pour exploiter une base documentaire (synthèse, réponse à une question…). Or, si les données de base (la documentation utilisée par exemple) est sensible à un titre ou un autre, l’usage de l’IAG doit tenir compte de cette contrainte. En particulier, il ne faut pas télécharger de données sensibles dans un service cloud public américain. Si la DINUM (Direction Interministérielle du Numérique) a mis en place Albert pour répondre à cet enjeu, l’ANSSI (Agence Nationale pour la Sécurité des Systèmes d’Information) vient, elle, de publier un guide pour un usage sécurisé de l’IAG. Ce guide est en téléchargement libre sur le site de l’agence.
Veillant à s’adresser au plus grand nombre, l’ANSSI débute son guide par des rappels de définitions et de bases sur l’IAG ainsi que sur les principaux types d’attaques (y compris sans atteinte à la confidentialité, par exemple avec « l’empoisonnement » de l’IAG). Puis, pour chaque étape et type d’IAG, l’ANSSI détaille un certain nombre de précautions à appliquer. Il en résulte 35 recommandations, pour la plupart de bon sens et sans véritable surprise. Mais lister ainsi les précautions, même élémentaires, amène à ne pas en oublier la moitié par inadvertance.
Ce guide, comme toutes les productions de l’ANSSI, est évidemment à lire d’urgence et à appliquer.
A propos de l’ouvrage
« Recommandations de sécurité pour un système d’IA générative », ouvrage collectif de l’ANSSI (35 pages, gratuit).