OpenAI vient d’annoncer le déploiement d’une nouvelle fonctionnalité de sécurité sur ChatGPT. Destinée à l’ensemble des utilisateurs du chatbot, des comptes gratuits jusqu’aux abonnements Pro et Business, la fonction est accessible depuis les paramètres de sécurité de l’application ChatGPT.
À lire aussi : OpenAI dévoile un nouveau ChatGPT qui augure l’arrivée d’une « super app »
Un mode qui désactive plusieurs fonctions de ChatGPT
Baptisé « Lockdown Mode », soit « Mode Verrouillage » en français, le mode revient à couper plusieurs fonctionnalités phares de ChatGPT pour des raisons de sécurité. C’est le cas de la navigation web en temps réel. Le chatbot ne peut plus consulter des contenus sur Internet pour répondre à vos demandes. De facto, certains résultats peuvent être obsolètes.
De plus, la récupération et l’affichage d’images issues du web sont également bloqués, même si l’utilisateur peut toujours envoyer vos propres images ou générer des illustrations avec l’IA. Enfin, c’est aussi le cas de « Deep Research », la fonction permettant à ChatGPT d’analyser en profondeur des données issues de sources en ligne, du mode Agent, qui laisse le contrôle de la navigation à l’IA, et du mode téléchargement de fichiers.
« Le mode de verrouillage ne modifie ni la mémoire, ni le chargement de fichiers, ni la possibilité de partager une conversation, ni l’utilisation de vos conversations pour améliorer les modèles. La plupart de ces paramètres sont configurables séparément », explique OpenAI.
À lire aussi : ChatGPT continue de perdre des utilisateurs, et ça tombe vraiment mal pour OpenAI
Les attaques par injection de requêtes
Le blocage de toutes ces fonctions permet de contrer les attaques par injection de requêtes. Ce type d’offensive consiste à incorporer des consignes malveillantes dans une requête envoyée à l’IA. Celle-ci traite alors les instructions, et, si les demandes des attaquants sont correctement formulées, elle y obéit. Le défi général des attaquants est de contraindre l’IA à passer outre sa programmation pour réaliser des opérations malveillantes. Malheureusement, les grands modèles de langage ne peuvent pas distinguer de manière fiable les données des instructions de leurs interlocuteurs.
Dans les scénarios les plus dangereux, l’IA piégée peut être amenée à exfiltrer des données sur l’utilisateur. L’IA manipulée transmet alors des informations sensibles de la conversation vers un serveur contrôlé par l’attaquant. C’est l’un des principaux dangers qui planent sur l’intelligence artificielle générative. OpenAI qualifie d’ailleurs l’injection de requêtes de problème de « frontière », autrement dit un défi que la recherche en sécurité n’a pas encore résolu de façon définitive. C’est pourquoi la start-up a jugé bon de lancer un mode verrouillage.
Un mode réservé à certains profils
OpenAI précise bien que le Lockdown Mode n’est pas destiné au grand public. Il s’adresse en priorité aux personnes qui manipulent régulièrement des données sensibles dans ChatGPT, comme des dirigeants d’entreprises, des équipes de sécurité informatique, des professionnels de la santé ou du juridique. Pour ces profils, il vaut mieux se passer de certaines fonctionnalités phares de l’IA pour des raisons de sécurité.
La start-up de Sam Altman reconnaît que ce nouveau mode a des limites. Il ne bloque pas les injections à la source. Une instruction malveillante peut toujours se trouver dans un fichier téléchargé ou dans du contenu en cache, et influencer le comportement de ChatGPT. Ce que le mode vise à bloquer, ce sont les voies de sortie, à savoir les canaux réseau sortants qu’un attaquant exploiterait pour recevoir les données volées et transmises par une IA qui a été bernée.
« Le Lockdown Mode est conçu pour réduire substantiellement le risque d’exfiltration de données liée aux injections de prompt, mais il ne garantit pas que l’exfiltration ne peut pas se produire. Un risque peut subsister via des applications activées, des combinaisons de capacités imprévues ou des techniques nouvellement découvertes », nuance OpenAI dans son communiqué.
Comment activer le mode verrouillage de ChatGPT ?
Si vous souhaitez activer le mode, rendez-vous dans les paramètres de ChatGPT, puis dans Protection et Sécurité. Vous apercevrez alors une section intitulée Sécurité Avancée, qui comprend la fonction Mode Verrouillage. Pour activer ce mode, cliquez simplement dessus, et ensuite cochez la bulle à droite de l’écran. Vous pouvez activer et désactiver ce mode quand vous voulez, en fonction de vos besoins.
Ce n’est pas la seule amélioration de sécurité annoncée récemment par OpenAI. Il y a quelques semaines, OpenAI a lancé Advanced Account Security, un mode de protection optionnel pour les comptes ChatGPT. En partenariat avec Yubico, l’entreprise propose d’utiliser des clés de sécurité physiques YubiKey pour remplacer totalement les mots de passe et les codes SMS. Une fois activé, seules les passkeys ou ces clés permettent de se connecter. Les sessions sont également raccourcies pour limiter les vols de session, et les conversations ne servent plus à entraîner les modèles IA. Ce mode vise également les profils à risque.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
