Navigateurs IA : une innovation trop risquée pour une adoption généralisée selon Gartner
Lysandre Beauchêne
Selon une récente analyse du cabinet Gartner, malgré leur aspect innovant, les navigateurs présentent des risques de sécurité trop importants pour une adoption généralisée par la plupart des organisations. Dans son rapport de 13 pages, le cabinet de conseil met en lumière les vulnérabilités critiques de ces technologies émergentes qui pourraient compromettre la sécurité des données sensibles des entreprises.
Dans un paysage technologique où l’intelligence artificielle transforme radicalement notre façon d’interagir avec le web, les navigateurs IA représentent à la fois une opportunité et une menace potentielle pour la cybersécurne des organisations. Ces navigateurs, dotés de capacités autonomes de navigation et de transaction, soulèvent des questions fondamentales sur la protection des données et le contrôle des accès aux systèmes d’information.
Les risques majeurs identifiés par Gartner
Les analystes de Gartner, Dennis Xu, Evgeny Mirolyubov et John Watts, ont identifié plusieurs risques critiques associés à l’utilisation des navigateurs IA au sein des organisations. Leurs analyses révèlent que ces technologies peuvent contourner les contrôles traditionnels et créer de nouvelles failles de sécurité.
Fuites de données sensibles vers le cloud
Les paramètres par défaut des navigateurs IA, conçus pour optimiser l’expérience utilisateur, présentent des risques significatifs pour la sécurité. Selon les experts de Gartner, “des données utilisateur sensibles — telles que le contenu web actif, l’historique de navigation et les onglets ouverts — sont souvent envoyées vers le backend cloud de l’IA, augmentant le risque d’exposition des données à moins que les paramètres de sécurité et de confidentialité ne soient renforcés de manière délibérée et gérés de manière centralisée.”
“Dans la pratique, nous observons que les utilisateurs ont tendance à visualiser davantage de données sensibles dans un navigateur qu’ils ne le feraient typiquement dans une invite de GenAI. Ce comportement augmente considérablement l’exposition aux fuites de données.” - Gartner
Cette transmission de données vers le cloud sans un cadre de protection approprié crée une surface d’attaque étendue pour les menaces internes et externes. Les organisations doivent être particulièrement vigilantes concernant le type de données traitées par ces navigateurs.
Transactions erronées et abus d’identifiants
Une autre préoccupation majeure identifiée par les analystes concerne la capacité des navigateurs IA à effectuer des transactions de manière autonome. Cette fonctionnalité peut entraîner des “transactions erronées d’agents” et des “abus d’identifiants” si le navigateur est trompé pour naviguer automatiquement vers un site de phishing.
Les employés pourraient être tentés d’utiliser ces navigateurs pour automatiser des tâches, ce qui pourrait résulter en “transactions erronées d’agents contre les ressources internes suite au raisonnement inexact ou au contenu de sortie du LLM”. Ces erreurs automatisées peuvent avoir des conséquences financières et opérationnelles graves pour les organisations.
Les capacités agentic : une source de vulnérabilités majeure
Parmi les fonctionnalités les plus préoccupantes des navigateurs IA, les analystes de Gartner se concentrent particulièrement sur les capacités “agentic” qui différencient ces navigateurs des simples barres latérales de conversation IA et de l’automatisation de base basée sur des scripts.
L’exemple de Perplexity Comet et ChatGPT Atlas
Bien que tous les navigateurs IA ne supportent pas les transactions agentic, deux exemples notables sont Perplexity Comet et ChatGPT Atlas d’OpenAI. Gartner a effectué “un nombre limité de tests utilisant Perplexity Comet”, faisant de ce navigateur le principal focus de leur analyse, bien qu’ils notent que “ChatGPT Atlas et autres navigateurs IA fonctionnent de manière similaire, et les considérations en matière de cybersécurité sont également similaires.”
La documentation de Comet indique que le navigateur “peut traiter certaines données locales à l’aide des serveurs de Perplexity pour répondre à vos requêtes. Cela signifie que Comet lit le contexte de la page demandée (tel que le texte et les e-mails) afin d’accomplir la tâche demandée.”
“Cela signifie que les données sensibles que l’utilisateur consulte sur Comet pourraient être envoyées au service cloud de l’IA de Perplexity, créant un risque de fuite de données sensibles.” - Gartner
Comment ces technologies fonctionnent-elles ?
Les navigateurs IA agentic fonctionnent en combinant plusieurs technologies :
- Traitement du langage naturel avancé pour comprendre les requêtes complexes
- Navigation web automatisée pour interagir avec différents sites et services
- Exécution de transactions en se connectant à diverses plateformes
- Prise de décision autonome basée sur des modèles d’IA sophistiqués
Cette combinaison de capacités crée un environnement où le navigateur peut agir de manière quasi-autonome, ce qui constitue à la fois sa force principale et sa plus grande faiblesse sur le plan de la sécurité.
Les chercheurs de Gartner ont largement ignoré les risques posés par les barres latérales IA intégrées aux navigateurs, notant que les fonctions de recherche et de résumé alimentées par LLM “seront toujours susceptibles aux attaques d’injection de prompt indirectes, étant donné que les LLM actuels sont intrinsèquement vulnérables à de telles attaques.” Cependant, ils notent que l’utilisation de ces barres latérales pourrait également entraîner des fuites de données sensibles.
Leur focus principal s’est plutôt porté sur les risques posés par les capacités de transaction autonomes des navigateurs IA, qui pourraient introduire de nouvelles menaces de sécurité.
Recommandations stratégiques pour les organisations
Face à ces risques identifiés, Gartner formule des recommandations claires pour les organisations souhaitant protéger leurs systèmes et données sensibles.
Bloquer ou contrôler l’accès aux navigateurs IA
La recommandation la plus tranchée du cabinet de conseil est de bloquer purement et simplement l’accès à ces navigateurs : “Gartner recommande fortement que les organisations bloquent tous les navigateurs IA pour avenir prévisible en raison des risques de cybersécurité identifiés dans cette recherche, et d’autres risques potentiels qui restent à découvrir, étant donné qu’il s’agit d’une technologie très naissante.”
Les analystes précisent que : “Les employés devraient être empêchés d’accéder, de télécharger et d’installer des navigateurs IA via les contrôles de sécurité réseau et de point de terminaison.”
Selon le niveau de tolérance au risque de l’organisation, différentes approches sont possibles :
| Niveau de tolérance au risque | Recommandation | Mesures complémentaires |
|---|---|---|
| Faible tolérance | Bloquer toutes les installations de navigateurs IA | Mise en place de politiques strictes de sécurité des terminaux |
| Tolérance moyenne | Autoriser uniquement pour des cas d’usage spécifiques | Formation des utilisateurs, supervision des activités |
| Tolérance élevée | Permettre l’expérimentation contrôlée | Mise en place de garde-forts robustes, minimisation de l’exposition des données sensibles |
Protéger les données sensibles en cas d’expérimentation
Pour les organisations avec une tolérance au risque plus élevée souhaitant expérimenter ces technologies, Gartner recommande des mesures de protection très précises :
- Désactiver le paramètre “rétention des données IA” dans Perplexity Comet pour empêcher l’entreprise d’utiliser les recherches des employés pour améliorer ses modèles d’IA
- Former les utilisateurs à effectuer périodiquement la fonction “supprimer tous les souvenirs” dans Comet pour minimiser le risque de fuite de données sensibles
- Éduquer les employés sur le fait que “tout ce qu’ils consultent pourrait potentiellement être envoyé au backend du service IA” pour s’assurer qu’ils n’ont pas de données hautement sensibles actives dans l’onglet du navigateur lors de l’utilisation de la barre latérale du navigateur IA pour résumer ou effectuer d’autres actions autonomes
- Surveiller et auditer toutes les activités liées aux navigateurs IA pour détecter tout comportement anormal
Conclusion : une approche prudente face à une technologie émergente
Bien que les navigateurs IA représentent une avancée technologique fascinante, les analyses de Gartner soulignent clairement que leur adoption généralisée au sein des organisations est prématurée et potentiellement dangereuse. Les risques associés à ces technologies, notamment en matière de fuites de données, de transactions erronées et d’abus d’identifiants, justifient une approche extrêmement prudente.
Les entreprises françaises, soumises au cadre strict du RGPD et aux exigences de l’ANSSI en matière de cybersécurité, doivent particulièrement veiller à ne pas compromettre la protection des données personnelles et sensibles en adoptant précipitamment ces technologies émergentes. L’approche recommandée par Gartner, consistant à bloquer l’accès à ces navigateurs dans un premier temps, permet aux organisations de se protéger tout en observant l’évolution de cette technologie.
Néanmoins, il convient de noter que l’environnement technologique évolue rapidement et que ces navigateurs pourraient devenir plus sûrs à mesure que les développeurs adresseront les vulnérabilités identifiées. Les organisations devraient donc envisager de réévaluer périodiquement leur positionnement face à ces technologies en fonction des mises à jour de sécurité et des nouvelles fonctionnalités mises à disposition.
Dans un paysage où l’innovation technologique et la sécurité doivent coexister, la prudence reste la meilleure stratégie pour les organisations souhaitant protéger leurs actifs informationnels tout en explorant les nouvelles possibilités offertes par l’intelligence artificielle.