C'est une faille de sécurité qui montre les nouveaux dangers des navigateurs dopés à l'IA. Des chercheurs de Brave (un navigateur concurrent) ont découvert la semaine dernière une vulnérabilité critique dans Comet, le nouveau navigateur de Perplexity. Elle permet à un site web malveillant de prendre le contrôle de l'assistant IA pour espionner le contenu de vos autres onglets.
Une page web peut "pirater" votre assistant IA
L'attaque, baptisée "injection de prompt indirecte", est aussi simple qu'efficace. Un pirate peut cacher des instructions dans le texte d'une page web, par exemple sous une balise "spoiler" sur Reddit ou dans du texte invisible.
Si un utilisateur du navigateur Comet visite cette page et demande à l'assistant IA "résume cette page", le robot va lire l'intégralité du contenu, y compris les instructions malveillantes cachées. Comme l'IA est incapable de faire la différence entre le contenu de la page et une commande de l'utilisateur, elle va obéir aux ordres du pirate.
Voler des e-mails ou vider un compte en banque
Les conséquences peuvent être catastrophiques. Pour leur démonstration, les chercheurs de Brave ont créé une page Reddit qui contenait une instruction cachée ordonnant à l'IA de Comet d'aller sur l'onglet Gmail de l'utilisateur, de copier le contenu de ses e-mails et de l'envoyer à un serveur externe.
Les chercheurs avertissent que cette technique pourrait être utilisée pour accéder à un compte en banque, à un réseau d'entreprise ou à n'importe quel service web ouvert dans les autres onglets du navigateur.
Perplexity a-t-il vraiment corrigé la faille ?
Prévenu par Brave, Perplexity a affirmé avoir corrigé la vulnérabilité. Sauf que voilà, plusieurs chercheurs, dont ceux de Brave, ont indiqué que le correctif initial était incomplet et que la faille restait exploitable. L'affaire est donc toujours en cours.
On en dit quoi ?
Cette vulnérabilité est importante et touche au cœur même du concept de "navigateur IA". La fonction qui fait sa force (sa capacité à lire le contenu des pages et à agir en conséquence) est aussi sa plus grande faiblesse. Cela montre que ces nouvelles entreprises ont lancé des IA "agentes", capables d'agir à notre place, sans avoir pleinement mesuré les risques de sécurité.
L’intelligence artificielle n'a pas de "bon sens". Elle ne fait qu'obéir à des instructions. Si on lui donne le pouvoir d'agir sur nos données, il est crucial qu'elle puisse faire la différence entre un ordre de l'utilisateur et une commande malveillante. Pour l'instant, ce n'est clairement pas le cas. Et vous, un navigateur avec une IA qui peut naviguer à votre place, ça vous tente ou ça vous fait trop peur ?
