Une immense faille de sécurité affecte toutes les IA génératives, de ChatGPT à Google Bard. Avec une attaque dite de prompt injection, il est en effet possible de manipuler un chatbot pour s'en servir à des fins malveillantes. On fait le point sur ce type d'attaques aux conséquences désastreuses.
Une immense faille de sécurité affecte toutes les IA génératives, de ChatGPT à Google Bard. Avec une attaque dite de prompt injection, il est en effet possible de manipuler un chatbot pour s’en servir à des fins malveillantes. On fait le point sur ce type d’attaques aux conséquences désastreuses., Google Bard, Claude d’Anthropic et toutes les IA génératives ont une faille de sécurité majeure.
Le second type d’offensive est qualifié d’indirect. Au lieu de discuter avec l’IA, les attaquants vont glisser la requête malveillantedestinés à être consultés par le robot, dont des PDF ou des images. De plus en plus de chatbots sont en effet capables de lire des documents ou d’examiner une page d’un site web. Par exemple, ChatGPT s’est enrichi d’uneDans ce cas-ci, l’attaque n’est pas menée par l’utilisateur, mais par un tiers.
France Dernières Nouvelles, France Actualités
Similar News:Vous pouvez également lire des articles d'actualité similaires à celui-ci que nous avons collectés auprès d'autres sources d'information.
Ce modèle d'IA open source vient défier ChatGPT, Google Bard et Llama 2 de MetaUn modèle d'IA surpuissant a été mis en ligne par la communauté open source. Ce modèle linguistique s'avère être aussi performant que PaLM 2, qui anime Google Bard, et plus puissant que la version standard de ChatGPT…
Lire la suite »
Google Chromecast : sa nouvelle télécommande intègrerait un bouton magiqueUne nouvelle Chromecast serait en projet chez Google avec au programme une mystérieuse nouvelle télécommande.
Lire la suite »
Dans le labo d’une école toulousaine, une explosion après une fausse manipL'incident n'a pas blessé personne mais a entraîné une fuite de produits chimiques, qui a déclenché une intervention rapide des services de secours
Lire la suite »
Google officialise déjà les Pixel 8 et Pixel 8 Pro, avec une surpriseGoogle n'attend pas le mois d'octobre pour officialiser ses nouveaux smartphones. Les Pixel 8 et Pixel 8 Pro se montrent sur le Google Store.
Lire la suite »
Google montre la Pixel Watch 2 en gros plan dans une vidéoLa Pixel Watch 2 se dévoile à nouveau dans une vidéo publiée par Google.
Lire la suite »
Morgan Stanley va lancer un « ChatGPT » pour épauler ses conseillers financiersLa banque américaine prépare le lancement officiel de son chatbot développé avec les créateurs d'OpenAI, l'entreprise à l'origine de ChatGPT. Cet assistant virtuel viendra appuyer les conseillers financiers lors des rendez-vous avec leurs clients.
Lire la suite »