Une étude d’Amazon Web Services révèle des failles majeures dans les modèles de langage capables de comprendre et de répondre à la parole. Ces systèmes IA peuvent être manipulés pour produire des réponses nuisibles, à l'aide d'attaques audio sophistiquées.
Les interfaces vocales — Siri, Alexa, Google Assistant… — sont de plus en plus présentes, des enceintes intelligentes aux assistants IA. Mais gare : une étude des chercheurs d’Amazon Web Services a mis en lumière des failles de sécurité significatives dans ces modèles de langage .
Les chercheurs ont réussi à créer des exemples contradictoires qui incitaient systématiquement les SLMs à produire des sorties toxiques dans 12 catégories différentes, allant de la violence explicite aux discours de haine. Avec un accès complet au modèle, ils ont atteint un taux de succès de 90 % dans la compromission des barrières de sécurité.
L’étude révèle également que les attaques audio conçues pour un SLM peuvent souvent être transférées à d’autres modèles, même sans accès direct. Ce scénario réaliste est particulièrement préoccupant, étant donné que la plupart des fournisseurs de ces assistants ne proposent qu’un accès limité via une API.
Les chercheurs proposent heureusement plusieurs contre-mesures, comme l’ajout de bruit aléatoire à l’entrée audio, une technique connue sous le nom de lissage aléatoire. Dans leurs expériences, cette technique a considérablement réduit le taux de succès des attaques. Les auteurs avertissent toutefois que ce n’est pas une solution complète.
France Dernières Nouvelles, France Actualités
Similar News:Vous pouvez également lire des articles d'actualité similaires à celui-ci que nous avons collectés auprès d'autres sources d'information.
Délinquance des mineurs : des travaux d’intérêt éducatif efficaces seulement 'pour des ados avec des repères' ?Après les dernières annonces d'Éric Dupond-Moretti, ministre de la Justice, sur le travail d'intérêt éducatif et le placement en internat pour les mineurs délinquants, deux professionnels de l'éducation répondent.
Lire la suite »
Google Keep devrait bientôt rejoindre le cimetière des applications de GoogleSpécialiste en la matière pour ce qui est de tuer ses propres applications, la firme de Mountain View pourrait bientôt agrandir son cimetière. En effet, Google Keep devrait, selon toute vraisemblable, rejoindre les innombrables services abandonnés par la firme.
Lire la suite »
Google surprend avec des lunettes connectées mystères lors de la Google I/OLors de la conférence I/O 2024, Google a montré ce qui semble être des lunettes connectées. Et si les Google Glass avaient enfin un successeur ?
Lire la suite »
Très utilisé, ce service Google pourrait rapidement disparaitre !Google prépare le déplacement des rappels de Google Keep vers Google Tasks. Ce changement intervient après des migrations similaires depuis Google Assistant et Google Calendar, confirmant la volonté du moteur de recherche de centraliser les fonctionnalités de rappel. Quitte à abandonner Google Keep à son triste sort.
Lire la suite »
Google Keep : encore un service Google qui pourrait disparaitre !Google prépare le déplacement des rappels de Google Keep vers Google Tasks. Ce changement intervient après des migrations similaires depuis Google Assistant et Google Calendar, confirmant la volonté du moteur de recherche de centraliser les fonctionnalités de rappel. Quitte à abandonner Google Keep à son triste sort.
Lire la suite »
Sponsoring des Jeux olympiques: déferlante en vue des produits des entreprises partenaires78 partenaires assurent le sponsoring des JO. En contrepartie, ils bénéficient de retombées inégalées, dont la distribution de produits et de services sur les différents lieux de l'évènement.
Lire la suite »