Google DeepMind sort l’artillerie lourde pour identifier les contenus générés par l’IA, avec SynthID, un outil open source destiné à marquer les textes de manière invisible. La promesse ? Une transparence totale, ou presque, dans un monde où l’IA génère toujours plus de contenu.
, DeepMind propose un nouveau filtre pour repérer les créations de ses propres modèles d’IA. Le principe est simple : insérer un filigrane invisible dans le texte généré, une sorte de signature discrète qui indiquerait aux utilisateurs si une phrase est le fruit d’une machine. Pour les sceptiques, ce filigrane serait totalement imperceptible et n’aurait aucun impact sur la qualité des réponses, en tout cas selon Google.
Et si vous craignez que l’outil soit invasif ou altère la créativité de vos textes ? Rassurez-vous, après quelques millions de tests, les utilisateurs ne voient aucune différence entre les réponses marquées et non marquées. Tout cela, bien sûr, dans un monde idéal où les phrases marquées ne subissent aucun remaniement. Parce que, évidemment : une simple traduction ou réécriture rend SynthID complètement aveugle.
L’expérience de SynthID montre que ce filigrane peut survivre à quelques modifications légères, mais commence à s’estomper face aux relectures rigoureuses, à la traduction, ou aux faits un peu trop précis. Dans ce contexte, Soheil Feizi, spécialiste de l’IA, salue l’initiative mais pointe que le filigrane reste fragile et dépendant de nombreux facteurs.
Malgré ses limites, Google DeepMind reste optimiste et propose SynthID à toute la communauté open source pour tester et pousser ses limites. Alors, est-ce que le filigrane va devenir un standard ou un simple gadget parmi d’autres pour traquer le contenu IA ? Pour l’instant, disons que c’est un premier pas vers une transparence qu’on pourra peut-être un jour voir de nos propres yeux… ou pas.
Ce filigrane numérique, bien qu’utile, soulève une question plus large : suffit-il de marquer les contenus IA pour éviter tous les abus ? Irene Solaiman, de chez Hugging Face, met en garde contre l’illusion que l’IA puisse se réguler toute seule. Elle rappelle qu’un filigrane est seulement un des nombreux outils nécessaires dans un arsenal qui reste encore bien léger face aux enjeux de l’IA.
France Dernières Nouvelles, France Actualités
Similar News:Vous pouvez également lire des articles d'actualité similaires à celui-ci que nous avons collectés auprès d'autres sources d'information.
Google Agenda : une nouvelle fonctionnalité rendrait cette autre application Google inutileGoogle semble encore une fois prêt à rationaliser son écosystème d'applications. Cette fois-ci, c'est l'application Agenda qui pourrait engloutir les fonctionnalités d’une autre application de la société, d'après des indices découverts dans la dernière version bêta.
Lire la suite »
Google Agenda se refait une beauté avec une option très demandéeGoogle est en train d'améliorer l'interface de Google Agenda. Bonne nouvelle : la mise à jour inclut notamment un tout nouveau mode sombre !
Lire la suite »
Disparue depuis des siècles, une immense cité maya découverte au Mexique grâce à une recherche GoogleUn doctorant américain a découvert, par hasard, trois sites mayas de la taille de la capitale écossaise Édimbourg au milieu de la jungle mexicaine, révèle ce mardi 29 octobre une étude publiée par la revue Antiquity.
Lire la suite »
Archéologie : Comment une immense cité maya a été découverte après une simple recherche sur GoogleCette révélation confirme que le réchauffement climatique faisait déjà des dégâts en l’an 800
Lire la suite »
Une banale recherche Google permet la découverte d'une cité maya cachée depuis 12 siècles !Un doctorant a fait une découverte archéologique majeure, lors d'une recherche Google tout à fait commune. Il est parvenu à retrouver une vaste cité maya enfouie depuis des siècles, sous la végétation dense de la jungle mexicaine.
Lire la suite »
Pays Basque : Terrible accident entre une moto et une voiture, une jeune victime en urgence absolueUn choc frontal entre une moto et une voiture a eu lieu ce samedi 12 octobre 2024 sur la commune de Gabat. Le conducteur de la moto, un jeune garcon a été héliporté.
Lire la suite »