Développer une nouvelle arme chimique avec une intelligence artificielle, créer de nouvelles menaces, c'est possible ? Fort heureusement, non, mais avec de nouveaux modèles de plus en plus puissants, le risque pourrait arriver, et Anthropic veut lutter contre cela.
Développer une nouvelle arme chimique avec une intelligence artificielle, créer de nouvelles menaces, c'est possible ? Fort heureusement, non, mais avec de nouveaux modèles de plus en plus puissants, le risque pourrait arriver, et Anthropic veut lutter contre cela.
Anthropic a rendu publics deux documents de politique générale dans lesquels elle appelle les gouvernements à se doter d'une autorité légale pour bloquer le déploiement de systèmes d'intelligence artificielle jugés dangereux, et à mettre en place des protections économiques pour les travailleurs exposés aux effets de la transformation du marché du travail par l'IA. C'est le volet sécurité qui est le plus contraignant des deux.
Anthropic y propose que les gouvernements puissent bloquer ou décourager le déploiement de modèles présentant un. Ce, assorti de sanctions civiles indexées sur le chiffre d'affaires mondial annuel des entreprises concernées, des pénalités qui s'alourdiraient en cas de récidive.
Ce cadre ne s'appliquerait qu'aux modèles entraînés à partir de plus de 10²⁵ opérations en virgule flottante, développés par des entreprises réalisant plus de 500 millions de dollars de revenus liés à l'IA ou dépensant plus d'un milliard de dollars en recherche et développement dans ce secteur. Claude Mythos n'est pas ouvert à tout le monde, pour éviter d'exploiter des failles à mauvais escient.
©Shutterstock Un seuil qui ne concerne qu'une poignée d'acteurs, Anthropic elle-même, OpenAI, Google DeepMind, xAI, et potentiellement Meta. En plaidant pour une régulation qui s'appliquerait directement à ses propres activités, Anthropic adopte une posture qu'elle a déjà utilisée par le passé pour se distinguer des concurrents qui font pression contre toute forme de supervision réglementaire, au lieu deLe document identifie quatre types de risques catastrophiques.
Lesquelles sont le développement d'armes biologiques, la découverte à grande échelle de vulnérabilités dans des systèmes informatiques critiques, la perte de contrôle sur des systèmes autonomes, et l'automatisation par l'IA de sa propre recherche et développement. , un modèle qui aurait découvert des milliers de vulnérabilités graves dans l'ensemble des principaux systèmes d'exploitation et navigateurs web.
Les développeurs de modèles dits "frontier", c'est-à-dire à la limite des capacités actuelles, seraient tenus de tester leurs modèles, de publier des résumés de ces évaluations, de se soumettre à des audits indépendants, de maintenir des programmes de sécurité et de publier des rapports réguliers sur les risques identifiés. Pour Anthropic, la transparence seule ne suffit plus. Anthropic dévoile un second document sur le cadre économique.
Il part d'un constat simple, l'IA va détruire ou transformer un grand nombre d'emplois, et la question de savoir qui va profiter de cette révolution économique, et qui va en payer le prix, est déjà source de tensions, y compris chez les jeunes diplômés américains. Pour y répondre, Anthropic avance plusieurs idées. La première, c'est la création de comptes en capital individuel. Il s'agirait de dotations financières attribuées aux travailleurs pour qu'ils puissent se former ou se reconvertir.
Une assurance-salaire ensuite, qui compenserait partiellement la perte de revenus pour quelqu'un contraint d'accepter un emploi moins bien payé. Des incitations fiscales pour les entreprises qui jouent le jeu de la transition. Et un renforcement des aides sociales existantes pour ceux qui se retrouveraient sans emploi. L'idée générale est que les gains économiques générés par l'IA ne doivent pas se concentrer uniquement entre les mains de quelques grandes entreprises de la tech.
Toutefois, Anthropic ne dit pas précisément comment tout cela serait financé ni qui serait chargé de le mettre en œuvre. Ce volet du document ressemble davantage à une liste d'intentions qu'à un plan concret facilement applicables par un gouvernement. En cliquant sur s'inscrire, j’accepte de recevoir par email des informations, actualités et offres commerciales de Clubic. Conformément au RGPD, vous pouvez retirer votre consentement à tout moment en cliquant sur le lien de désinscription présent dans chaque email.
Pour en savoir plus sur la gestion de vos données, consultez notrePlus Anthropic communique sur le bouleversement que l’IA va provoquer plus l’entreprise contribue à faire grimper sa valorisation dans les esprits, à l’approche de sa probable introduction en bourse. En cliquant sur s'inscrire, j’accepte de recevoir par email des informations, actualités et offres commerciales de Clubic.
Conformément au RGPD, vous pouvez retirer votre consentement à tout moment en cliquant sur le lien de désinscription présent dans chaque email. Pour en savoir plus sur la gestion de vos données, consultez notre
Please follow us on Google to support usFrance Dernières Nouvelles, France Actualités
Similar News: Vous pouvez également lire des articles d'actualité similaires à celui-ci que nous avons collectés auprès d'autres sources d'information.
Révélations sur les armes françaises de la répression en IndonésieDu matériel de fabrication française a servi à mater violemment les manifestations contre le régime du président Prabowo Subianto, un bon client choyé par l’Elysée… L’Observatoire des Armements alerte contre le manque de transparence récurrent des exportations hexagonales.
Lire la suite »
IA : OpenAI envisagerait de baisser « drastiquement » ses prix face à la concurrence d'AnthropicFace à l’explosion de la facture IA en entreprise et à l'approche de leurs introductions en Bourse respectives, OpenAI et Anthropic s’apprêteraient à baisser massivement le coût de leurs tokens. Une stratégie de volume risquée pour les deux start-up, confrontées à des coûts d'infrastructure colossaux.
Lire la suite »
Pour reprendre des parts de marché à Anthropic, OpenAI pourrait faire chuter les tarifs de ChatGPTLa guerre des prix dans l'intelligence artificielle pourrait profiter aux utilisateurs, alors qu'OpenAI cherche à regagner du terrain face à son rival.
Lire la suite »
Le jour où les GAFAM sont devenus les MANGOSUn post sur X a popularisé MANGOS, nouvel acronyme pour désigner les géants mondiaux de la tech. Meta, Anthropic, NVIDIA, Google, OpenAI et SpaceX remplacent les GAFAM, pour Google, Apple, Meta, Amazon, Microsoft, qui dominaient le secteur depuis le milieu des années 2010. Apple, Amazon et Microsoft sortent. Anthropic, Nvidia et SpaceX entrent.
Lire la suite »