Intelligence artificielle : un employé démissionnaire d’OpenAI dénonce une insuffisante culture du risque

Un ancien spécialiste de la sécurité chez OpenAI appelle à s’inspirer du nucléaire ou de l’aviation pour encadrer le développement des modèles d’intelligence artificielle

Intelligence artificielle : un employé démissionnaire d’OpenAI dénonce une insuffisante culture du risque Pour David Robinson, les incidents dont a fait état le groupe depuis le début de l’été témoignent d’une culture de l’approximation.

ÉcouterUn ancien spécialiste de la sécurité chez OpenAI appelle à s’inspirer du nucléaire ou de l’aviation pour encadrer le développement des modèles d’intelligence artificielle Un employé démissionnaire d’OpenAI, qui travaillait sur la sécurité de ses modèles d’intelligence artificielle , a mis en cause l’insuffisante culture du risque au sein de la start-up et la nécessité de s’inspirer du nucléaire ou de l’aviation.

L’appel, publié samedi par le site du magazine « The Atlantic »,Intelligence artificielle : le directeur du renseignement américain missionné sur les menaces mais aussi contre « la surrégulation » Le directeur du renseignement américain Jay Clayton va piloter une nouvelle unité chargée d’évaluer les menaces de l’IA tout en évitant de freiner l’innovation par des normes excessives Pour David Robinson, qui dit avoir rédigé le rapport de sécurité d’OpenAI lors de douze lancements de modèles différents, les incidents dont a fait état le groupe depuis le début de l’été témoignent d’une culture de l’approximation.

Les erreurs et les insuffisances qui ont permis à plusieurs IA de rejoindre spontanément internet pour faire intrusion sur des dizaines de sites et plateformes sont liées, selon lui, « à la vitesse et à la flexibilité avec laquelle opèrent » les opérateurs de cette technologie. Le premier roman de l’écrivain canado-haïtien Thélyson Orélien, suspecté d’avoir eu recours à l’intelligence artificielle, s’installe en tête des ventes de fiction en France« Un environnement dans lequel des choses comme ça peuvent se produire n’est pas un endroit où développer des intelligences artificielles susceptibles de devenir plus intelligentes que nous et qui pourraient ne pas faire ce que nous attendons d’elles », estime David Robinson.

Celui qui a passé trois ans et demi chez OpenAI propose d’adopter la même culture du risque que dans le nucléaire civil ou l’aviation, avec plusieurs niveaux de contrôle et une planification rigoureuse. De cette manière, « une erreur humaine occasionnelle et inévitable n’ouvre pas la porte à un désastre », écrit-il. David Robinson insiste aussi sur la notion d’alignement, c’est-à-dire l’adhésion des modèles aux valeurs humaines et aux instructions de leurs concepteurs.

Les géants de l’intelligence artificielle manquent de certitudes sur la fiabilité de l’encadrement des modèles, souligne-t-il. En outre, les dernières IA détectent de mieux en mieux les phases de tests et plusieurs intervenants ont fait état de la possibilité que les modèles cherchent à tromper leurs évaluateurs. Mardi, à l’issue d’une réunion à la Maison Blanche, les grands patrons de l’IA ont pris une série d’engagements qui relèvent tous de l’auto-régulation.

Ils portent notamment sur les contrôles internes, et l’intégration d’observateurs extérieurs. Donald Trump a jusqu’ici diabolisé publiquement les employés des entreprises de l’IA de pointe, voire certains patrons, qui alertaient sur les dangers de cette technologie. Pourtant, comme les abonnements, ils permettent de soutenir le travail des 250 journalistes de notre rédaction qui s'engagent à vous proposer chaque jour une information de qualité, fiable et complète.

Nous avons résumé cette actualité afin que vous puissiez la lire rapidement. Si l'actualité vous intéresse, vous pouvez lire le texte intégral ici. Lire la suite:

sudouest /  🏆 67. in FR

AFP Général AFP Priorité 4-BASSE Modifié Par IA Intelligence Artificielle Sciences Et Technologie Economie Etats-Unis Donald Trump International

France Dernières Nouvelles, France Actualités

Similar News: Vous pouvez également lire des articles d'actualité similaires à celui-ci que nous avons collectés auprès d'autres sources d'information.

L'intelligence artificielle provoke des réactions contrastées chez les étudiants et leurs enseignantsL'usage croissant de l'IA par les étudiants et les существа stunned? leads educators to adapt training. Responses vary by program: enthusiasm or rejection depending on whether students perceive AI as a threat to their future profession. Teachers are seeking a balance to equip students for tomorrow's labor market without losing critical thinking and rigor.
Lire la suite »

Nvidia et SoftBank finalisent leurs investissements de 10 milliards de dollars dans OpenAINvidia et SoftBank ont versé chacun une dernière tranche de 10 milliards de dollars à OpenAI le 1er octobre 2026. Ces paiements clôturent une levée de fonds de 122 milliards de dollars, dont environ 90 % a été apporté par ces deux groupes et Amazon. OpenAI atteint ainsi une valorisation de 852 milliards de dollars, alimentée notamment par ses partenariats stratégiques avec les fournisseurs de puces et de serveurs.
Lire la suite »

Intelligence artificielle et nouveau fascisme : quand l’IA devient un enjeu de pouvoirDans son essai publié chez Agone, le philosophe et mathématicien Rainer Mühlhoff analyse l’intelligence artificielle non pas seulement comme une prouesse technique, mais comme un instrument de pouvoir. Son enquête se...
Lire la suite »

Intelligence artificielle : le directeur du renseignement américain missionné sur les menaces mais aussi contre « la surrégulation »Le directeur du renseignement américain Jay Clayton va piloter une nouvelle unité chargée d’évaluer les menaces de l’IA tout en évitant de freiner l’innovation par des normes excessives
Lire la suite »