Un SLM modeste à seulement 3,8 milliards de paramètres, mais capable de tenir tête à des LLM plus balèzes grâce à son entraînement de haut vol.
Un SLM modeste à seulement 3,8 milliards de paramètres, mais capable de tenir tête à des LLM plus balèzes grâce à son entraînement de haut vol.. Néanmoins, ces mastodontes ont un défaut : leur gigantisme justement, avec un très grand nombre de paramètres ; une gageure pour les gérer en local. Ainsi, à l’ombre de ses géants,.
Vous vous en doutez, pour qu’un modèle SLM soit performant, il faut qu’il ait été très bien entraîné. Tandis que les LLM le sont via une quantité massive de données récoltées sur Internet, pour un SML, une telle moisson n’est pas pertinente. En conséquence, les équipes de Microsoft ont adopté une approche différente pour former Phi-3 Mini.
« distinguer les informations de haute qualité de celles de faible qualité n’est pas difficile pour un humain » « La puissance de la génération actuelle de grands modèles de langage est vraiment un outil que nous n’avions pas auparavant en termes de génération de données synthétiques »
France Dernières Nouvelles, France Actualités
Similar News:Vous pouvez également lire des articles d'actualité similaires à celui-ci que nous avons collectés auprès d'autres sources d'information.
Microsoft dévoile Phi-3, un minuscule modèle IA étonnamment puissantLes petits modèles de langage, qui misent sur la qualité des données plutôt que sur leur quantité, ont le vent en poupe en ce moment. Et Phi-3 Mini en est un bon exemple.
Lire la suite »
Le mini-PC Geekom Mini IT 11 : performances élevées et design innovantDécouvrez le mini-PC Geekom Mini IT 11, doté d'une architecture interne puissante et d'un design innovant. Avec son processeur Intel de 11ème génération et ses graphiques Intel Iris Xe, il offre des performances élevées pour une expérience de jeu immersive. Profitez également de sa mémoire DDR4, de son SSD extensible et du système d'exploitation Windows 11 Pro préinstallé.
Lire la suite »
Microsoft présente un modèle d'IA plus petit et plus économe, pour stopper la démesure : on vous présente Phi-3Le géant Microsoft a dévoilé, mardi, un modèle d'intelligence artificielle puissant mais de petite taille, conçu pour être plus économe en ressources. Ses tâches promettent d'être limitées, mais plus efficaces.
Lire la suite »
Télécharger Windows Server 2019 - Windows | La bibliothèque de logiciels à téléchargerUn système d'exploitation de Microsoft lancé en 2018.
Lire la suite »
IA: l'autorité de la concurrence britannique va enquêter sur Microsoft et AmazonLes partenariats entre Microsoft et Mistral AI, ainsi qu'entre Amazon et Anthropic, vont être passés au crible par la CMA qui lance ce mercredi un 'appel à commentaires'.
Lire la suite »
Ultra compact et discret, cet excellent mini PC est de retour à son meilleur prixSi vous l'aviez manqué la dernière fois, le mini PC NiPoGi AK1 Plus est de retour à son prix le plus bas, soit 199 € au lieu de 279 €, le top pour ce petit ordinateur de bureau compact et puissant.
Lire la suite »