ACTU
L'IA débride l'IA
par CBL,
email @CBL_Factor
Grosso modo, les calculs d'IA modernes reposent sur la multiplication de matrices codées en BF16 (nombres à virgule flottante codé sur 16 bits spécialement inventés pour l'IA) et dont le résultat est codé est FP32 (nombres à virgule flottante codé sur 32 bits). Les GPU sont particulièrement bons dans ce domaine mais des codeurs se sont aperçus car les versions professionnelles des cartes Nvidia (anciennement appelées Quadro et maintenant juste RTX) étaient bien meilleures dans ces calculs que les versions pour joueurs (les GeForce RTX).
Ca semblait étrange vu que les cartes utilisent les mêmes GPU. La différences se situent au niveau de la quantité de mémoire vidéo et des fréquences d'horloge. Les codeurs en question ont fini par comprendre que le bridage était purement artificiel ce qui n'est pas une première chez le constructeur. Du coup les codeurs en question à grand coup de Claude ont développé un patch pour déverrouiller le tout. Il prend forme d'un module noyau pour Linux et il fonctionne avec des pilotes non modifiés donc Nvidia ne peut pas le patcher.
Il permet de débloquer certaines cartes Ampère comme les GeForce RTX 3090 Ti, 3090, 3080, 3070 et 3060 12 Go et les résultats sont assez dingues : pour les fameux calculs matriciels en question, on parle de gain de performances atteignant les 60% pour la 3090 Ti sur des générateurs d'image. Il n'a pas fallu longtemps pour s'apercevoir que les cartes Turing (20xx) avaient le même bridage et sortir un patch puis ce fut au tour des cartes Ada (40xx) de tomber. Le patch pour Ada comprend même une version Windows sous forme d'une appli UEFI qui s'exécute donc sans toucher à l'OS. Apparemment les cartes Blackwell (50xx) ont le même bridage mais le débridage semble bien plus compliqué.
Le tout a été créé grâce à des techniques apprises en développant des patchs pour débloquer les limitations mises en place par Nvidia durant le minage des crypto-monnaies. Alors victoire des consommateurs ? Pas de tous. C'est vraiment juste les calculs d'IA génératrice qui bénéficient du tout. Les jeux vidéo n'utilisent pas de BF16. Même pas pour les trucs à base d'IA type DLSS... Donc il n'est pas impossible que les utilisateurs d'IA se ruent encore plus sur les cartes graphiques d'occasion, surtout celles avec beaucoup de mémoire vidéo. Il se vend même des versions custom de la 2080 Ti avec 22 Go de VRAM.
En clair même les prix des cartes de seconde main risquent de flamber alors qu'ils sont déjà dingues. Une 3090 Ti d'occassion se vend presque aussi cher qu'une neuve à sa sortie ... il y a 4 ans et demi. Mais le tout pointe du doigt Nvidia encore une fois pour ses pratiques peu scrupuleuses. De la même manière, Nvidia bloque de façon artificielle la possibilité de partager le GPU d'une GeForce entre plusieurs machines virtuelles toujours dans l'optique de vendre les versions professionnelles de ses cartes. Et ce n'est pas comme si les GeForce étaient abordables de nos jours. Typiquement la 5090 tape les 7500 dollars de nos jours donc à part les professionnels, on voit mal qui a les moyens de se la payer.
Ca semblait étrange vu que les cartes utilisent les mêmes GPU. La différences se situent au niveau de la quantité de mémoire vidéo et des fréquences d'horloge. Les codeurs en question ont fini par comprendre que le bridage était purement artificiel ce qui n'est pas une première chez le constructeur. Du coup les codeurs en question à grand coup de Claude ont développé un patch pour déverrouiller le tout. Il prend forme d'un module noyau pour Linux et il fonctionne avec des pilotes non modifiés donc Nvidia ne peut pas le patcher.
Il permet de débloquer certaines cartes Ampère comme les GeForce RTX 3090 Ti, 3090, 3080, 3070 et 3060 12 Go et les résultats sont assez dingues : pour les fameux calculs matriciels en question, on parle de gain de performances atteignant les 60% pour la 3090 Ti sur des générateurs d'image. Il n'a pas fallu longtemps pour s'apercevoir que les cartes Turing (20xx) avaient le même bridage et sortir un patch puis ce fut au tour des cartes Ada (40xx) de tomber. Le patch pour Ada comprend même une version Windows sous forme d'une appli UEFI qui s'exécute donc sans toucher à l'OS. Apparemment les cartes Blackwell (50xx) ont le même bridage mais le débridage semble bien plus compliqué.
Le tout a été créé grâce à des techniques apprises en développant des patchs pour débloquer les limitations mises en place par Nvidia durant le minage des crypto-monnaies. Alors victoire des consommateurs ? Pas de tous. C'est vraiment juste les calculs d'IA génératrice qui bénéficient du tout. Les jeux vidéo n'utilisent pas de BF16. Même pas pour les trucs à base d'IA type DLSS... Donc il n'est pas impossible que les utilisateurs d'IA se ruent encore plus sur les cartes graphiques d'occasion, surtout celles avec beaucoup de mémoire vidéo. Il se vend même des versions custom de la 2080 Ti avec 22 Go de VRAM.
En clair même les prix des cartes de seconde main risquent de flamber alors qu'ils sont déjà dingues. Une 3090 Ti d'occassion se vend presque aussi cher qu'une neuve à sa sortie ... il y a 4 ans et demi. Mais le tout pointe du doigt Nvidia encore une fois pour ses pratiques peu scrupuleuses. De la même manière, Nvidia bloque de façon artificielle la possibilité de partager le GPU d'une GeForce entre plusieurs machines virtuelles toujours dans l'optique de vendre les versions professionnelles de ses cartes. Et ce n'est pas comme si les GeForce étaient abordables de nos jours. Typiquement la 5090 tape les 7500 dollars de nos jours donc à part les professionnels, on voit mal qui a les moyens de se la payer.