Tu sais Zaza est sur Reddit.

Il est même sur r/linux_gaming. C'est vraiment la fin des temps.

Jovan a écrit :

Ça peut construire ou réparer, et ça peut blesser ou tuer si mal utilisé.

J'allais la faire. Le problème n'est pas dans l'outil lui même mais dans la façon dont il est vendu.
Si on offre des tournevis gratuits en disant que c'est pour planter des gens, évidemment que ça risque de mal se terminer.
Faut-il pour autant bannir l'usage des tournevis et démolir l'usine où ils sont fabriqués parce qu'elle pollue ?

L'IA à l'heure actuelle est clairement plus qu'un simple outil. C'est une usine d'outils remplie de types qui t'expliquent comment les outils fonctionnent, qui font une bonne partie du boulot à ta place sans comprendre ce qu'ils font, pourquoi ils le font ou ce qu'est un outil et qui font un paquet d'erreurs au passage juste pour faire plaisir au patron.

Toninus a écrit :
Faut-il pour autant bannir l'usage des tournevis et démolir l'usine où ils sont fabriqués parce qu'elle pollue ?

De la même façon que certains outils sont régulés et parfois strictement encadrés on peut se poser la question sur comment et pour quel public les modèles d'IA sont mis à disposition.
Là il y a une sorte de forcing pour nous pousser à utiliser l'IA, peut être qu'on devrait le réguler, comme on régule certaines publicités (Comment les entreprises de la tech nous forcent à utiliser l'IA)

Et de la même façon qu'une usine est soumise à des normes de sécurité et à des normes environnementales on peut aller regarder comment on conçoit ces modèles et dans quelles conditions on les fait tourner.

Le débat sur l'utilisation de l'outil doit aller en parallèle avac un débat sur la conception de l'outil, faut-il de grands modèles generalistes ou des modèles plus petits et plus spécialisés comme le defend Lou Welgryn ?
On peut aussi imaginer des modèles d'IA qui seraient conçus en étant beaucoup plus exigeant sur la transparence des sources, le respect de la vie privé et qui ne seraient plus aux mains de groupes capitalistes mais plutôt pensés comme des services publics (voir le projet Apertus en Suisse par exemple).

Toninus a écrit :

Jovan a écrit :

Ça peut construire ou réparer, et ça peut blesser ou tuer si mal utilisé.

J'allais la faire. Le problème n'est pas dans l'outil lui même mais dans la façon dont il est vendu.
Si on offre des tournevis gratuits en disant que c'est pour planter des gens, évidemment que ça risque de mal se terminer.
Faut-il pour autant bannir l'usage des tournevis et démolir l'usine où ils sont fabriqués parce qu'elle pollue ?

Il y a quand même une réglementation autour du tournevis, tu ne peux pas te balader avec un tournevis à la main n'importe où. L'outil en lui même pose problème et il y a une réglementation pour tenter de le résoudre au moins partiellement.
Pourtant le tournevis a tendance à rester un objet neutre, les tentations de le détourner de son usage sont faibles.
Il y a des outils encore plus problématiques, les armes à feu en font partis et la tentation de les utiliser pour ôter la vie sont importantes, c'est pour ça qu'on a bannit son usage chez les particuliers.

Tout ça dire que qualifier n'importe quoi en "outil" , les mettre dans le même panier comme si les conséquences étaient les mêmes, est un raisonnement qui ne prend pas en compte suffisamment de facteurs..

Internet c'est un outil, on pensait il y a 30 ans qu'on allait tous être cultivés et intelligents grâce à ça. Raté.
Les réseaux sociaux c'est ... je sais pas ce que c'est censé faire à la base mais on se rend bien compte que ça sert surtout à faire de la merde et c'est construit pour rendre les gens dépendants et les pousser à consommer.
L'IA c'est un outil qui continue dans le même sens : ça peut parfois rendre des services incroyables mais ça sert surtout pour l'instant à plein de gens à arrêter de réfléchir, d'être curieux et d'avoir du sens critique. En plus de s'en servir pour produire des idées et du contenu néfastes dont les victimes sont d'ores et déjà nombreuses.

Les tournevis, le ratio dégat/bénéfice est très probablement proche de 1 pour les bénéfices. Pour l'IA j'ai une forte présomption qu'on file dans les 99% de dégats.

toof a écrit :
Internet c'est un outil, on pensait il y a 30 ans qu'on allait tous être cultivés et intelligents grâce à ça. Raté.
[etc etc...]

J'crois qu'on pourrait mettre "Word." et fermer le thread.

Et si on va par là l'Etoile De La Mort aussi ce n'était qu'un outil :)

On parle quand même de mettre un million de centre de données en orbite pour l'outil en question sans se poser de question sur la viabilité à long terme, le syndrome Kessler, l'impossibilité de recycler quoi que ce soit... On marche sur la tête.

CBL a écrit :
Et si on va par là l'Etoile De La Mort aussi ce n'était qu'un outil :)

On parle quand même de mettre un million de centre de données en orbite pour l'outil en question sans se poser de question sur la viabilité à long terme, le syndrome Kessler, l'impossibilité de recycler quoi que ce soit... On marche sur la tête.

Surtout que c'est apparemment un concept totalement fumeux a cause des contraintes thermiques.

Pour ceux qui disent que les LLMs ne font rien de bon,

Vous avez utilisé les derniers outils de programmation ? Il y a deux ans, ça faisait un paquet d'erreurs monumentales (VSCode Copilot, etc) et était à peine utilisable. Aujourd'hui ils écrivent les unit tests, s'auto-corrigent, donnent du feedback pertinent pendant les code-reviews etc.

Ça rend aussi possible les "micro-applications", une application créée juste pour un seul but précis mais qui n'a pas de large audience (donc pas d'acheteurs). Avant il fallait embaucher une équipe de programmeurs ce qui rendait leur création impossible pour une utilisation aussi niche.

C'est aussi pour ça que l'utilisation explose.

Oui la comparaison avec le tournevis a des limites évidentes. Mais elle permet malgré tout d'identifier une partie des problèmes, à savoir pas forcément l'IA en elle même mais la façon dont elle est présentée et vendue.

On peut très bien utiliser une IA comme on utilise un moteur de recherche ou wikipedia, en prenant le résultat avec précaution. Pour autant elle propose un travail de synthèse qu'un moteur de recherche n'a pas.

Et évidemment qu'il y a des régulations à faire, mais ce n'est pas Google ou OpenAI qui vont s'y mettre d'eux-mêmes.

L'IA c'est de la merde, surtout pour nos enfants.
https://george-abitbol.fr/v/056e4f00

Reez a écrit :

Butlerian Jihad when?

Vite!

LeGreg a écrit :
C'est aussi pour ça que l'utilisation explose.

Il y a une paire de boites aussi qui commencent à être transparentes sur cet aspect et disent qu'ils n'y ont pas gagné, voire même c'est plus coûteux qu'avant. J'suis convaincu que les LLMs dans le code c'est fantastique avec un mec talentueux derrière le code. Sauf que par exemple ce que tu en dis, c'est clairement une position avec une équipe talentueuse derrière les outils. La réalité sur ce qu'on essai de nous faire croire ou ce que les boites font comme choix est tout autre ^^

CBL a écrit :
Et si on va par là l'Etoile De La Mort aussi ce n'était qu'un outil :)

On parle quand même de mettre un million de centre de données en orbite pour l'outil en question sans se poser de question sur la viabilité à long terme, le syndrome Kessler, l'impossibilité de recycler quoi que ce soit... On marche sur la tête.

Mais tu sais pourquoi ça bien entendu? Au delà de ce que dit Beat qui est aujourd'hui confirmé, c'est surtout que ce gros fdp de Musk, il aimerait bien faire ce qu'il veut et que potentiellement se faire taper sur les doigts pour ce qu'a découvert récemment Ben Jordan, dans l'espace, ça sera pas un soucis.

Et puis le syndrome Kessler eing... cadet de leurs soucis. On parle d'un gars qui veut foutre des écrans en orbite pour te diffuser de la pub, ruiner nos ciels de nuit et compromettre les observations astronomiques à plus ou moins grande échelle.

CBL a écrit :
On parle quand même de mettre un million de centre de données en orbite pour l'outil en question sans se poser de question sur la viabilité à long terme, le syndrome Kessler, l'impossibilité de recycler quoi que ce soit... On marche sur la tête.

C'est tout simplement physiquement impossible, déjà le nombre de lancement pour ça serait gargantuesque, l'intéret écologique nul (faut quand même produire ces panneaux solaires, sauf qu'en plus ils faudra les foutre en orbite et qu’ils auront une durée de vie bien moindre, et, comble du comble : bonne chance pour refroidir un GPU dans le vide spatial, faudrait aussi y rajouter des énormes radiateurs, charge supplémentaire à envoyer en orbite.

Et bon courage pour la maintenance !

choo.t a écrit :
bonne chance pour refroidir un GPU dans le vide spatial

Bonus stage: le matos envoyé dans l'espace est calibré pour l'occasion (processeur, chips, composants). Je pense qu'on a zéro recul concernant la pérennité des chipsets utilisé dans l'application LLM soumis à des conditions terrestre en temps normal... dans un environnement spatial.

Un très bon exemple sur le sujet, ce sont les recherches de la NASA pour l'application des pneus sur les rovers. (ie: tu fous pas du Michelin 17" sur ton rover)

Les mecs sont tellement hors sol et obsédés par leur soucis de croître, qu'ils pensent qu'on peut envoyer une 3080Ti en orbite sans réviser leur architecture.

__MaX__ a écrit :

choo.t a écrit :
bonne chance pour refroidir un GPU dans le vide spatial

Bonus stage: le matos envoyé dans l'espace est calibré pour l'occasion (processeur, chips, composants). Je pense qu'on a zéro recul concernant la pérennité des chipsets utilisé dans l'application LLM soumis à des conditions terrestre en temps normal... dans un environnement spatial.

Un très bon exemple sur le sujet, ce sont les recherches de la NASA pour l'application des pneus sur les rovers. (ie: tu fous pas du Michelin 17" sur ton rover)

Les mecs sont tellement hors sol et obsédés par leur soucis de croître, qu'ils pensent qu'on peut envoyer une 3080Ti en orbite sans réviser leur architecture.

Imagine tu as déjà du mal a gérer les bit-flip sur terre alors tu vas soumettre tes chips a des radiations cosmiques et des champs EM constants. Bonne idée hein ?
Mais bon ça colle, c'est Elon Musk, le même type qui dit qu'on ira sur Mars alors que c'est, au mieux, des dommages permanents a certains organes vitaux, au pire la mort, ne serait-ce que pour les radiations.

Moui enfin il y a quelques années on disait aussi que les fusées réutilisables ça ne marcherait jamais, que les voitures électriques ça ne servait à rien, que Starlink c'était idiot et j'en passe. Je pense que Musk peut se permettre de mettre des bons ingés sur le sujet si il croit vraiment au truc.

Mais il est aussi spécialiste des effets d'annonce à la con : l'hyperloop, la colonisation de Mars, le transport aérien via Starship...

Toninus a écrit :
Moui enfin il y a quelques années on disait aussi que les fusées réutilisables ça ne marcherait jamais, que les voitures électriques ça ne servait à rien, que Starlink c'était idiot et j'en passe. Je pense que Musk peut se permettre de mettre des bons ingés sur le sujet si il croit vraiment au truc.
Parce qu'il est aussi spécialiste des effets d'annonce à la con : l'hyperloop, la colonisation de Mars, le transport aérien via Starship...

Tous les scientifiques s'accordent pour le dire: on ira pas sur mars, on a rien pour contrer les radiations et c'est pas une techno sortie de nullepart qui va changer ça dans l'avenir immediat ('immediat' en décennies quoi). Le mec est une machine à annonces chocs sorties de son cul (pour influencer wallstreet) et la presse gobe. Qu'il laisse donc les gens qui bossent pour lui (et qui eux savent ce qu'ils racontent) faire et qu'il se taise a JAMAIS.

C'est bien ce que je dis : il ne faut pas se fier à ses annonces, mais on ne peut pas non plus lui enlever quelques succès (surtout liés à sa thune et à ses employés).