Re: On le Subodorait mais c'est Prouvé : l'IA est Raciste !

Le 18/07/2024 à 18:31, jdanield a écrit :

Le 18/07/2024 à 17:04, efji a écrit :

Le 18/07/2024 à 16:48, oldsachem a écrit :

Non mais t'as pas fini de raconter des conneries !!!
C'est ce que l'on appelle de la programmation pure, à l'époque les
réseaux neuronaux n'existait pas.

>
Juste pour votre culture, les réseaux de neurones datent des années 50..
>
J'imagine la tête de GR, Alf, Benoit, jdd et quelques autres devant leur
écran. Ils ont pris un grand bol de popcorn et ils attendent la mise à
mort du vieux peau rouge, car il savent que l'odeur du sang m'excite :)
>

 c'est à la fois un peu plus simple et un peu plus compliqué que ça.
 Une IA est un assemblage. il y a de l'électronique (forcément), des réseaux de neurones qui, comme tu le dis, existent depuis Mathusalem... et autre chose.
 s'il suffisait des réseaux de neurones, l'IA aurait marché dès le début. La différence c'est qu'aujourd'hui on a des réseaux gigantesques (par rapport aux années 50).
 "autre chose", c'est aussi le "big data", l'énorme quantité de données disponibles sur internet et pour l'essentiel, justement, pas du tout organisé en base de données, mais en vrac.
 "autre chose", ce sont aussi des méthodes d'apprentissages efficaces qui font que chatgpt est une blague pour étudiants alors que les IA médicales (par exemple) sont tout autre chose. Même moteur, apprentissage différent. Il y a aujourd'hui une foultitude d'IA spécialisée, certaines redoutablement efficaces. Et il faut bien que l'apprentissage soit stocké quelque part...

Absolument. Sauf que ChatGPT n'est certainement pas une blague pour étudiant. Ca progresse à une vitesse totalement folle, que même les plus grand spécialistes n'avaient pas du tout anticipée. Et dans tous les domaines. Les LLM vont envahir nos vie bien plus rapidement que les applications médicales qui devront passer une foule de certifications et le barrage du corps médical, ce qui prendra un peu de temps.
"Il faut bien que l'apprentissage soit stocké quelque part". Oui bien sûr, mais ce n'est pas une "base de donnée" au sens habituel. Ce sont simplement des séries de nombres qui pondèrent les différents noeuds du réseau de neurones. Et c'est relativement faible : ChatGPT 3 c'était 175 milliards de paramètres (quelques centaines de Go) et ChatGPT 4 c'est quelques To. Ca tient sur un petit disque dur de Mme Michu. C'est infiniment plus petit que google par exemple, qui nécessite des data centers monstrueux. Ces données des LLM de contiennent aucune information intelligible.

 Mais si leur consommation d'électricité augmente de façon exponentielle c'est bien que ce n'est pas seulement un réseau de neurones...

Dans la consommation qui affole tout le monde, la part entre l'utilisation et l'apprentissage n'est pas vraiment claire. Il est évident que l'apprentissage consomme énormément, mais visiblement l'usage aussi est sensiblement plus gourmand que les habituelles requêtes Google. Mais tout ceci évolue très vite et c'est difficile de prévoir ce que ce sera dans un an ou deux.
--
F.J.