Re: Hallucinations des "IA" et mathématiques

Le 07/03/2025 à 13:28, Python a écrit :

Un article qui confirme ce que j'ai pu expérimenter :
 https://www.pourlascience.fr/p/opinions/les-elucubrations-mathematiques- de-chatgpt-25434.php
 Pas étonnant que les "IA" soient un piège mortel pour les cranks : elles sont construites pour suivre et compléter ce qu'énonce le "prompt" saisi par l'utilisateur, même quand celui-ci affirme des propositions inconsistantes ou fausses.
 

Il s'agit d'un article de juillet 2023 écrit en mai 2023, autant dire un siècle :)
Rien de ce qui est décrit n'est plus vrai avec les versions actuelles de ChatGPT, LeChat, Gemini, DeepSeek et probablement toutes les autres. Par exemple le piège grossier du "moyen théorème de Fermat" ne passe plus.
Dans l'état actuel, en version gratuite, toutes ces IA savent pratiquement résoudre tout problème de maths de niveau L3, donné sous forme de pdf, avec une rédaction impeccable. Ce n'était pas le cas il y a 6 mois où les fautes inopinées de logique et de calcul faisaient parfois penser au crétin qui hante ces lieux. Mais maintenant c'est parfait. DeepSeek est le plus intéressant car on peut cocher une case "DeepThink" qui permet de voir en direct le cheminement très tortueux du raisonnement de l'IA, avec plein d'impasses desquels il se sort avant de donner la solution. Fascinant.
Mais il est vrai que ces IA peuvent toujours halluciner, mais beaucoup beaucoup moins qu'en 2023.
Par ailleurs je connais très très bien l'auteur de cete article depuis plus de 30 ans. Il est le prototype du pinailleur de compétition, ce qui l'a d'ailleurs amené à faire des choses très intéressantes. Il a aussi été le pape mondial du bug de l'an 2000 en 1998-99, ayant une forte responsabilité dans l'emballement un peu fou qui a eu lieu à l'époque :)
--
F.J.