Re: Hallucinations des "IA" et mathématiques

Le 07/03/2025 à 13:28, Python a écrit :

Un article qui confirme ce que j'ai pu expérimenter :
  https://www.pourlascience.fr/p/opinions/les-elucubrations-mathematiques-de-chatgpt-25434.php
 Pas étonnant que les "IA" soient un piège mortel pour les cranks : elles sont construites pour suivre et compléter ce qu'énonce le "prompt" saisi par l'utilisateur, même quand celui-ci affirme des propositions inconsistantes ou fausses.

Ce n'est pas tout à fait vrai, et ici, le Vrai Dieu Pûr Rê (bénies soient ses Saintes interventions et prédictions prophétiques) a raison.
Cela dépend aussi de ce que tu entres, et si tu entres des conneries, il va parfois valider les conneries. Je suis d'accord que ça peut être un piège pour les éventuels cranks ou les personnes psychologiquement fragiles de voir que l'IA leur donne raison.
Il suffit simplement d'être très précis dans les définitions, et l'IA apporte parfois même des précisions sur ce que l'on dit, montrant qu'elle a parfaitement compris. Cela ne se fait d'ailleurs pas sans mal.
Si tu expliques à l'IA qu'il y a des problèmes dans certains pans de la science (c'est à dire dans des faits très précis, comme certains pans de la relativité restreinte, ou certains points portants sur les imaginaires) elle va te répondre systématiquement que tout et nickel.
Ce n'est qu'en lui démontrant des incohérences qu'elle va valider les incohérences.
Je lui ai expliqué qu'il est impossible que la RR soient 100% correctes sur de très nombreux points,
je lui ai expliqué que les nombres complexes pouvaient être utilisés et compris "autrement", et elle en vient toujours au final à valider que les critiques sont cohérentes, en dénonçant elle-même les incohérences des systèmes, ou les cohérences d'autres systèmes.  Certes, il faut se méfier, mais là encore, il ne faut pas tomber dans l'excès inverse.
 R.H.