Re: Quand l'Intelligence Artificielle surpasse l'humain.

Le 12/02/2025 à 17:40, Prime a écrit :

soit tu es dans un entendement qui dépasse celle des capacités de tes
partenaires de discutions, soit ton entendement est biaisé et tu n'arrive
pas à le voir, tu pourrais essayer d'en parler avec Loup GPT, il est
capable d'apprendre même ce qu'il n'a appris nul part ailleurs si toute
foi ce que tu lui apprend est logique et sans erreur et rationnel

Sans erreur ? Thomas Alexandre a cité (extraits traduits) une étude parue dans Arxiv sur les raisons qui font que les IA produisent des quantité importantes d'erreurs.
Je suis tombé sur ce papier sur arxiv qui aborde les raisons de ces
"hallucinations" :
```
3.1.1 Désinformation et biais. Les réseaux neuronaux possèdent une tendance
intrinsèque à mémoriser les données d'entraînement [ 35], et cette tendance
à la mémorisation augmente avec la taille du modèle [ 34, 54 ]. En général,
la capacité de mémorisation inhérente est une arme à double tranchant dans
la lutte contre les hallucinations. D'une part, les capacités de
mémorisation des LLM suggèrent leur potentiel à capturer une connaissance
profonde du monde. D'autre part, cela devient problématique dans le
contexte de la désinformation et des biais présents dans les données de
pré-entraînement et peut être amplifié par inadvertance, se manifestant par
une fausseté imitative [182 ] et le renforcement des biais sociétaux. Pour
une compréhension plus complète, des exemples détaillés sont présentés dans
le tableau 2.
Fausseté imitative. La désinformation telle que les fausses nouvelles et
les rumeurs infondées s'est largement répandue sur les plateformes de
médias sociaux et contribue progressivement de manière significative aux
hallucinations des LLM. [...]
Préjugés sociétaux. En plus de la désinformation, les préjugés sont
également profondément ancrés dans les plateformes de médias sociaux, se
manifestant de diverses manières, comme des recrutements biaisés, des
informations préjudiciables et des messages de haine [...]
```
A Survey on Hallucination in Large Language Models: Principles, Taxonomy,
Challenges, and Open Questions (19/11/2024)
https://arxiv.org/pdf/2311.05232