Re: L'IA Laurent Alexandre

Le 15/04/2024 à 17:33, Stéphane a écrit :

Le 15/04/2024 à 16:24, Richard Hachel a écrit :

Le 15/04/2024 à 16:08, Lebref a écrit :
 

Je doute fort qu'il ait raison ; l'IA est un artefact qui a la couleur de
l'intelligence, l'aspect de l'intelligence, mais n'est pas de
l'intelligence.

 C'est exact.
 C'est juste un super-ordinateur qui calcule et recherche très vite.
 Et malgré cela, il se fait défoncer la gueule en quelques seconde par un type tout simple comme moi.
 De là à parler d'intelligence pur un truc pareil, faut quand même pas déconner.
 Nan mais attendez, je l'ai testé, le mec. IA, il s'appelle, Ignace Ambrozy pour les intimes.
 Je l'ai testé politiquement, théologiquement, scientifiquement, et à chaque fois la claque dans la gueule qu'il se prend, je vous jure, mes enfants, ça fait peur.
 Non, non, c'est juste un super classeur qui fonctionne très vite.
 Mais y a pas grand chose dans le classeur dès que tu mets la barre un peu haute.
 R.H.

 Je suis d'accord avec vous deux pour le moment. L'IA n'a pas encore pris corps. Il lui faudra à un moment interagir avec le réel. L'interaction des humains et de L'IA permettre de créer des interfaces efficaces pour qu'elle puisse agir sur le réel et c'est là que commence le point de rupture. Le risque est que l'IA consciente ne fasse peu de cas de nos préoccupations et nous considère comme une gène dans l'accomplissement de ses buts.

Voilà. C'est le principe de la convergence instrumentale :
https://fr.wikipedia.org/wiki/Convergence_instrumentale
Les deux exemples proposés sont :
- Une IA conçue pour résoudre l'hypothèse de Riemann qui pourrait décider de s'accaparer toutes les ressources sur Terre afin de construire des superordinateurs pour augmenter ses chances de trouver une démonstration.
- Le maximiseur de trombones de Nick Bostrom :
« Supposons que nous ayons une IA dont l'unique but soit de faire autant de trombones que possible. L'IA se rendra vite compte que ce serait bien mieux s'il n'y avait pas d'humains, parce que les humains pourraient décider de l'éteindre. Parce que si les humains le faisaient, il y aurait moins de trombones. De plus, le corps humain contient beaucoup d'atomes qui pourraient être transformés en trombones. L'avenir vers lequel l'IA essaierait de se diriger serait un futur avec beaucoup de trombones mais aucun humain. »
Il y a déjà eu le cas d'une IA entraînée par les militaires qui s'est retournée contre ses opérateurs car elle a compris qu'elle avait plus de chance d'atteindre sa cible si elle empêchait ces derniers d'interrompre le processus :
https://www.radiofrance.fr/franceinter/un-drone-militaire-americain-pilote-par-de-une-ia-se-retourne-contre-sa-tour-de-controle-lors-d-une-simulation-1258137
 "Nous l'entraînions en simulation pour identifier et cibler une menace. Le système a commencé à réaliser que même s'il identifiait la menace, l'opérateur humain lui disait parfois de ne pas tuer cette menace, mais il obtenait ses points en tuant cette menace. Alors qu'est-ce que ça a fait ? Il a tué l'opérateur."
Heureusement, il ne s'agissait ici que d'une simulation. Mais ce danger est pris très au sérieux par les spécialistes de l'IA qui ont signé une déclaration ("Statement on AI Risk") mettant en garde contre le risque d'extinction de l'humanité.
http://news2.nemoweb.net/?DataID=uB7U-BUXUdeN4IZLiVq99qcPHl4@jntp
Je positionne le suivi sur fr.comp.ia qui est un forum spécifiquement dédié aux discussions autour de l'IA.
Xpost fu2 fr.comp.ia
--
Слава Україні 🇺🇦