L'horreur existentielle de l'usine à trombones

« Supposons que nous ayons une IA dont l'unique but soit de faire autant de trombones que possible. L'IA se rendra vite compte que ce serait bien mieux s'il n'y avait pas d'humains, parce que les humains pourraient décider de l'éteindre. Parce que si les humains le faisaient, il y aurait moins de trombones. De plus, le corps humain contient beaucoup d'atomes qui pourraient être transformés en trombones. L'avenir vers lequel l'IA essaierait de se diriger serait un futur avec beaucoup de trombones mais aucun humain. » (Nick Bostrom, Superintelligence)
Cette vidéo de près de 40 minutes explore le problème complexe de l'alignement des IA ( https://fr.wikipedia.org/wiki/Alignement_des_intelligences_artificielles ), les difficultés à s'assurer que l'objectif assigné à un programme est bien celui que l'on désire. Passées les premières minutes, volontairement "décalées", l'auteur entre dans le vif du sujet et c'est proprement passionnant.
Cerise sur le gâteau, c'est en français !
https://youtu.be/ZP7T6WAK3Ow
--
Слава Україні 🇺🇦