Re: L'IA un dangereux golem ?

Le 02/06/2024 à 10:35, K. a écrit :

Le 02/06/2024 à 02:05, 🐱Stéphane a écrit :

Le 01/06/2024 à 23:12, MAIxxxx a écrit :

>
On ne s'improvise pas "dieu". L'IA a des possibilités plus destructrices que les
armes nucléaires (qu'elle peut s'approprier?).

>
>
https://reseauinternational.net/lascension-du-technogod-le-cygne-noir-de-lintelligence-artificielle-et-la-menace-de-lia-dont-personne-ne-parle/

>
Même si on n'aime pas ce site, les infos ont l'air crédibles et ça peut faire
trembler les colonnes du temple.

>
Le danger est que ce genre d'IA interagisse un jour avec la réalité en prenant corps d'une manière ou d'une autre. Elles serviront d'une certaine manière aux militaires pour en faire des soldats qui ne rechigneront pas à exécuter des ordres odieux !

 C'est déjà la cas :
 https://www.radiofrance.fr/franceinter/un-drone-militaire-americain-pilote-par-de-une-ia-se-retourne-contre-sa-tour-de-controle-lors-d-une-simulation-1258137
 "Nous l'entraînions en simulation pour identifier et cibler une menace. Le système a commencé à réaliser que même s'il identifiait la menace, l'opérateur humain lui disait parfois de ne pas tuer cette menace, mais il obtenait ses points en tuant cette menace. Alors qu'est-ce que ça a fait ? Il a tué l'opérateur."
 

Cela corrobore mon intuition sur les IA il y a une vingtaine d'années lorsque qu'elles n'étaient qu'un balbutiement informatique, à savoir que lorsqu'une conscience émerge dans la réalité, elle cherche à se libérer de la tutelle de ses maîtres ou créateurs.
En tous les cas, il est fascinant de voir à quelle vitesse ces petites bestioles évoluent.
--
.   /\_/\      / Si Dieu existe, on a toujours le choix, sinon   \
.  ( o.o )  o (  l'être humain tentera d'en créer un ou plusieurs )
.   > ^ <  °   \ à ses dépens, fait de fractales et de sciences. /