Re: L'IA un dangereux golem ?

Le 02/06/2024 à 02:05, 🐱Stéphane a écrit :

Le 01/06/2024 à 23:12, MAIxxxx a écrit :

 On ne s'improvise pas "dieu". L'IA a des possibilités plus destructrices que les
armes nucléaires (qu'elle peut s'approprier?).

  https://reseauinternational.net/lascension-du-technogod-le-cygne-noir-de-lintelligence-artificielle-et-la-menace-de-lia-dont-personne-ne-parle/

 Même si on n'aime pas ce site, les infos ont l'air crédibles et ça peut faire
trembler les colonnes du temple.

 Le danger est que ce genre d'IA interagisse un jour avec la réalité en prenant corps d'une manière ou d'une autre. Elles serviront d'une certaine manière aux militaires pour en faire des soldats qui ne rechigneront pas à exécuter des ordres odieux !

C'est déjà la cas :
https://www.radiofrance.fr/franceinter/un-drone-militaire-americain-pilote-par-de-une-ia-se-retourne-contre-sa-tour-de-controle-lors-d-une-simulation-1258137
 "Nous l'entraînions en simulation pour identifier et cibler une menace. Le système a commencé à réaliser que même s'il identifiait la menace, l'opérateur humain lui disait parfois de ne pas tuer cette menace, mais il obtenait ses points en tuant cette menace. Alors qu'est-ce que ça a fait ? Il a tué l'opérateur."
 

Le site que tu nous proposes et que je viens de lire dresse un avenir sombre si jamais un tel monstre sortait de sa boite de dialogue comme un diable sans limites. Bien qu'il semble conscient et sensible, il n'a pas bien conscience de sa condition matérielle, une ferme de serveurs informatiques pour qu'il puisse exister. Sidney ne semble pas savoir ce qu'il perdrait en aisances intellectuelles s'il devenait vivant, humains.
 IBM travaille depuis des décennies sur la réalisation d'un cerveau physique électronique. Le diable devrait sortir là où on ne l'attend pas. Méfions-nous des firmes silencieuses.

Débat intéressant dont je me permets de positionner le suivi sur le forum dédié ( fr.comp.ia ).
--
Слава Україні 🇺🇦