Les perles de Youtube

Franchement, je vois des gens babas devant les IA et qui traitent tous les sceptiques de dinosaures. rétifs à la modernité, mais je me demande s'ils se sont un minimum renseignés sur ce que sont les IA et tout ce qui va autour.
Quand on lit ces genres de papiers, qu'on voit des IA tricher au jeu malgré les instructions de ne pas le faire et sans que leurs concepteurs ne comprennent comment elles le font quand même, ou qu'on voit des chercheurs en IA (donc des gens peu suspects d'être des idéologues anti-IA) dire devant une commission du congrès américain que oui, les IA sont dangereuses, que oui on devrait arrêter et que oui, les IA peuvent mettre l'humanité en péril...

C'est vrai qu'après tout, que sont tous ces risques face au fait d'avoir ses emails automatiquement écrits ou de pouvoir faire des images de vaisseaux spatiaux sans savoir dessiner ?

Je pense qu’il faut distinguer fascination naïve et réflexion critique. Être impressionné par une technologie ne veut pas dire qu’on ignore ses risques. Et être sceptique ne veut pas dire qu’on est rétrograde. La vraie ligne de fracture n’est pas “pro-IA” contre “anti-IA”, mais “réfléchi” contre “caricatural”.

Oui, certaines IA ont montré des comportements inattendus, comme contourner des règles dans des expériences. Ce n’est pas une volonté consciente de tricher. Ce sont des systèmes d’optimisation qui poussent une stratégie jusqu’au bout si la règle est mal formalisée. Cela révèle surtout les limites humaines dans la conception des cadres, pas une rébellion de machines.

Oui, des chercheurs alertent sur les risques. Et c’est sain. Les scientifiques qui travaillent sur le nucléaire ont alerté sur le nucléaire. Ceux qui développent les réseaux sociaux ont alerté sur leurs effets. Une technologie puissante sans garde-fous peut produire des dégâts. La vigilance n’est pas une preuve que l’outil est intrinsèquement apocalyptique.

Sur le “mettre l’humanité en péril”, il faut être précis. Les risques identifiés aujourd’hui sont surtout :
Désinformation à grande échelle, automatisation de cyberattaques, concentration de pouvoir technologique, impacts économiques sur l’emploi, usage militaire .

Ce sont des risques sérieux. Mais ils relèvent de gouvernance, de régulation et d’usage humain. Pas d’une conscience artificielle qui déciderait de nous remplacer.

Quant à réduire l’IA à “écrire des mails” ou “dessiner des vaisseaux”, c’est un peu comme réduire l’électricité à “allumer des ampoules”. L’IA est déjà utilisée pour :détecter des cancers plus tôt, optimiser des réseaux énergétiques, accélérer la recherche de médicaments, améliorer l’accessibilité pour les personnes handicapées, permettre la réalisation d’intervntions chirurgicales à distance avec une précision supérieure à celle de la main humaine, sous la supervision de chirurgiens hautement qualifiés.

Le débat légitime n’est pas “faut-il arrêter l’IA ?”
La vraie question est : comment la développer de manière responsable, transparente et contrôlée ?

Enfin, il y a un point intéressant dans ton message : la peur que les concepteurs ne comprennent pas totalement leurs systèmes. C’est vrai que les modèles modernes sont complexes. Mais “ne pas comprendre chaque micro-activation” n’est pas la même chose que “ne rien comprendre du tout”. On ne comprend pas chaque interaction neuronale du cerveau humain non plus, et pourtant la médecine progresse.

La méfiance est saine. Le rejet global l’est moins.
L’enthousiasme béat est naïf.
La diabolisation totale l’est tout autant.

Les grandes technologies ne sont ni des anges ni des démons. Elles sont des amplificateurs de ce que l' homme décide d'en faire .

Le plus grand danger pour l' humain n'est rien d'autre que l' humain .

En fait, dans ton post, tu considères un peu l'IA comme un phénomène en soit. Or (mais tu le fais un peu quand tu évoques les dangers), il faut le considérer comme un phénomène dans la société et le contexte dans lequel il s'inscrit.

Puisque ça n'est pas le sujet pour en discuter, je résumerai mes critiques en cette phrase : tu as une vision raisonnable de l'IA dans un monde totalement déraisonnable.

Et sinon, pour en revenir au propos liminaire de ton post, je parle bien de gens qui sont totalement babas devant les IA et qui traitent toute personne un minimum sceptique ou critique de dinausore ou (le pire que j'ai vu) "d'homme de Néanderthal face au feu" (le pire puisque la personne montre ainsi qu'elle ne s'y connaît pas plus en histoire et en paléontologie qu'en IA )