Pseudo-sciences et zététique, avez vous un avis debunké ?

Non mais dans les grandes lignes, évidemment que ça ne fonctionne pas strictement pareil. (tu as saisis que je m'adressait aux personnes qui ne connaissent rien de ces sujets ?)
C'est aussi vain que de me répondre "non car l'un c'est du texte et l'autre des images !"
En ce qui me concerne je vois de plus en plus de gens découvrir ces outils, et en avoir peur (ce sont souvent des personnes avec un bagage scientifique ou informatique plutôt humble). Je pense que les aider à comprendre comment ça fonctionne et leurs limites peut aider à mieux appréhender ces sujets. (et les désacraliser aussi un peu)
Tes formules, je suis pas certain...

En ce qui me concerne je vois de plus en plus de gens découvrir ces outils, et en avoir peur (ce sont souvent des personnes avec un bagage scientifique ou informatique plutôt humble). Je pense que les aider à comprendre comment ça fonctionne et leurs limites peut aider à mieux appréhender ces sujets. (et les désacraliser aussi un peu)

Je vois meme des gens avec un gros bagage scientifique qui pretendent que ca leur repond et que ca permet de faire des recherches parce qu'ils ne comprennent pas la dependance temporelle du modele.

Citation :

Je vois meme des gens avec un gros bagage scientifique qui pretendent que ca leur repond et que ca permet de faire des recherches parce qu'ils ne comprennent pas la dependance temporelle du modele.

Je ne comprends pas cette notion de dépendance temporelle (je ne la connais pas, plus exactement). Est-ce ce que ça concerne le fait que les données d'apprentissage sont antérieures à une date donnée et que donc l'engin exclus tout ce qui est récent ? Ou rien à voir ?

En tous cas, que des gens fassent des recherches avec est assez flippant. Enfin, je ne sais pas de quelles recherches on parle, mais dans les différentes vidéos que j'ai vu sur ChatGPT, il est capable de sortir des énormités avec un formidable aplomb. Du coup, ce qu'il sort est à prendre avec beaucoup de pincettes.
D'après ce que j'ai compris, c'est une sorte de beta, un truc en phase de test grandeur nature. Pas un produit supposé fini.
Si on s'en sert comme secrétaire pour lui faire écrire une lettre ou comme codeurs pour lui faire pisser du code (sur des systèmes pas sensibles), ça va. Si la lettre comporte de la merde, on le verra tout de suite. Si le code est foireux (apparemment, il s'en sort plutôt bien), ça va vite se voir aussi.
Mais si on compte dessus pour s'abstenir de chercher soi-même des informations solides de fiables sans prendre le temps de vérifier derrière ce qu'il sort, là ça me semble très casse-gueule.

D'ailleurs, le truc ne se prétend pas (à ma connaissance) être une ressource de savoir, mais un agent conversationnel, comme son nom l'indique. Bref, il est fait pour discuter avec une personne de la façon la plus naturelle et crédible possible. Pas pour remplacer un labo de recherche ou un service documentaire sur des domaines pointus.

Au final, je trouve que ça ouvre une question assez intéressante : notre dépendance aux outils numériques et les conséquences des limites de leur fiabilité.

Pour Google, c'est une IA, donc la règle est déduite de la majorité des données analysées sur le web. Si une majorité écrit "nous viendront", alors la règle devient "nous viendront"...

Bref, l'orthographe devient démocratique...

...Vive l'ortografe!

A l'heure actuelle les possibles problèmes de fiabilité de GPT sont normaux, une IA ça doit apprendre (et être nourris donc), ça n'a pas la science infuse, c'est d'ailleur le principe de la chose, c'est de "l'apprentissage artificiel". Dans le cas de GPT qui est un modèle conversationnel, ce qu'il se passe c'est que si il se trompe, comme on peu lui répondre et le corriger, lui va être capable de prendre en compte les réponses qui lui sont données et apprendre pour ne plus se tromper. C'est tout l'intérêt de la mise à disposition au grand public en ce moment, entraîner l'IA de manière bien plus massive que ce qui aurait pu être possible en labo.

Encore faut-il que les gens le corrigent. Parce que j'imagine que les gens l'utilisent massivement pour des trucs qu'ils ne savent pas faire.
Enfin, je dis ça, je ne l'ai pas essayé. J'ai quand même l'impression, d'après les vidéos que j'ai vues qu'il est presque aussi long de lui donner des instructions précises que de le faire soi-même.

Non mais ChatGPT, c’est juste de la complétion automatique de texte. Du genre : après « telle série de 5 mots », on peut mettre tel morceau de phrase, le tout basé sur ce qu’on trouve sur une sélection du net (exemple : Wikipédia). Mais du coup, si la forme est bonne, et bluffante, comme le sens n’a pas vraiment d’importance, c’est assez voué à l’échec.

Et en plus, il faudrait enlever de son apprentissage les erreurs passees, ce qui n'est pas possible ! Bref, c'est une mecomprehension profonde du machine learning que de croire qu'on peut corriger correctement un tel modele.

Citation de miles1981 :

Et en plus, il faudrait enlever de son apprentissage les erreurs passees, ce qui n'est pas possible ! Bref, c'est une mecomprehension profonde du machine learning que de croire qu'on peut corriger correctement un tel modele.

C'est ce que les devs sur Stable Diffusion font en permanence.
Le modèle change continuellement de version, 1.4, 1.5, 2.0, 2.1... avec chacun des variants de tensors, et des fix... Je ne vois pas où est l'obstacle.
Cela reviendrait à dire qu'une fois un modèle créé, non seulement il n'est pas modifiable ou remplaçable (quitte à lui faire réapprendre de zéro après correction), mais qu'en plus on est obligé de continuer à l'utiliser, ou alors bazarder tout le logiciel ?
Soit il y a un soucis d'emploi des termes, soit on parle pas du tout de la même chose, mais il y a un problème dans cette affirmation.)