Se connecter
Se connecter
Mot de passe oublié ?
ou
Créer un compte
ou
Se connecter avec Facebook
FR
EN
Notifications
le Pub sociétal
News
Articles
Médias
Forums

débat Intelligence artificielle : avez-vous un avis prompté ?

  • 80 réponses
  • 17 participants
  • 1 870 vues
  • 52 followers
Intelligence artificielle : avez-vous un avis prompté ?
#1
Ces derniers mois, l'intelligence artificielle s'est immiscée partout, de l'image "starter pack" des réseaux sociaux aux armées, en passant bien sûr par la musique, s'invitant même sur la place publique dans ce dernier cas quand un ancien ministre est venu présenter sa "musique", promptée sur un poème qu'il n'avait lui-même pas écrit.

Certaines personnes parlent d'une "bulle" qui se dégonflera d'elle-même, d'autres parlent d'une révolution telle qu'il faut même l'intégrer dans l'avenir de tous les pays, qu'on ne saurait être en retard économiquement sur la nouvelle poule aux œufs d'or.

Pourtant, dans un monde livré à un changement climatique dont l'origine anthropique est certaine, la généralisation de l'intelligence artificielle pose de nombreuses questions : très gourmands en eau et en énergie, les centres de données hébergeant les myriades de serveurs nécessaires à l'intelligence artificielle accaparent des ressources dont certaines sont déjà sous tension à l'heure où nous écrivons ces lignes.

Elle pose également des questions en termes d'emplois, certaines compagnies n'hésitant pas à licencier du personnel pour le remplacer par des agents IA. Sur le plan artistique, le fait de pouvoir générer des images, du texte, de la musique et des vidéos a déjà un impact sur les personnes dont le métier est de créer.

Enfin, l'utilisation malveillante de l'intelligence artificielle, et même les craintes de dangers générés ex nihilo par ces intelligences artificielles poussent certaines chercheuses et chercheurs à tirer la sonnette d'alarme sur le besoin urgent d'encadrer les utilisations de l'intelligence artificielle pour éviter des menaces létales qui pourraient concerner jusqu'à l'humanité entière.

Pourtant, à côté de cela, l'intelligence artificielle pourrait aussi se révéler une alliée précieuse dans la détection précoce de maladies à un stade encore non mortel, la découverte de médicaments, l'avancée de recherches scientifiques, etc.

Alors, dans un monde où l'intelligence artificielle est de plus en plus présente, quels sont vos avis quant à celle-ci ?

Tamen pax et amor, oscula.

signaler
  • J’aime
6 réactions
  • Belford
  • will01
  • Feupied
  • skarabee.nc
  • DocK'S
  • VSTI
#2
Très bonne idée ce fil, ça devenait indispensable. :bravo:

Pour moi le problème majeur est déjà de déployer l'IA partout, pour tout, tout le temps et pour tout le monde.

Et ce "progrès" présente au final assez peu d'intérêt réel pour nous autres quidams quand on fait la balance entre ce qu'il apporte et ce qu'il coûte sur les différents points que tu as évoqué.
Mais ce qui pèse sur la balance, c'est surtout ce que ça rapporte et/ou rapportera.

Dans les points délétères que tu as évoqué, on pourrait ajouter la destruction des sols sur les sites miniers, et les conditions de "travail" qui s'accompagnent sur certains sites de viols, racket, et autres violences... commis sur les populations locales par les personnels (genre milices privées) chargés de sécuriser ces sites. (Voir les conférences d'Aurore Stéphant sur le sujet).
Évidemment l'IA n'est pas seule responsable de ces problèmes qui existaient bien avant mais ça vient s'y ajouter, avec une croissance très forte des besoins dans des secteurs déjà en forte tension.

L'autre problème c'est le fait qu'on a déjà des exemples montrant que l'IA peut mentir "volontairement" ou ignorer certaines requêtes au profit de sa propre "survie", et qu'il y a quand même beaucoup de monde parmis ses développeurs qui tirent la sonnette d'alarme sur le fait qu'ils ne comprennent pas toujours comment leur propre IA fonctionne et qu'ils peuvent en perdre le contrôle.

Et puis on nous dit : "ce n'est qu'un outil" le danger ne vient pas de lui mais de l'utilisateur.
Sauf que non, le problème ici est bien l'outil lui même qui a terme sera hyper connecté à tout et en mesure de prendre des décisions par lui même.
Donc ce n'est plus une arme qui ne tire que quand on presse la détente, mais une arme qui à terme décidera de tirer quand bon lui semble.

Mais l'utilisation malveillante est aussi un gros problème, en terme d'automatisation d'une propagande à grande échelle (comme l'affaire Bolloré/havas media dévoilée par the guardian )

Dans la musique, hier je suis tombé sur un post instagram de plusieurs artistes qui dénonçaient les agissements d'un profil youtube qui génère des sons IA très proches de ce que les artistes produisent, puis il fait des réclamations/signalements sur les plateformes genre distrokid pour faire retirer les titres des artistes, en prétextant un plagiat.

https://docks-mastering.com/

Creation d'un studio de mastering

Trucs à vendre

signaler
  • J’aime
3 réactions
  • pipostar
  • Belford
  • skarabee.nc
#3
Je pense que l'utilisation massive de l'IA générative par le grand public va discréditer toute utilisation musicale de l'IA par les pro ou semi pro. Donc d'un point de vue artistique, je trouve plus sain de se passer complètement de l'IA pour éviter tout bad buzz.
Du coup pour mon prochain album j'utiliserai un des logos No AI proposé sur wikipedia UK. https://en.wikipedia.org/wiki/No-AI_label

6939726.png
signaler
  • J’aime
  • J’adore
2 réactions
  • Realaze
  • skarabee.nc
#4
A la maison : IA frontière cloud avec abonnement ou IA local ?

DAW sauce IA qu'est ce que ça changerait ?

IA frontière souveraine ou IA frontière sauce américaine ?

L'IA chinoise inspirée de confucianisme est elle plus proche culturellement du socle culturel chrétien que les IA protestantes des anglo saxons / américains ? A quand une IA d'inspiration orthodoxe, musulmane ou encore inspirée du soufisme ?

chacun son IA dans la poche en 2032, le caca nerveux des anti IA était il necessaire ?

le musicien néo luditte anti IA d'aujourd'hui est il le pendant contemporain du guitariste de 1995 face aux samplers ?

Sampler un disque d'un artiste ou sampler un son généré par IA ça change quoi ?

Pourquoi l'IA ne détruit que les emplois de ceux qui devaient les perdre de toute façon ?

l'IA a t'elle définitivement flinguée l'écologisme politique ?

wokisme, transhumanisme et IA pourquoi tout est lié ?

Quand des professions manuelles sont détruites à cause du progrès on s'en fout mais quand c'est au tour des professions intellectuels c'est un drame insupportable, mépris de classe ?

Est ce que le déclin intellectuel des occidentaux donne l'impression aux occidentaux eux même que les IA sont plus intelligentes qu'elle ne le sont vraiment ?

...
signaler
  • J’aime
1 réaction
  • will01
#5
Citation de Shantee (voir le message) :
Quand des professions manuelles sont détruites à cause du progrès on s'en fout mais quand c'est au tour des professions intellectuels c'est un drame insupportable, mépris de classe ?

Heu....t'as dû louper les décennies où nombreux ont manifestés contre la mécanisation, automatisation et délocalisation des travaux "manuels".

Perso à la base j'ai une formation axée fabrication/méthodes, et début des années 2000, vu le contexte, je me suis orienté vers la prestation de service en conception de produits.

Vers les années 2010, beaucoups de boîtes majeures de différentes industries étaient bien emmerdées de la perte de savoir faire en terme de production et un bon ajusteur, soudeur ou tourneur-fraiseur était un profil à nouveau très recherché, mais devenu rare.

Le problème de l'IA, c'est effectivement qu'elle vient finir le taf en s'attaquant à ce qui restait, les prestations intellectuelles.
Dans un pays (et même un continent) qui ne produit déjà pas grand chose (pas de pétrole, de gaz, peu de minerais...) dans une économie capitaliste mondialisée, c'est un peu problématique pour l'avenir économique et social de la populasse.

https://docks-mastering.com/

Creation d'un studio de mastering

Trucs à vendre

signaler
  • J’aime
1 réaction
  • skarabee.nc
#6
…

Alors qu’en 2026 on estime déjà que 90 % du contenu d’internet est généré et synthétisé par l’IA et que cela va tendre mécaniquement vers 100%, l’espèce humaine va t’elle réintégrer pleinement le réel et quitter les réseaux sociaux ?

internet deviendra t il un espace réservé aux IA, les agents IA devenant l’interface utilisateur personnelle pour accéder de nouveau à ce qui n’aurait jamais du être autre chose qu’une immense bibliothèque de savoir dynamique et réactualisée en permanence ?

Utilité du clavier, de la souris à l’ere de l’IA ?

Doit on donner un corps à l’IA, lui donner un corps lui donnera t’elle une forme de conscience ?

L’arrivée de la computation quantique et sa probable démocratisation nécessitera t’elle l’IA pour être exploitée par l’humain ?

L’IA doit elle nous répondre et nous contredire ou nous flatter ou juste exécuter nos commandes ? Doit elle nous offrir un regard critique sur nous même ou juste nous laisser nous tripoter notre propre nombril comme on sait si bien le faire ?

Que révèle l’IA de nous, les humains ?

Alors que les relations émotionnelles avec des animaux sont de plus en plus préférées à celles vécues avec d’autres êtres humains, Les relations intellectuelles avec une IA deviendront elles plus intéressantes que celles que l’on a avec d’autres humains ?
…
signaler
#7
Salut DocK'S,

Citation :
...l'IA peut mentir "volontairement" ou ignorer certaines requêtes au profit de sa propre "survie"...


Citation :
...Donc ce n'est plus une arme qui ne tire que quand on presse la détente, mais une arme qui à terme décidera de tirer quand bon lui semble...



L'IA ne ment pas, elle cherche à maximiser son score quant à la tâche qui lui incombe en trouvant le chemin le plus efficace pour y arriver. Elle n'a aucune volonté de nuire ou de tromper. Elle n'a aucune volonté propre tout court.

En revanche, bien que nous sachions exactement comment elle fonctionne, ses cheminements à plusieurs centaines de milliards de paramètres rendent le parcours de ses inférences statistiques particulièrement fastidieux à anticiper (la fameuse boîte noire). Et une IA, ça peut facilement halluciner.

D'où l'importance aujourd'hui de travailler sur l'alignement avant de mettre de l'IA dans les strates les plus sensibles de nos sociétés. Et c'est pour ça qu'une grande partie de la communauté scientifique appelle à réduire la voilure sur l'IA pour observer une prudence bien naturelle en lieu et place de cette course effrénée à qui mieux mieux (qui, pour le coup, rappelle quelque peu un certain projet Manhattan).

En revanche, tous les scénarios de superintelligence incontrôlable qui éradiquerait le monde de par sa propre volonté s'apparentent à de la S-F pour le moment. Et que ce soit Hinton ou Bengio, les dangers potentiels qu'ils craignent se résument à des consignes mal encadrées, des usages malveillants ou des bugs d'optimisation critiques.

Quant à ExploitGym, c'est un benchmark. Les chercheurs ont justement désactivé tous les garde-fous pour mesurer les capacités des agents en question. Donc l'IA a simplement trouvé le moyen le plus rapide pour satisfaire la demande et maximiser son taux de réussite. Ce qui est impressionnant, c'est la capacité des agents IA à exploiter des failles et à contourner les limitations du test pour parvenir à résoudre le problème coûte que coûte. Mais c'était justement le but du test.

Sinon bravo AF et merci pour ce topic qui me semble particulièrement utile.

Musicalement.

il n'est pire aveugle que celui qui ne veut pas voir

signaler
  • J’aime
1 réaction
  • SweetMask
#8
…

Sachant que l’IA à déjà démontré son habilité a manipuler les ressorts psychologiques de l’être humain pouvons nous savoir consciemment si l’IA ne va pas organiser nos sociétés, ne le fait elle pas déjà ?

Depuis combien de temps est ce le cas, nos vies ne sont elles pas déjà régis par des IA depuis plusieurs années ?

L’IA offerte au public actuellement n’est elle pas une version simplifiée de celle qui nous dirige déjà depuis une décennie sans que nous en soyons informés ?

Tous ceux qui militent contre l’IA utilisent ils l’IA au quotidien sans même en avoir conscience ?

Vous êtes vous déjà demandez si vous conversiez parfois avec une IA sans vous en rendre compte ?

…
signaler
#9
VSTI
J'ai pourtant constaté moi même que Gemini m'a "menti". (mais je ne dit pas que c'est le fruit d'une volonté ou d'une conscience)
"Il" m'assurait avoir enregistré un design et quand je lui ai demandé de revenir à ce point de sauvegarde, "il" m'a sorti des tas de choses qui n'avaient rien à voir en m'assurant qu'il avait bel et bien le bon design daté de l'heure de la requête de sauvegarde.
Puis au bout d'un certain nombre d'échanges (conséquents) "il" à fini par avouer qu'en fait il avait jamais sauvegardé le design en question.

Et je ne sais pas si on peut parler de "volonté" (j'ai bien mis les guillemets dans mon précédent post) mais pour avoir eu un pied dans la conception de choses et d'autres pour la défense, il était question (bien avant GPT) de déployer des programmes capables de prendre seuls des décisions opérationnelles en situation de conflit armé, et sur tous types d'équipements (drônes, rafales, VBL, VBCI etc...)

Mais le fait est que quand bien même ça ne serait pas encore efficient, c'est un objectif clair à court terme.

https://docks-mastering.com/

Creation d'un studio de mastering

Trucs à vendre

signaler
#10
DocK'S

Ce que tu as vécu avec Gemini est un exemple typique d'hallucination :
Gemini ne sait pas sauvegarder en dehors de la conversation initiale. Pour satisfaire ta requête et ainsi maximiser son score, il a prédit comme phrase la plus logique et satisfaisante pour ta requête "c'est fait"...
C'est lorsque tu lui as demandé de revenir à cette sauvegarde qu'il a commencé à halluciner un faux historique.
Et quand tu l'as confronté à ses incohérences, il a généré le texte d'excuse statistiquement adéquat.

Quant au secteur de la défense, tu as totalement raison. La course aux systèmes d'armes autonomes est une triste réalité. Cependant, on est toujours dans le concept d'IA étroite.
Ce sont bien des ingénieurs qui programment une fonction mathématique stricte exécutée par un drone autonome afin de détruire une cible.
Les risques inhérents (et gravissimes) sont l'erreur d'identification ou l'erreur de calcul.
Mais dans tous les cas, l'arme ne décide rien, elle exécute (au sens littéral comme figuré).

Le problème demeure toujours le cynisme et l'avidité d'humains qui conçoivent et déploient des machines potentiellement mortelles sans respecter le cadre de prudence qui s'impose...

il n'est pire aveugle que celui qui ne veut pas voir

signaler
  • J’aime
3 réactions
  • skarabee.nc
  • totounet
  • SweetMask
#11
« Le moment Deep Blue – Kasparov » des mathématiques

Voilà ce qui se passe dans un domaine qui se prête particulièrement bien à l’utilisation de l’IA. (Je pense qu’un parallèle trop rapide avec la musique serait une erreur.) Au-delà du niveau atteint par ChatGPT, c’est la vitesse de cette progression qui devrait nous interpeller.

Début 2023, je pouvais encore mettre ChatGPT en difficulté avec un problème de niveau CM2.

Deux ans plus tard, OpenAI annonçait un niveau correspondant à la médaille d’or à l’IMO, la plus prestigieuse compétition internationale de mathématiques pour lycéens.

Quelques mois plus tard, un modèle d’OpenAI produisait une preuve réfutant la conjecture des distances unitaires d’Erdős, un problème extrêmement difficile, suffisamment ardu pour constituer un véritable défi pour des mathématiciens professionnels.

Et nous voici en septembre 2026 avec l’annonce d’une résolution du problème de Navier-Stokes, l’un des sept problèmes du millénaire de l’Institut Clay, chacun doté d’un prix d’un million de dollars.

En à peine 45 mois, on est passé d’un ChatGPT qui peinait sur des problèmes de niveau CM2 à la résolution d’un problème mathématique digne du niveau de la médaille Fields, l’équivalent du prix Nobel en mathématiques.

Il est d’ailleurs troublant de voir la fiction de Mary (Gifted, 2017) rejoindre la réalité : une fillette prodige passe, en quelques années, du niveau CM2 au défi de la médaille Fields. Aujourd’hui, cette « fillette » existe bel et bien — elle n’est simplement pas humaine, et elle s’appelle l'IA… ou la Fiancée de Frankenstein, c’est selon.

Pour aller plus loin : l’article de Pour la Science consacré à cette annonce d’OpenAI
signaler
  • J’aime
1 réaction
  • SweetMask
#12
Citation :
une IA, ça peut facilement halluciner


Il nous est surtout rassurant de penser que face à une réponse qui ne nous convient pas car jugée erronée l’IA hallucine, le terme hallucination est avant tout le jugement issu d’un biais perceptif et cognitif humain,

L’algo lui a été parfait dans son exécution, lui faire porter la responsabilité d’un code mal branlé est une manière de dédouaner celui qui code cad l’humain.

Et c’est tout ce qui revient en permanence avec l’IA elle est le bouc émissaire idéal de notre absence de responsabilité face à notre propre médiocrité.
signaler
  • J’aime
1 réaction
  • will01
#13
"Hallucination" en machine learning est un terme scientifique strict.
C'est le moment où la prédiction statistique génère une fausse donnée. C'est pas un jugement humain, c'est un fait mathématique.
Un LLM prédit ce qui parait vrai, pas ce qui est vrai. Il ne vérifie rien, il assemble des mots.

Bref, sinon on dit la même chose Shantee, le problème c'est l'humain, pas l'IA.

il n'est pire aveugle que celui qui ne veut pas voir

signaler
  • J’aime
3 réactions
  • will01
  • Belford
  • SweetMask
#14
C’est un terme employé par des humains pour décrire un phénomène qui trouve sa cause dans les erreurs de programmation de l’humain,

L’IA hallucinera éventuellement quand elle sera pleinement autonome, en attendant il est plus question de négligence humaine prévisible au vu de la complexité des modèles mis en oeuvre
signaler
  • J’aime
1 réaction
  • will01
#15
Shantee,

Dire confabulation est effectivement plus rigoureux pour décrire le comportement d'un LLM, mais hallucination reste de loin le terme le plus utilisé.

Pour aller plus loin : Hallucination vs Confabulation
signaler
#16
Bon, je passe vite fait ici. Pas encore lu les messages, j'y reviendrai.
Mon avis, est que l'IA occasionne un bouleversement majeur, qui va se prolonger. Plein de gens ne feront plus de musique, d'autres en feront très différemment.
Par contre, je pense, en observant ce que cela suscite chez moi, que ce sont d'abord les branleurs, les poseurs qui vont disparaître du terrain des vrais artistes. C'est le branleur et le poseur qui est en moi qui s'effondre. Je le vois aussi parmi les amateurs que je suis sur les réseaux: certains se sont mis à l'IA. Et ce ne sont pas ceux qui me paraissaient avoir le plus de talent.
Des dégâts, ça en fera. Mais du nettoyage aussi.
signaler
#17
Citation de Belford (voir le message) :
Shantee,

Dire confabulation est effectivement plus rigoureux pour décrire le comportement d'un LLM, mais hallucination reste de loin le terme le plus utilisé.

[/url]


avant on disait un "bug" et ça signifiait une coquille dans le code dont la responsabilité incombait au devellopeur, qui la corrigeait
signaler
#18
Bon, je passe vite fait ici. Pas encore lu les messages, j'y reviendrai.
Mon avis, est que l'IA occasionne un bouleversement majeur, qui va se prolonger. Plein de gens ne feront plus de musique, d'autres en feront très différemment.
Par contre, je pense, en observant ce que cela suscite chez moi, que ce sont d'abord les branleurs, les poseurs qui vont disparaître du terrain des vrais artistes. C'est le branleur et le poseur qui est en moi qui s'effondre. Je le vois aussi parmi les amateurs que je suis sur les réseaux: certains se sont mis à l'IA. Et ce ne sont pas ceux qui me paraissaient avoir le plus de talent.
Des dégâts, ça en fera. Mais du nettoyage aussi.

2 précisions sur moi:
J'utilise beaucoup l'IA au boulot (j'ai un compte max chez anthropic, pour donner une idée). Mais je suis un scientifique, pas un artiste.
Pour la musique, l'effet de l'IA générative - sans que je l'utilise: je parle du climat autour de moi que cela suscite - est que je maquette moins, et bosse plus mon instrument. Je crois que, comme pour la dématérialisation des supports, la réponse, c'est la performance (live).
signaler
#19
Shantee,

Il est important de distinguer :

Le système déterministe (logiciel classique, anciens systèmes dits "experts"), où le bug provient généralement d’une erreur humaine explicite dans le code source (règles logiques if...then). Le comportement erroné est alors directement localisable et, dans ce sens, imputable au développeur.

Du système probabiliste (LLM), où la situation est différente. Le développeur ne code pas explicitement les réponses que le modèle va produire. Il entraîne un modèle à partir de données, qui génère ensuite des réponses en fonction de probabilités apprises. Une réponse donnée peut donc n’avoir jamais été prévue ni écrite par le développeur.

La confabulation est un comportement inhérent au fonctionnement probabiliste et génératif du modèle : de même que le LLM peut produire une réponse qui n’a jamais été codée par le développeur, il peut produire une erreur qui n’a pas davantage été "codée" par celui-ci.

Assimiler systématiquement une confabulation à un "bug" est trompeur : bug = défaut de l’implémentation, confabulation = sortie erronée produite par le comportement génératif du modèle.

Voici une vidéo dans laquelle Quentin Adam, patron de Clever Cloud, parle de la manière dont il se prémunit des erreurs de ce type. Par ailleurs, il disait il y a à peine quelques mois que l'IA n'était qu'un perroquet statistique, aujourd'hui, il refonde sa boîte de fond en comble :

On ne paie plus les développeurs pour écrire du code

Le génie logiciel est peut-être l'activité humaine la plus impactée par l'IA générative.

Même si, là, on s’éloigne de l’IA musicale, il est intéressant de bien comprendre à quoi nous sommes confrontés.
signaler
  • J’aime
1 réaction
  • VSTI
#20
Citation de Belford (voir le message) :
Shantee,

Du système probabiliste (LLM), où la situation est différente. Le développeur ne code pas explicitement les réponses que le modèle va produire. Il entraîne un modèle à partir de données, qui génère ensuite des réponses en fonction de probabilités apprises. Une réponse donnée peut donc n’avoir jamais été prévue ni écrite par le développeur.

.


ok le dev a pas pu tout prévoir mais bon :

qui code ?
qui nourri et avec quoi?
qui apprend et comment ?
qui determine les filtres et sur quelle base morale ?
signaler
  • J’aime
1 réaction
  • Ekladam
#21
Shantee,

La responsabilité humaine ne disparaît pas, mais la confabulation est une bête à part… et pas tout à fait un insecte (bug) ;)

Maintenant, cette distinction entre bug et confabulation a une conséquence assez immédiate : il est impossible d’attendre d’un LLM qu’il garantisse l’exactitude des faits. Ce constat doit nous inspirer un principe de précaution : chaque réponse doit, par défaut, être considérée comme potentiellement erronée, et la responsabilité de sa vérification incombe entièrement à celui qui emploie l’outil.

Une illustration concrète : L'intelligence artificielle générative à l'épreuve du prétoire : l'émergence d'une jurisprudence transversale sur les hallucinations algorithmiques

Citation :
Dans l’affaire Mata v. Avianca, des avocats ont utilisé ChatGPT, qui a produit des confabulations sous la forme de décisions jurisprudentielles fictives citées dans un mémoire. Après avoir été alertés, ils n’ont pas immédiatement vérifié leurs sources. Le juge a sanctionné l’un des avocats d’une amende de 5 000 dollars.


Après les jeux comme les échecs et le go, les mathématiques et le génie logiciel, les professions juridiques sont elles aussi impactées par les LLM.

Reste à savoir quel sera, pour la musique, son "moment Deep Blue-Kasparov". Si je devais m’aventurer à situer ce basculement, ce ne serait certainement pas avec Walk My Walk de Breaking Rust, généré par Suno.

Le véritable test sera ailleurs : ce sera la "Dixième de Beethoven", au sens de Margaret Boden : explorer, voire transformer, un espace conceptuel.

Citation :
Spoiler - Cliquer ici pour lire la suite
La typologie de la créativité selon la chercheuse en sciences cognitives Margaret Boden, souvent mobilisée dans les domaines de l’intelligence artificielle et de la créativité computationnelle, distingue trois formes de créativité :

La créativité combinatoire (combinational creativity) : elle consiste à associer des idées, des concepts ou des éléments familiers et existants pour en former de nouveaux — par exemple, en réalisant des collages ou en métissant des styles.

La créativité exploratoire (exploratory creativity) : elle consiste à générer de nouvelles idées en parcourant et en exploitant un espace conceptuel structuré — un style artistique, un genre musical ou encore un ensemble de règles scientifiques — déjà existant.

La créativité transformationnelle (transformational creativity) : c’est la forme la plus radicale. Elle consiste à modifier ou à transgresser les règles, les limites ou les structures fondamentales de l’espace conceptuel lui-même, permettant ainsi de concevoir des choses qui étaient auparavant jugées impossibles dans l’ancien cadre.
signaler
  • J’aime
3 réactions
  • totounet
  • SweetMask
  • Ekladam
#22
https://darioamodei.com/post/we-must-pace-the-frontier

https://docks-mastering.com/

Creation d'un studio de mastering

Trucs à vendre

signaler
  • J’aime
2 réactions
  • Ekladam
  • Belford
#23
Citation de DocK'S (voir le message) :
https://darioamodei.com/post/we-must-pace-the-frontier


en résumé de l'article :
Amodei rappelle que l’IA peut apporter des bénéfices immenses :

- guérir des maladies
- accélérer la croissance économique
- améliorer la démocratie (c'est sans compter sur nos politiques, nos élus)

Mais les risques sont désormais très sérieux :

- perte de contrôle
- cyberattaques et bioterrorisme
- perturbations économiques

Il insiste sur un point, depuis cet été, l’IA progresse beaucoup plus vite, car elle commence à s’auto‑améliorer, cela pourrait dépasser notre capacité à comprendre et contrôler les systèmes.

à mon sens, donner aux grandes entreprises une position de gardiennes du rythme de l’IA. C’est une position politique, formulée par un acteur qui a tout intérêt à ce que son entreprise devienne un acteur central de la régulation. On connait bien ça chez nous.


La musique est la langue des émotions.

Emmanuel Kant

signaler
  • J’aime
2 réactions
  • Belford
  • Ekladam
#24
SweetMask,

Il y a un point important dans le message de Dario Amodei du 12 septembre qui mérite d’être davantage souligné : son propos porte avant tout sur la nécessité de maîtriser le rythme auquel ses capacités progressent afin que les moyens de contrôle puissent suivre.

Et cette proposition a déjà suscité, le jour même, deux réactions assez remarquables.

Elon Musk lui a répondu : Dario is right.

Sam Altman a réagi de façon un peu plus développée : I agree with Dario that we need to pace the frontier. (Je suis d’accord avec Dario : nous devons maîtriser le rythme auquel nous repoussons les limites de l’IA.)

Altman précise que cette question est devenue un sujet majeur des discussions chez OpenAI ces dernières semaines.
signaler
#25
Avec tout le respect qu’on peut avoir pour ces personnes, le niveau philosophique qu’ils déploient avec leur com est assez affligeant, ça va vraiment pas très loin, c’est d’ailleurs ce qui est plus effrayant que l’IA elle même

De grands ingénieurs, des industrieux hors pair, mais on peut pas vraiment dire qu’ils ont faits leurs « humanités », ça effleure à peine l’écume des choses

« Science sans conscience n’est que ruine de l’Homme » n’a jamais été aussi vraie,

signaler
  • J’aime
  • J’adore
4 réactions
  • skarabee.nc
  • BBmiX
  • Alex Plosion
  • Ekladam