Se connecter
Se connecter
Mot de passe oublié ?
ou
Créer un compte
ou
Se connecter avec Facebook
Notifications
< Retour vers Bidouille & Développement Informatique
Agrandir
Bidouille & Développement Informatique
Les Mains dans le Cambouis
Bidouille & Développement Informatique
Actu 1 1
Articles
Médias 33 33
Tutoriels
Forums 326 326

Le pub des programmeurs

  • 1 925 réponses
  • 117 participants
  • 123 253 vues
  • 130 followers
Sujet de la discussion Le pub des programmeurs
Salut :coucou: y a des programeurs sur AF si oui vous bossez sous quoi ?
Afficher le sujet de la discussion
431
GMM = Gaussian Mixture Model. En gros, l'idee est de modeliser des donnees en utilisant un modele de melange de gaussiennes: tu ecris la pdf de ton modele par f(x; theta) = somme(a_i * f(x; mu_i, va_i)) ou les K f(x, _mu_i, va_i) sont des gaussiennes multivariees, les a_i des poids positifs dont la somme est egale a 1.

L'algorithme EM permet de calculer les parametres a, mu et va en utilisant le principe du maximum de vraisemblance. Tu peux montrer (facile) que le modele est equivalent a un modele ou tu tires au hasard un entier i parmi K avec probabilite a_i, et tu generes un echantillon issue d'une variable aleatoire gaussienne de paramettres mu_i, va_i. Ca permet de faire du clustering. Il y a une litterature enorme sur le sujet (modeles de melanges et "apprentissage statistique"; je hais le terme apprentissage, mais c'est l'expression consacree).

C'est utilise en parole (reconnaissance de parole et de locuteur), et dans enormement d'autres champs ou l'apprentissage statistique est utilise. Perso, j'utilise des versions recursives (ou tu estimes les parametres recusrivement, cad "online") pour faire de la detection de voix (j'ai un papier la dessus a interspeech 2006 si ca t'interesse et que tu as acces aux proceeding de interspeech).
432

Citation : je hais le terme apprentissage


Pourquoi ca?
433

Citation :
un condensé de ce que l'on troue dans torch



Chez moi, ca donne ca :) :



    #===========================================

    # GMM of 30 comp, 45 dimension, 1e5 frames

    #===========================================

    d       = 45

    k       = 30

    nframes = 1e5

    niter   = 10

    mode    = 'diag'



    #+++++++++++++++++++++++++++++++++++++++++++

    # Create an artificial GMM model, samples it

    #+++++++++++++++++++++++++++++++++++++++++++

    # Generate a model with k components, d dimensions

    w, mu, va   = GM.gen_param(d, k, mode, spread = 3)

    gm          = GM.fromvalues(w, mu, va)



    # Sample nframes frames  from the model

    data    = gm.sample(nframes)



    #++++++++++++++++++++++++

    # Learn the model with EM

    #++++++++++++++++++++++++

    # Init the model

    lgm = GM(d, k, mode)

    gmm = GMM(lgm, 'kmean')



    em  = EM()

    like= em.train(data, gmm, niter)


Utiliser entierement du C++, ca me parait vraiment debile aujourd'hui (enfin, je vais pas rouvrir le debat, il a ete fait aujourd'hui meme), surtout si c'est pour utiliser de l'arithmetique de pointeurs que n'importe quel compilateur digne de ce nom peut faire par lui meme a partir des indexes depuis au moins 10 ans.
434

Citation :
Pourquoi ca?



Ben je sais pas, en maths, quand tu fais de l'interpolation, t'appelles pas ca de l'apprentissage. C'est un terme ultra-pompeux, comme intelligence artificielle ou reseau de neurones; tout le monde sait que ca n'a plus rien a voir ni avec l'intelligence ni le cerveau, mais on fait semblant, parce que ca fait plus classe.

C'est comme certains nouveaux trucs a la mode, "document understanding" ou "speech understanding"; tout ca pour te filer un resume qui contient la premiere et derniere phrase du document dans 95 % des cas... Mais bon, la encore c'est un autre debat.
435

Citation :
est un terme ultra-pompeux, comme intelligence artificielle ou reseau de neurones;


héhé. C'est à la mode. Mais bon, pour le document understanding c'est normal : ce sont généralement les mêmes équipes de recherches, ou des transfuges, que ceux qui utilisent journaiérement les termes d'apprentissage automatique.

Parce qu'on peut qualifier tout système avec feedback, résonant, de système à apprentissage automatique, non ? Je n'ai jamais rencontré de définition qui me convienent, concernant l'apprentissage automatique. Mais ce n'est peut être du qu'à mon ignorance !

Prenons le paradygme le plus sexy dans l'histoire, pour valoriser son travail. Le fonctionnement de l'homme et de sa pensée en est un !

Pour les réseaux de neurones par contre, j'ai rencontré tout une litterature bien précise sur le sujet. C'est utilisé dans beaucoup de domaines, l'approche est bien défini, et l'on connait les limitations. C'est ptet à la mode, mais c'est vieux comme concept !

http://soundcloud.com/bat-manson

436
Tiens c'est la première fois que je remarque la faute d'orthographe à pub des prograMeurs...

http://soundcloud.com/bat-manson

437

Citation :

Pour les réseaux de neurones par contre, j'ai rencontré tout une litterature bien précise sur le sujet. C'est utilisé dans beaucoup de domaines, l'approche est bien défini, et l'on connait les limitations. C'est ptet à la mode, mais c'est vieux comme concept



Je sais bien que c'est vieux, mais ca fait longtemps que ca n'a plus rien a voir avec les neurones. Tu prends un des bouquins de ref, qui a deja plus de 10 ans, neural networks for pattern recognition de Bishop (Excellent bouquin par ailleurs), ca n'a rien a voir avec les neurosciences.J'en discutais d'ailleurs il y a 2 jours avec un americain qui bosse dans un labo de neuro sciences au Japon, ce ce type de defauts semantiques (mais apres quelques bieres, ca a devie sur foxnews et les rednecks :oops: ). Les reseaux de neurones sont plus trop a la mode, d'ailleurs, en machine learning, j'ai l'impression; maintenant, c'est plus SVM et methodes bayesiennes (reseaux bayesiens).

Les raisons pour le document understanding et cie, je suis bien conscient des raisons :)

Citation :
Parce qu'on peut qualifier tout système avec feedback, résonant, de système à apprentissage automatique, non ?



Ouais, donc un algo de newton, c'est un algo d'apprentissage, quoi.
438

Citation :
Tiens c'est la première fois que je remarque la faute d'orthographe à pub des prograMeurs...



Si on est rigoureux, on dirait pas programmeur de toute facon pour designer quelqu'un qui programme. Un programmeur, c'est le truc que tu mets sur ta prise electrique pour faire marcher le grille pain a 8 heures du matin.
439
Je pense que d'aborder les réseaux de neurones avec l'analogie des neurones aide quand meme pas mal à comprendre...
Le bouquin de Bishop est effectivement super. Je l'avais lu pour mon TIPE en prépa. Je l'avais fait sur les reseaux de neurones et l'apprentissage automatique du langage. Si c'est pas sexy comme sujet !

J'étais tombé sur un prof de physique qui avait des gosses et une prof de math qui était passionné des questions d'intelligence. Le coup de bol. 17 au final, juste à cause d'un sujet sexy, vraiment pas à cause de mon taf effectif (même si j'avais vachement bossé, j'ai rien pu montrer de ce que j'avais fait !)

http://soundcloud.com/bat-manson

440

Citation :
Un programmeur, c'est le truc que tu mets sur ta prise electrique pour faire marcher le grille pain a 8 heures du matin.


Non ça c'est un programmateur ! :clin:

http://soundcloud.com/bat-manson