Andrew Ng: Qual è il futuro dei modelli grafici probabilistici?

Beh, ho sempre detto che i PGM sono come l'integrazione multivariata o la combinatoria. Sono una classe davvero importante di teoria e metodi per capire un sacco di modellazione (in questo caso, di solito nei sistemi intelligenti). Rimarranno tali. Nulla cambierà.

Non vedo i PGM in competizione con strumenti come i GLM (modelli lineari generalizzati) o i DNN (reti neurali profonde) o gli NMF (fattorizzazione di matrice non negativa), o gli SVM, LDA, PCA, kNN, ecc, che sono molto più vicini al livello delle applicazioni. Anche se alcuni gruppi "vendono" PGM, ad esempio, software e sistemi diagnostici, per la modellazione, e fanno bene.

In genere, non si vedono annunci di lavoro per "deve conoscere le trasformate di Fourier" o "comodo con l'uso di identità fattoriali". Allo stesso modo, non mi aspetto di vedere annunci di lavoro che chiedono "familiarità con l'algoritmo somma-prodotto."

Tuttavia, per quanto riguarda la formazione avanzata nell'apprendimento automatico (dottorato o forse master), se le persone non conoscono le basi, ad esempio, come l'algebra lineare, le distribuzioni della famiglia esponenziale, MCMC, ottimizzazione semplice, strutture dati e algoritmi, e modelli grafici probabilistici, li trovo gravemente carenti di capacità. Questo perché, come strumento concettuale spiega e sostiene un'enorme quantità di teoria dell'apprendimento. I PGM non sono importanti come l'algebra lineare, o il calcolo di base, ma ci sono vicini.