Cosa è più complicato matematicamente. OpenGL o OpenAL?

Bene, potete imparare entrambi senza conoscere la matematica. Ciò che è complicato è come li userete. Quindi, è più tra Computer Graphics e programmazione Audio 3D.

La matematica per la Computer Graphics è abbastanza facile (per le cose di base che si trovano nei giochi), ed è per lo più trigonometria e algebra lineare, ma una volta che si arriva a cose più avanzate, si affronta la Geometria Differenziale, Probabilità (Monte Carlo), un po' di Fisica (BRDF basate sulla fisica) che significa anche un po' di Calcolo (Integrali nelle Equazioni di Rendering).

Non ho fatto nessuna programmazione audio, ma dalla mia esperienza nel riconoscimento vocale, la matematica dovrebbe essere qualcosa come Algebra Lineare, Probabilità e Statistica (molto importante), Elaborazione digitale del segnale, Analisi di Fourier, Trigonometria.

Inoltre, è molto probabile incontrare alcuni metodi numerici in entrambi i campi (in CG se si va in studi avanzati)

Quindi se ci si attiene alle cose di base in Computer Grafica, la matematica sarà abbastanza facile e posso dire che la programmazione Audio 3D è più complicata.

Una volta che ci si addentra nelle cose avanzate come le BRDF a base fisica (modello Cook-Torrance per esempio), Global Illumination (Photon-mapping, Raytracing, ecc.) la matematica può diventare piuttosto avanzata. Beh, dipende da cosa ti piace di più. Se hai un background di EE, probabilmente troverai l'audio abbastanza facile e la grafica non così difficile.
Con un background di CS, penso che la CG sarà più adatta a te, il che significa più facile.