Le Conservatoire a une longue histoire, qui remonte à 1820, avec la fondation de l'Ecole de Musique de Toulouse, peu après rattachée au Conservatoire de Paris.
De 1866 jusqu'à 1993, il est resté rue Labéda, avant de déménager pour des locaux plus importants, et surtout répartis en divers endroits : le corps de bâtiment principal de la rue Larrey, Saint-Pierre des Cuisines et son auditorium et 6 antennes de quartiers.
C'est grâce à ces infrastuctures que se diffuse la musique et son enseignement.