En un acuerdo del cabildo de la villa de Palma, con data 1389, añadido a las Reglas de la Cofradía de Santa María, conservadas en el Archivo Histórico Municipal, consta como las autoridades locales de la época ordenaban que al fallecer un cofrade no debía velarse en su domicilio, sino que había de ser trasladado a la iglesia de Santa María (actual Parroquia de la Asunción) para ser inhumado, tras la misa de Réquiem, en el cercano cementerio.
El Hospital de San Sebastián hubo de tener su propio cementerio. Así consta por Bula y Privilegio concedido a la institución y autorizado en la villa de Palma en 27 de septiembre de 1691. El documento en cuestión forma parte de los “papeles de la Casa de Palma" que se conservan en el Archivo Ducal de Alba.
De los aledaños de la parroquia de La Asunción el cementerio se trasladará a la zona de los actuales jardines del Parque. En sesión del pleno municipal con fecha 21 de septiembre de 1932, se acuerda que la casa propiedad del Ayuntamiento situada en el lugar denominado cementerio viejo se habilite para vivienda del guarda y servicio de guardería del nuevo Grupo Escolar Joaquín Costa (posteriormente Primo de Rivera y actual Parque).
A principios del siglo XX, el cementerio municipal se localiza en el lugar en el que actualmente lo conocemos. El 24 de junio de junio de 1901 el alcalde Manuel Rodríguez Quintana manifestaba ante el resto de miembros de la Corporación su deseo de que se regase “la arboleda existente en el paseo de las acacias y demás (especies arbóreas) puestas en el nuevo cementerio".
Durante la Segunda República (1931-1936), y en cumplimiento de la Ley de 30 de enero de 1932 de Secularización de los Cementerios, desde Alcaldía se dirigió oficio al párroco de La Asunción para que se abstuviese de “dar manifestación alguna de carácter religioso al enterramiento de los cadáveres como no sea estando cumplidos los requisitos legales que previene el artículo 4º (¿?) de la Ley antedicha" Se acordaba además “hacer desaparecer toda diferencia existente en el cementerio municipal con motivo de religión". En este período también serán frecuentes la realización de obras “de consolidación" en el cementerio municipal para dar trabajo a los obreros en paro.