La Puerta de Valmardón es una de las puertas más antiguas de la ciudad de Toledo. No es árabe puesto que no tiene arcos de herradura. Tampoco se parece a la Puerta Nueva de Bisagra ni a la de la Iglesia de Santiago del Arrabal. Todo indica que se edificó en tiempo de los visigodos por orden de Wamba, su rey. De ahí su nombre: Puerta del Valmardón.
Sus restos más antiguos están fechados en torno a los siglos IX y X, aunque los primeros documentos que la mencionan son de fecha posterior. La pérdida de su valor defensivo significó la desaparición de la estancia superior y de sus primitivas torres posiblemente ya en el siglo XV. En época medieval, tras la Reconquista, la Puerta de Valmardón fue cárcel de corte así como casa de carnicería perteneciente a la población musulmana.
En tiempo de los Reyes Católicos era la vivienda oficial del Corregidor de Toledo. Se sabe que se le cedió a Pedro Lasso de Castilla y que tuvo allí sus audiencias de Corregidor. A finales del siglo XVIII se trasladó a esta puerta el hospital de San Lázaro. Estaba lleno de tiñosos, sarnosos y leprosos. Se mantuvo esta utilización del edificio hasta mediados del XIX.