Hizo sus estudios en Guadalajara y en la Universidad Central de Madrid, donde se doctoró en Medicina el año 1850. Se doctoró con el trabajo "Influencia que la Filosofía ha ejercido en la Medicina". Fue jefe del partido conservador de la provincia de Guadalajara. Alcanzó los puestos de concejal y alcalde del Ayuntamiento de la capital de la provincia. Fue diputado a Cortes y presidente de la comisión permanente. Académico de la de Medicina y de la Historia. Fue uno de los promotores de la construcción del edificio de la Diputación Provincial. Escribió muchos artículos en la Revista del Ateneo Científico, Literario y Artístico de Guadalajara. Como alcalde, realizó muchas mejoras en la ciudad, iniciándose con él la colocación de tuberías de hierro para la conducción de aguas; instalación de fuentes y urinarios públicos, e introduciendo el alumbrado de petróleo por las calles. Inició también la construcción de un nuevo mercado de abastos.

Además de médico notable, fue buen orador, y escribió sobre muchos temas; hombre de acendradas ideas religiosas, bondadoso y muy amante de los pobres, figuró entre los fundadores del Ateneo científico, literario y artístico de esta ciudad, y por sus méritos y servicios fue nombrado comendador de las órdenes de Carlos III y de Isabel la Católica otorgándosele la Cruz de Beneficencia. Murió Atienza en Guadalajara el 20 de julio de 1890, y el Ayuntamiento, para honrar su memoria, puso su nombre a la antigua plaza de la Cruz Verde de esta ciudad.

Como escritor, realizó numerosos estudios sobre el pasado alcarreño, iniciando la elaboración de una "Historia de Guadalajara" que no llegó a concluir, y publicando numerosos artículos en la prensa local. De sus múltiples investigaciones recopiló abundantes notas que manuscritas hoy se conservan en el Archivo Histórico Municipal de Guadalajara.