Nació en Salamanca. Estudio en los seminarios de Salamanca y Ciudad Rodrigo, doctorándose en Teología y Cánones. Ordenado sacerdote en 1904 y Catedrático de la Universidad Pontificia de Salamanca en 1905
En diciembre de 1907 es nombrado Secretario de Cámara y Gobierno del Obispo de Plasencia Francisco Jarrín Moro, ese mismo mes es nombrado agente de preces y Director del Boletín Episcopal de la Diócesis de Plasencia hasta noviembre de 1915, gano una canonjía de la Catedral de Plasencia en julio de 1908, nombrado juez examinador prosinodal el 5 de febrero de 1909. Fue unos de los accionistas fundadores de la Caja de Ahorros de Plasencia el 11 de abril de 1911 y ese mismo año consiguió el cargo de maestre-escuela de la Catedral de Plasencia desde septiembre de 1911 hasta enero de 1914, en 1912 fue designado Secretario del Gobierno Eclesiástico y administrador de los fondos diocesanos desde noviembre de 1913 a enero de 1914 y gobernador eclesiástico desde noviembre de 1913 a enero de 1914 por vacancia de la sede. El 24 de diciembre de 1918 Alfonso XIII firma su nombramiento como Deán de la Catedral de Plasencia hasta el 15 de enero de 1923 en que le nombra Dean de la Catedral de Toledo.
Dirigió la revista Las Hurdes, organizó el Congreso Nacional Hurdanófilo celebrado en Plasencia, fundó y dirigió el periódico Regional (1907-1914) durante su primera época. Participó en el Congreso Eucarístico Internacional de Viena, en el Congreso Social de las Asociaciones del Norte, celebrado en Plasencia, en la Asamblea de la Buena Prensa, en Zaragoza, y en el Congreso de Previsión Social de Barcelona.
El 25 de enero de 1923 fue nombrado deán de la catedral de Toledo. Ingresó como académico en la RAH el 5 de abril de 1925, y fue asimismo vicepresidente del Consejo del Patronato de Previsión del Instituto Nacional de Previsión, presidente de la Comisión Provincial de Monumentos, de la Esclavitud de Nuestra Señora del Sagrario y de la Dirección de Peregrinaciones a Roma y Oriente. Colaboró con asiduidad en los periódicos ABC y Mundo Católico, así como Prensa Asociada, y dirigió la revista Tierra santa y Roma. También escribió para La Razón de Buenos Aires y otros periódicos y revistas extranjeros.
Al proclamarse la II República, el deán José Polo se presentó como candidato a las Cortes constituyentes por la circunscripción de Cáceres en las filas del partido Acción Nacional, luego Acción Popular, organizado por Ángel Herrera Oria, pero no fue elegido.
El 23 de julio de 1936, fue detenido en su casa por un grupo de milicianos y conducido a la Diputación Provincial y de allí a la prisión provincial. De ella fue sacado junto con un grupo de otros 80 detenidos y, conducidos todos a las inmediaciones de la Puerta del Cambrón y la Fuente Salobre, fueron fusilados en la noche del 23 al 24 de agosto.
Benedicto XVI lo beatificó en Roma el 28 de octubre de 2007. Sus restos reposan hoy en la capilla del Sagrado Corazón de la catedral.
