Nació en Salamanca. Estudio en los seminarios de Salamanca y Ciudad Rodrigo, doctorándose en Teología y Cánones. Ordenado sacerdote en 1904 y Catedrático de la Universidad de Salamanca en 1905
En 1907 es el Secretario de Cámara y Gobierno del Obispo de Plasencia Francisco Jarrín Moro, nombrado juez examinador prosinodal el 5 de febrero de 1909 siendo canónigo. En 1911 maestre-escuela de la catedral de Plasencia, en 1912 secretario del Gobierno Eclesiástico y administrador de los fondos de la Diócesis de Plasencia, en 1913 gobernador eclesiástico por vacancia de la sede y en 1918 Deán de la Catedral de Plasencia.
Dirigió la revista Las Hurdes, organizó el Congreso Nacional Hurdanófilo celebrado en Plasencia y fundó y dirigió el periódico Regional (1907-1914). Participó en el Congreso Eucarístico Internacional de Viena, en el Congreso Social de las Asociaciones del Norte, celebrado en Plasencia, en la Asamblea de la Buena Prensa, en Zaragoza, y en el Congreso de Previsión Social de Barcelona.
El 25 de enero de 1923 fue nombrado deán de la catedral de Toledo. Ingresó como académico en la RAH el 5 de abril de 1925, y fue asimismo vicepresidente del Consejo del Patronato de Previsión del Instituto Nacional de Previsión, presidente de la Comisión Provincial de Monumentos, de la Esclavitud de Nuestra Señora del Sagrario y de la Dirección de Peregrinaciones a Roma y Oriente. Colaboró con asiduidad en los periódicos ABC y Mundo Católico, así como Prensa Asociada, y dirigió la revista Tierra santa y Roma. También escribió para La Razón de Buenos Aires y otros periódicos y revistas extranjeros.
Al proclamarse la II República, el deán José Polo se presentó como candidato a las Cortes constituyentes por la circunscripción de Cáceres en las filas del partido Acción Nacional, luego Acción Popular, organizado por Ángel Herrera Oria, pero no fue elegido.
El 23 de julio de 1936, fue detenido en su casa por un grupo de milicianos y conducido a la Diputación Provincial y de allí a la prisión provincial. De ella fue sacado junto con un grupo de otros 80 detenidos y, conducidos todos a las inmediaciones de la Puerta del Cambrón y la Fuente Salobre, fueron fusilados en la noche del 23 al 24 de agosto.
Benedicto XVI lo beatificó en Roma el 28 de octubre de 2007. Sus restos reposan hoy en la capilla del Sagrado Corazón de la catedral.
