Estudió en la Universidad de Salamanca como colegial del Colegio Mayor del Arzobispo de esta ciudad, llegando a doctorarse en Cánones, fue canónigo doctoral de la Catedral de Osma y en la de Toledo fue también arcediano, canónigo y examinador sinodal.
El 13 de septiembre de 1701 fue elegido presidente de la Real Chancillería de Granada, siendo elegido también de forma honorífica consejero de Castilla. Además, el 1704 fue nombrado comisario general de la Santa Cruzada, presidiendo el consejo del mismo departamento.
Posteriormente el 10 de noviembre de 1713 fue nombrado presidente del Consejo de Castilla, pero su delicada salud provocó su cese en noviembre de 1714. De este modo, el 16 de abril de 1714, fue nombrado obispo de Sigüenza, tomando posesión de dicho cargo el 25 de junio.
Nació en Salamanca. Estudio en los seminarios de Salamanca y Ciudad Rodrigo, doctorándose en Teología y Cánones. Ordenado sacerdote en 1904 y Catedrático de la Universidad de Salamanca en 1905
En 1907 es el Secretario de Cámara y Gobierno del Obispo de Plasencia Francisco Jarrín Moro, nombrado juez examinador prosinodal el 5 de febrero de 1909 siendo canónigo. En 1911 maestre-escuela de la catedral de Plasencia, en 1912 secretario del Gobierno Eclesiástico y administrador de los fondos de la Diócesis de Plasencia, en 1913 gobernador eclesiástico por vacancia de la sede y en 1918 Deán de la Catedral de Plasencia.
Dirigió la revista Las Hurdes, organizó el Congreso Nacional Hurdanófilo celebrado en Plasencia y fundó y dirigió el periódico Regional (1907-1914). Participó en el Congreso Eucarístico Internacional de Viena, en el Congreso Social de las Asociaciones del Norte, celebrado en Plasencia, en la Asamblea de la Buena Prensa, en Zaragoza, y en el Congreso de Previsión Social de Barcelona.
El 25 de enero de 1923 fue nombrado deán de la catedral de Toledo. Ingresó como académico en la RAH el 5 de abril de 1925, y fue asimismo vicepresidente del Consejo del Patronato de Previsión del Instituto Nacional de Previsión, presidente de la Comisión Provincial de Monumentos, de la Esclavitud de Nuestra Señora del Sagrario y de la Dirección de Peregrinaciones a Roma y Oriente. Colaboró con asiduidad en los periódicos ABC y Mundo Católico, así como Prensa Asociada, y dirigió la revista Tierra santa y Roma. También escribió para La Razón de Buenos Aires y otros periódicos y revistas extranjeros.
Al proclamarse la II República, el deán José Polo se presentó como candidato a las Cortes constituyentes por la circunscripción de Cáceres en las filas del partido Acción Nacional, luego Acción Popular, organizado por Ángel Herrera Oria, pero no fue elegido.
El 23 de julio de 1936, fue detenido en su casa por un grupo de milicianos y conducido a la Diputación Provincial y de allí a la prisión provincial. De ella fue sacado junto con un grupo de otros 80 detenidos y, conducidos todos a las inmediaciones de la Puerta del Cambrón y la Fuente Salobre, fueron fusilados en la noche del 23 al 24 de agosto.
Benedicto XVI lo beatificó en Roma el 28 de octubre de 2007. Sus restos reposan hoy en la capilla del Sagrado Corazón de la catedral.