José Mª. Rubio nació en Dalías, Almería, el 1864. Fueron doce hermanos. Estudió en los Seminarios de Almería, Granada, Madrid y Toledo, donde se graduó en Derecho Canónico. Fue ordenado sacerdote el 1887.

La primera etapa está centrada en su vida de sacerdote diocesano en la diócesis de Madrid. Coadjutor en Chinchón, párroco en Esterera, oposiciones a canónigo en la catedral, profesor en el Seminario, capellán de las Bernardas, confesor de las Reparadoras, Notario de la Curia...

A propósito de sus múltiples apostolados, dijo del P. Rubio el Sr. Obispo de Madrid, D. Leopoldo Eijo y Garay: "No parece sino que quiso Dios que fuese un poco de todo, para que todos, coadjutores y párrocos, profesores y capellanes y curiales, se pudiesen mirar en él como en dechado y modelo del clero secular. Hasta el obispado conserva el recuerdo de su virtud".

La segunda etapa de su fecunda vida se desarrolla ya en la Compañía de Jesús. Hacía tiempo que lo maduraba. Al peregrinar a Tierra Santa y Roma, pasa por Manresa y allí se decide definitivamente. Hizo el Noviciado en Granada, convive en Sevilla con el santo y famoso predicador P. Tarín, y el 1911 comienza su febril apostolado como "apóstol de Madrid".

Así se le ha llamado con todo derecho. Dos eran sus cátedras: el confesonario y el púlpito. Eijo y Garay reconoce que no había otro confesonario con más trabajo en Madrid. "No era sólo un vaciadero de pecados era principalmente una forja de espíritus. Se buscaba sobre todo la formación".

Además el P. Rubio hacía trabajar. Uno de sus grandes secretos se cifró en lanzar a los seglares sobre Madrid y sus alrededores. Fue un adelantado del apostolado seglar hacia lejanos y marginados.

Cuando quedaba libre de sus dos cátedras, iba en busca de pobres y enfermos. Iba sin miedo a los suburbios, zonas muy conflictivas, armado únicamente de su bondad. Buscaba almas necesitadas, donde estuvieran. Acogía a todos, y a las personas pudientes las integraba en su apostolado.

Fundó o promovió muchas obras: Damas Apostólicas del Sagrado Corazón, Marías de los Sagrarios, La Guardia de Honor. Promocionó el Monumento del Cerro de los Ángeles. Años intensos en un Madrid difícil.

El 2 de mayo de 1929 moría santamente el apóstol de Madrid. Sus restos descansan en la iglesia de Maldonado y son objeto de gran veneración. El 4 de mayo de 2003 fue canonizado por el Papa Juan Pablo II.