Después de que la expedición de Pedro de Mendoza se marchara de estas tierras, este terreno quedó abandonado y tiempo después lo compró un ingles, Charles Ridgley Horne en 1846. Horne construyó una mansión y diseñó jardines de estilo inglés, lo que sentó las bases para el futuro parque.

En 1857, Horne vendió la propiedad a José Gregorio Lezama, un acaudalado comerciante/prestamista y proveedor del ejercito argentino. Lezama amplió la mansión y la redecoró dándole estilo italiano. Construyó la torre mirador para poder ver al rio, embelleció los jardines, convirtiendo a su quinta en uno de los espacios verdes privados más destacados de la ciudad. 

Tras la muerte de José Gregorio Lezama en 1894, su viuda, Ángela Álzaga de Lezama, vendió la propiedad a la Municipalidad de Buenos Aires en 1896, con la condición de que se convirtiera en un parque público que llevara el nombre de su difunto esposo y más tarde se reubicó en la mansión al Museo Histórico Nacional, contando con piezas muy importantes para la historia Argentina como el sable corvo de San Martin.