Construído em 1850 pelo Barão da Lagoa, o terreno que hoje compreende o museu e o jardim histórico da Casa de Rui Barbosa, funcionou como espaço privado de três famílias até ser adquirido em 1927 pelo governo federal. Apesar da falta de dados que comprovem a autoria do paisagista Auguste Glaziou, especialistas acreditam que o traçado do jardim apresenta inspiração no trabalho do famoso paisagista francês.
Adquirido por Rui Barbosa em 1893 pelo valor de 130 contos de réis, o terreno passou por melhorias realizadas pelo construtor Antonio Jannuzzi. A partir de então este espaço passou a ser o retrato de uma família inserida em seu tempo, onde filhos e netos de Rui cresceram, e onde ele também pôde exercer seu amor pela jardinagem.
Após a morte de Rui Barbosa, o jardim foi modificado para que pudesse funcionar como espaço público. A partir de então, o local passou a apresentar tanto uma função de armazenar a memória de uma época e de seus personagens, quanto função de oásis no bairro de Botafogo. Apresentando aproximadamente 6.000m2 de extensão, o jardim da Casa de Rui Barbosa é hoje uma importante área de lazer e de refúgio em meio à agitação da cidade.
Em 13 de Agosto de 1930, o presidente Washington Luís abriu para o público as portas do local onde Rui Barbosa havia passado os últimos vinte e oito anos de sua vida. A composição arquitetônica e vegetal desse espaço passou a ser entendida como um jardim histórico apenas a partir da década de 1980, tendo como característica sua beleza, fruto principalmente dos trabalhos de Rui, mas também a preservação do legado deixado por este à sociedade brasileira.