O núcleo original da coleção é constituído pela biblioteca do abade Francesco que, ao falecer em Roma em 1703, havia disposto que sua própria biblioteca, conservada no palácio de via Condotti, fosse destinada à criação de uma biblioteca pública em Florença onde, no momento de sua morte, não existia uma instituição desse tipo.
Foi construído um edifício novo e não se recorreu à adaptação de um imóvel preexistente, como havia ocorrido em muitas bibliotecas abertas nos séculos XVII e XVIII.
A construção foi realizada pelo sobrinho do fundador, Alessandro Marucelli, que também doou seus próprios livros e nomeou bibliotecário Angelo Maria Bandini, que administrou a Biblioteca por cerca de cinquenta anos. Entre os bibliotecários que se sucederam na direção da instituição, devem ser lembrados Francesco Del Furia, Guido Biagi, Desiderio Chilovi e Enrico Jahier que, por competência e atividade desenvolvida, tiveram relevância também em âmbito internacional.
Foi sob a direção de Bandini, em 1783, que entrou na Marucelliana a coleção de desenhos e gravuras reunida pelo último representante da família, Francesco di Ruberto. Outros aumentos consideráveis chegaram à Biblioteca em consequência das supressões conventuais, grão-ducal e napoleônica, e finalmente aquela ocorrida em 1866 nos primeiros anos do Reino da Itália. Esse incremento permitiu a entrada na Biblioteca da maior parte das cinquecentinas e incunábulos atualmente possuídos.
Na segunda metade do século XIX e na primeira do século seguinte chegaram e se constituíram na Biblioteca vários fundos de caráter histórico, artístico, literário e político como o legado Martelli, a coleção Bonamici, a correspondência Nencioni, a Arte industrial, etc.
Após a lei de 1910, que instituiu o depósito obrigatório das impressões, começaram a chegar à Marucelliana as edições impressas nas quatro circunscrições da província de Florença, Pistóia, San Miniato e Rocca San Casciano. Até hoje a Biblioteca é destinatária das obras impressas em Florença e província.
