El núcleo originario de la colección está constituido por la biblioteca del abad Francesco que, al morir en Roma en 1703, dispuso que su biblioteca, conservada en el palacio de la vía Condotti, fuese destinada a la creación de una biblioteca pública en Florencia donde, al momento de su muerte, no existía una institución de este tipo.
Se construyó un edificio ex novo y no se recurrió a la adaptación de un inmueble preexistente, como había ocurrido en muchas bibliotecas abiertas en los siglos XVII-XVIII.
La construcción fue realizada por el sobrino del fundador, Alessandro Marucelli, quien también donó sus propios libros y nombró bibliotecario a Angelo Maria Bandini, que dirigió la Biblioteca durante aproximadamente cincuenta años. Entre los bibliotecarios que sucedieron en la dirección de la institución destacan Francesco Del Furia, Guido Biagi, Desiderio Chilovi y Enrico Jahier quienes, por su competencia y actividad desarrollada, tuvieron relevancia también a nivel internacional.
Bajo la dirección de Bandini, en 1783, entra en la Marucelliana la colección de dibujos y estampas reunida por el último representante de la familia, Francesco di Ruberto. Otros aumentos considerables llegaron a la Biblioteca a consecuencia de las supresiones conventuales, granducales y napoleónicas, y finalmente la ocurrida en 1866 en los primeros años del Reino de Italia. Este incremento permitió la incorporación a la Biblioteca de la mayoría de las cinquecientas y los incunables actualmente poseídos.
En la segunda mitad del siglo XIX y en la primera del siglo siguiente llegaron y se formaron en la Biblioteca varios fondos de carácter histórico, artístico, literario y político tales como el legado Martelli, la colección Bonamici, la correspondencia Nencioni, el Arte industrial, etc.
Tras la ley de 1910, que establecía el depósito obligatorio de impresos, a la Marucelliana comenzaron a llegar las ediciones impresas en los cuatro distritos de la provincia de Florencia, Pistoia, San Miniato y Rocca San Casciano. Hoy en día la Biblioteca es destinataria de las obras impresas en Florencia y provincia.
