コレクションの原初の核となったのは、1703年にローマで亡くなった修道士フランチェスコの図書館で、彼は自身の蔵書をコンドッティ通りの宮殿に保管し、それを彼の死後、フィレンツェに公共の図書館を設立するために提供するように遺言していました。当時フィレンツェにはこうした施設がまだ存在していませんでした。
新築の建物が建設され、多くの17～18世紀に開設された図書館で行われた既存建物の改装は行われませんでした。
建築は創設者の甥であるアレッサンドロ・マルチェッリが手がけ、彼も自身の書籍を寄贈し、アンジェロ・マリア・バンディーニを図書館長に任命しました。バンディーニは約50年間この図書館を率いました。その後の館長としては、フランチェスコ・デル・フリア、グイド・ビアージ、デジデリオ・キローヴィ、エンリコ・ヤイエールがおり、それぞれの専門性と活動により国際的にも注目されました。
1783年、バンディーニの指導下で、家族の最後の代表者であるフランチェスコ・ディ・ルベルトが集めた図版と版画のコレクションがマルチェリアーナに加わりました。さらに修道院の廃止、大公領の政策、ナポレオン時代の改革、そして1866年のイタリア王国成立初期の廃止などによる大規模な資料の寄贈もありました。この拡充により、現在蔵書されている多くの16世紀初頭の印刷物や初刊本が図書館に収蔵されました。
19世紀後半から20世紀前半にかけて、歴史的、美術的、文学的、政治的性格をもつ様々な基金が図書館に寄贈されました。マルテッリ遺贈、ボナミチコレクション、ネンツィオーニ文書、工業芸術のコレクションなどが含まれます。
1910年制定の印刷物法に基づき、フィレンツェ県の4地区、ピストイア、サンミニアート、ロッカサンカシアーノの印刷物がマルチェリアーナに納められるようになりました。現在に至るまで、この図書館はフィレンツェおよびその周辺地域で発行される書物の受け取り先となっています。
