L'istituzione nel 1957, sotto la competenza del Ministero dell'Interno, della Sottosezione di Archivio di Stato di Prato, secondo la denominazione prevista dalla normativa allora vigente, rappresentò una fortunata convergenza di intenti fra lo Stato ed alcune delle principali istituzioni cittadine, responsabili a vario titolo di un ricchissimo patrimonio documentario. Trasformata in Sezione di Archivio di Stato con il D.P.R. 30 settembre 1963 n. 1409, divenne Archivio di Stato nel 1997, con l'istituzione della Provincia di Prato.
Fin dalle origini ebbe sede nel palazzo trecentesco, un tempo abitazione del mercante Francesco di Marco Datini, che venne restaurato appositamente per la nuova destinazione.
In occasione dell'apertura ufficiale dell'istituto nel 1958, Guido Pampaloni compilò un inventario sommario di gran parte dei fondi conservati, utilizzato ancora oggi come strumento di ricerca in sala studio.
