Il paese si allunga su di un costone che si stacca dal poggio della Croce e domina la valle del Limentra, lungo la strada che scende dal Tabernacolo di Gavigno.
Se ne hanno notizie risalenti all'XI secolo, nel XII era comune rurale autonomo e poi sede di podesteria.

Sul dorso dell'Appennino, alla destra della Limentra, l'antico castello di Fossato fu al centro di lunghe controversie tra i bolognesi e i pistoiesi, finché il Comune di Pistoia ne entrò in possesso nel XIII secolo (fino al XIII secolo la località era stata soggetta ai Signori di Stagno, uomini fedeli al Comune di Pistoia). La parrocchia di Fossato, di antica anche se incerta origine, rimase sotto la giurisdizione ecclesiastica della diocesi di Bologna fino a quando papa Pio VI, con breve apostolico del 27 agosto 1784, la trasferì alla diocesi di Pistoia, ed il vescovo Ricci la sottopose all'arcipretura di Treppio.
Più recentemente la S. Congregazione dei Vescovi, con decreto del 7 ottobre 1975, scorporò dalla diocesi pistoiese le parrocchie situate nell'ambito del Comune di Cantagallo, tra cui anche quella di Fossato, assegnandole alla diocesi di Prato. La parrocchia di Fossato è rientrata nella diocesi di Pistoia nell'anno 1990, per decreto del Vescovo di Pistoia in data 30 dicembre 1990.

Nel 1992 la comunità di Fossato (assieme al Comune di Cantagallo di cui è parte) viene compresa nella nuova provincia di Prato.