Pierwszą, drewnianą jeszcze Synagogę, wybudowano dekadę po uzyskaniu królewskiego przywileju. Budowa datowana jest na rok 1689. Synagoga funkcjonowała do roku 1740, kiedy to uległa zniszczeniu (inne źródła podają datę 1750 roku). Kolejną Synagogę ufundował piotrkowski kupiec Mojżesz Kocyn, a jej projekt wykonał żydowski architekt Dawid Friedlander. Budowa rozpoczęła się w roku 1791 i trwała dwa lata. Jednak znów historia nie obeszła się łaskawie z tym miejscem kultu. Bowiem w 1854 roku Synagoga została poważnie zdewastowana przez Rosjan, po czym znów ją odrestaurowano, nadając całości cechy stylu mauretańskiego. Wówczas wzdłuż elewacji północnej i południowej dobudowano tzw. babińce.
W XIX wieku budynek doczekał się kolejnej przebudowy. Wysunięto o kilka metrów jego zachodnią elewację, zwiększając nieco budynek, o którym mówiono wówczas, że stał się obiektem pełnym przepychu. We wnętrzu zaznaczono więzi łączące Żydów z Polską, co zostało uwidocznione imponującą dekoracją sali modlitewnej, którą wieńczył spory orzeł, mający sprawiać wrażenie brania pod swoje skrzydła modlących się w bóżnicy. Jak czytamy w zachowanych opisach:
Oprócz rzeźb, płaskorzeźb i ornamentów Dawida Friedlandera piotrkowską Wielką Synagogę zdobiły polichromie Dawida Goldsteina. Ten artysta malarz, pochodzący z nieodległych Grocholic, namalował na zachodniej ścianie groby patriarchów Izraela i Ścianę Płaczu – odtąd modlący się tu Żydzi mieli przed oczami święte miejsca dalekiej Palestyny. Dzieło wieńczył strop, ozdobiony malowidłem przypominającym wschodni kobierzec: błękitny, z iście barokową mozaiką ornamentów, obramowany tuzinem znaków kalendarzowych (czyli zapewne zodiakalnych).
W czasie II wojny światowej wojska niemieckie nie miały litości dla żydowskiej spuścizny i Synagogę spalono i zdewastowano. Ludność żydowską przetrzebiono i budynek stał czekając na lepsze czasy.
W 1954 roku Prezydium Miejskiej Rady Narodowej przekazało synagogę Klubowi Sportowemu „Unia”, który urządził w niej salę sportową. Jednak w związku z licznymi protestami kongregacji żydowskiej, klub po zaledwie roku użytkowania budynku zrezygnował z siedziby. W roku 1955 budynek został więc przekazany Spółdzielni Pracy Ozdób Choinkowych „Szkło”. A w latach 1964-66 całość wyremontowano i zaadoptowano na potrzeby Biblioteki Publicznej, która funkcjonowała tu od 1968 roku. W roku 2019 jej zbiory przeniesiono do nowego budynku – Mediateki 800-lecia przy ul. Marii Curie-Skłodowskiej.
Spacerując w pobliżu lub zwiedzając to miejsce łatwo zauważyć znajdującą się na ścianie Synagogi tablicę pamiątkową z treścią w językach polskim, hebrajskim, jidysz i angielskim: „W tym budynku mieściła się kiedyś Wielka Synagoga. Ta tablica poświęcona jest pamięci Żydów piotrkowskich zamordowanych przez okupantów hitlerowskich w latach 1939-1945”.
Warto tu wspomnieć, że obok znajduje się mniejszy nieco budynek zwany Małą Synagogą. W roku 1765 ufundował ją H. Piotrkowera. Parter budynku mieścił sale lekcyjne, a na piętrze funkcjonował sąd rabinacki i zarząd gminy żydowskiej. Podczas II wojny światowej także i ten budynek został zdewastowany i zniszczony prze hitlerowców. Po wojnie Mała Synagoga przez wiele lat stała pusta i niszczała. Remont przeprowadzono w latach 1964-67, a po nim budynek przeznaczono na bibliotekę dla dzieci.
Wielka Synagoga znajduje się w pobliżu piotrkowskiego Zamku, u zbiegu ulic Jerozolimskiej i Wojska Polskiego. Mała jest niemal doklejona do niej po prawej stronie. W budynkach mieści się obecnie Archiwum Państwowe w Piotrkowie Trybunalskim, któremu miasto użyczyło pomieszczeń do 2024 roku. Łatwo tu dotrzeć spacerując po najstarszej części miasta. To zaledwie kilkadziesiąt metrów od budynku Zamku, ale to informacja zwłaszcza dla tych, którzy do Piotrkowa zechcą przyjechać, by pozwiedzać.
