Pierwsze inicjatywy zmierzające do powołania w Rawie muzeum sięgają początku lat sześćdziesiątych ubiegłego wieku. Istniejące od 1961 r. Towarzystwo Przyjaciół Muzeum Ziemi Rawskiej (dalej: TPMZR) podjęło działania zmierzające do utworzenia placówki gromadzącej materialne i niematerialne dziedzictwo ziemi rawskiej, podejmującej badania nad dziejami regionu, szczególnie w kontekście miejscowej tradycji, sztuki i twórczości ludowej. Szczególną rolę odegrali tu: Aleksander Klimkiewicz – Inspektor Oświaty Prezydium Powiatowej Rady Narodowej (dalej PPRN) i prezes TPMZR, Stefania Bednarek – kierownik Wydziału Kultury PPRN, Zbigniew Ciekliński – Wojewódzki Konserwator Zabytków, Józef i Mirosława Jastrzębscy – etnografowie z Muzeum w Tomaszowie Mazowieckim, Antonina Legutowska, Janina Przyborek, Jadwiga Składowska – twórczynie ludowe i wielu innych zaangażowanych w prace penetracyjne i badawcze na terenie powiatu rawskiego oraz pozyskiwanie zabytków i sprawowanie opieki nad twórcami ludowymi. Pierwszym efektem działalności TPMZR było utworzenie ośrodka muzealnego, w zrekonstruowanej w latach pięćdziesiątych Baszcie Zamku Książąt Mazowieckich, którego otwarcie miało miejsce 12 maja 1963 r.
Był to skromny zaczątek muzeum, posiadający dwa niewielkie działy merytoryczne (archeologię i etnografię). Znajdujące się w nich eksponaty pochodziły przede wszystkim ze znalezisk, darów i prowadzonych we własnym zakresie poszukiwań i badań terenowych. Pierwsze lata działalności ośrodka nie były łatwe. Jego funkcjonowanie było wysoce utrudnione ze względu na brak odpowiednich pomieszczeń, obsady kadrowej i zabezpieczenia finansowego. Baszta zamkowa nie spełniała warunków pozwalających na stałe eksponowanie tam i przechowywanie gromadzonych zbiorów, brakowało przestrzeni biurowej i odpowiedniej infrastruktury. Wobec tego podjęto starania o utworzenie instytucjonalnej placówki muzealnej z własną siedzibą. Prezydium Powiatowej Rady Narodowej w Rawie Mazowieckiej na mocy uchwały Nr 141 z dnia 26 listopada 1965 roku powołało do życia Muzeum Ziemi Rawskiej, którego statut zatwierdzono w myśl ustawy z dnia 15 lutego 1962 roku o ochronie dóbr kultury i muzeach.
Na nową siedzibę muzeum otrzymało pomieszczenia dawnego kolegium jezuickiego, przylegającego do późnobarokowego Kościoła Niepokalanego Poczęcia Najświętszej Marii Panny. Do dyspozycji placówka otrzymała 3 sale ekspozycyjne, korytarz, magazyn, pracownię fotograficzną, pokój administracyjny o łącznej powierzchni ok. 300 m².
Uroczyste otwarcie Muzeum Ziemi Rawskiej miało miejsce 22 lipca 1966 roku. Działalność zainaugurowano wystawą „Dzieje Ziemi Rawskiej”, składającą się z części historycznej, etnograficznej i archeologicznej, opracowaną przez Jerzego Augustyniaka, ówczesnego kierownika muzeum.
Dynamiczny rozwój placówki, rozszerzenie form pracy muzealnej, zarówno w zakresie działalności oświatowej, jak i naukowo – badawczej oraz regularne poszerzanie zbiorów sprawiło, że z czasem dotychczasowe warunki lokalowe okazały się niewystarczające. Dlatego też już na początku lat 70-tych podjęto starania o pozyskanie na potrzeby muzeum innych obiektów. I tak w latach 1977 – 1978 placówka wzbogaciła się o 2 pomieszczenia: magazyn zbiorów etnograficznych przy ul. Warszawskiej oraz bibliotekę na Placu Świerczewskiego (obecnie Plac Piłsudskiego), gdzie mieści się do dziś.
W 1981 r. muzeum zmuszone było opuścić niedawno wyremontowane pomieszczenia dawnego kolegium jezuickiego na rzecz właściciela obiektu – władz kościelnych. W tej sytuacji decyzją Naczelnika Miasta Rawy Mazowieckiej, Leszka Czyżewskiego, z dnia 5 listopada 1981 roku Muzeum Ziemi Rawskiej na swoją siedzibę otrzymało willę przy ulicy Łowickiej 26, gdzie mieści się do dnia dzisiejszego. Jest to willa z 1930 r. wybudowana dla dyrektora Rawskiego Syndykatu Rolniczego – Tadeusza Frankiewicza. Elewację zewnętrzną i wnętrza zaprojektowali wspólnie – Tadeusz Frankiewicz i Stefan Jasiński – pracownik syndykatu, z zawodu artysta – malarz. Balkon został wykonany, według rysunku S. Jasińskiego, przez rzeźbiarza amatora – Józefa Sikorskiego. W 1936 r. T. Frankiewicz sprzedał willę Romanie Prackiej, żonie posła na sejm ziemi rawskiej. Po 1945 r. willa była długoletnią siedzibą sądu, później znajdowała się tutaj Spółdzielnia Lekarzy Specjalistów, następnie siedziba ZSL.
Budynek nowej siedziby muzeum znajdował się w bardzo złym stanie technicznym i wymagał generalnego remontu. Prace adaptacyjne trwały ponad 2 lata i okupione były wysiłkiem pracowników muzeum. Tu muzeum miało do dyspozycji pomieszczenia o łącznej powierzchni użytkowej 269 m², w tym cztery sale ekspozycyjne o powierzchni ok. 110 m². Na terenie działki znajdował się również budynek gospodarczy, który planowano przeznaczyć na salę stałych wystaw etnograficznych.
Budynek nowej siedziby muzeum znajdował się w bardzo złym stanie technicznym i wymagał generalnego remontu. Prace adaptacyjne trwały ponad 2 lata i okupione były wysiłkiem pracowników muzeum. Tu muzeum miało do dyspozycji pomieszczenia o łącznej powierzchni użytkowej 269 m², w tym cztery sale ekspozycyjne o powierzchni ok. 110 m². Na terenie działki znajdował się również budynek gospodarczy, który planowano przeznaczyć na salę stałych wystaw etnograficznych.
Uroczyste otwarcie wyremontowanych pomieszczeń muzealnych nastąpiło 19 grudnia 1984 roku dwiema wystawami stałymi: „Salonik babuni z przełomu XIX i XX wieku” i „Tradycyjna izba chłopska regionu rawskiego” oraz wystawą czasową poświęconą twórczości uznanego rzeźbiarza ludowego, Mieczysława Żeglińskiego.
W nowej siedzibie muzeum kontynuowało swoją działalność, zawieszoną na czas remontu w latach 1982 – 1984. Do trzech działów merytorycznych: archeologii, etnografii i historii, dołączyły: numizmatyka, sztuka i dział oświatowy.
Systematycznie zwiększała się liczba eksponatów, w związku z czym w 1990 roku pozyskano nowy lokal na magazyn zbiorów etnograficznych przy ul. Kościuszki (świetlica w budynku administrowanym przez Urząd Gminy Rawa Mazowiecka), gdzie mieścił się do 2001 roku. Następnie zbiory przeniesiono do wyremontowanych piwnic Miejskiej Biblioteki Publicznej im. Jana Pawła II, przy ul. Wyszyńskiego.
Obecnie w zbiorach muzeum znajduje się blisko 6000 eksponatów, zgromadzonych w pięciu działach: archeologii, etnografii, historii, numizmatyki i sztuki.
Muzeum Ziemi Rawskiej w przeciągu minionych 50 lat kierowali:
- mgr Bogusław Abramek – archeolog /1965 - 1966/
- mgr Jerzy Augustyniak - archeolog /1966 – 1969/
- mgr Piotr Zaręba - archeolog /1969 – 1973/
- mgr Marian Rożej - historyk /1973 – 1976/
- mgr Stanisław Karnowski - historyk /1976 – 1985/
- dr Henryk Wiklak - archeolog /1985 – 1990/
- mgr Joanna Sienkiewicz - etnograf /1990 – 2000/
- Maria Dzika - kierownik administracji, p.o. dyrektora /2000 – 2003/
- mgr Ireneusz Błądek – politolog /2003 – 2015/.
- Obecnie dyrektorem muzeum jest dr Marcin Broniarczyk – historyk.