Bardzo nerwowa Kasztanka nienawidziła ognia artyleryjskiego i poza swoim panem nikogo innego nie uznawała. Między nimi istniało jakieś tajemne porozumienie, tak doskonałe, że oboje odczuwali swoje nastroje i nawzajem na siebie wpływali – tak najsłynniejszą klacz II Rzeczpospolitej, ulubienicę marszałka, opisała jego żona, Aleksandra. Kasztanka towarzyszyła Piłsudskiemu od 1914 r. i wraz z nim przeszła cały szlak legionowy. W wojnie polsko-bolszewickiej ze względu na wiek nie brała już udziału, a w 1922 r. trafiła pod opiekę 7 Pułku Ułanów Lubelskich stacjonującego w Mińsku Mazowieckim. Często przywożono ją „w odwiedziny” do Sulejówka, a także do stolicy, gdzie wraz ze swym panem uświetniała parady wojskowe – po raz ostatni 11 listopada 1927 r., podczas Święta Niepodległości. To właśnie wtedy pozowała Wojciechowi Kossakowi do słynnego, ukończonego w 1928 r., portretu „Piłsudski na Kasztance”. Kilka dni później, w czasie transportu do Mińska Mazowieckiego doznała obrażeń, niedługo potem padła. Szczątki klaczy pochowano przed budynkiem dowództwa 7 Pułku Ułanów w Mińsku Mazowieckim, natomiast skórę spreparowano i wypchano. Ponoć zrobiono to tak nieudolnie, że manekin niezbyt przypominał żywą Kasztankę. Mimo to trafiła do Belwederu i przebywała tam aż do śmierci marszałka. Następnie została przeniesiona do Muzeum Wojska Polskiego, gdzie w czasie II wojny światowej uległa poważnemu zniszczeniu. Podobno po wojnie znalazł ją w muzealnym magazynie sam marszałek Rola-Żymierski, dawny legionista a także przeciwnik polityczny Piłsudskiego. Na jego polecenie wypchaną skórę Kasztanki spalono.

Muzeum zostało założone w 2008 r. przez Fundację Rodziny Józefa Piłsudskiego i Ministerstwo Kultury i Dziedzictwa Narodowego. Obecnie jest w trakcie organizacji i realizacji projektu, dzięki któremu w 2017 r. ma zostać otwarte nowoczesne centrum edukacyjne z ekspozycją poświęconą Józefowi Piłsudskiemu, jego czasom i wartościom, jakim hołdował. Wszystko to będzie ukazane w szerokim kontekście historycznym, społecznym i kulturowym. Dworek Milusin, gdzie Józef Piłsudski mieszkał wraz z rodziną w latach 1923–1926, był darem oficerów legionowych dla marszałka. Powstał według projektu wybitnego architekta Kazimierza Skórewicza. Willa, z charakterystycznymi dla architektury dworkowej kolumnadami i portykami, reprezentuje tzw. styl narodowy. W jej wnętrzu mieści się muzeum biograficzne ze stałą ekspozycją „Co pamięta Milusin”. Ze względu na prace związane z budową kompleksu muzealnego dworek jest udostępniany zwiedzającym jedynie czasowo. Milusin jest częścią zabytkowego kompleksu willowego, w którego skład wchodzą ponadto: willa Otradno, zwana potocznie Drewniakiem, gdzie Piłsudscy mieszkali w latach 1921–1923, willa Bzów, czyli tzw. Adiutantówka, oraz przestronny ogród. Willa Bzów, zbudowana na początku XX w., była przeznaczona dla wdów po żołnierzach legionowych. W czasach, gdy w Sulejówku mieszkała rodzina Piłsudskiego, mieściła się w niej wartownia i siedziba lekarza, a od 1932 r. zarządzał nią 7 Pułk Ułanów Lubelskich, pełniący funkcję ochrony Marszałka.