Museum ini merupakan tempat untuk mengenang pengabdian dan pengorbanan dari Panglima Besar Jenderla Sudirman. Pada awalnya gedung museum yang dibangun pada masa pemerintah Hindia Belanda yaitu tahun 1890, diperuntukan bagi pejabat keuangan Pura Paku Alam VII yaitu Winschenk. Pada masa penjajahan Jepang dikosongkan dan barangbarangnya disita . Pada masa kemerdekaan Republik Indonesia dipakai sebagai markas Kompi Tukul dari Batalion Soeharto.

Sejak tanggal 18 Desember 1945-19 Desember 1948 menjadi kediaman resmi Jenderal Sudirman setelah menjadi Panglima Tertinggi TKR. Selama agresi Belanda II, oleh Belanda dijadikan markas IV G dari Brigade T. Ketika kedaulatan Republik Indonesia tanggal 27 Desember 1949 dipergunakan sebagai kantor Komando Militer Kota Yogyakarta kemudian dipakai untuk Asrama Resimen l nfanteri XIII dan penderita cacat (invalid) Pada tanggal 17 Juni 1968 dipakai untuk museum Pusat Angkatan Darat dan diresmikan sebagai museum Sasmita loka Panglima Besar (Pangsar) Jenderal Sudirman pada tanggal 30 Agustus 1982. Museum ini bercerita banyak tentang kehidupan Jenderal Sudirman sebagai seorang suami dan ayah serta pemimpin tertinggi dalam kemiliteran . Seorang jenderal yang tidak pernah menyerah pada penjajahan bahkan oleh penyakit yang dideritanya.

Koleksi museum berjumlah 599 koleksi yang terdiri dari senjata, keris, perabot rumahtangga, kendaraan, paka ian, tandu dll. Koleksi-koleksi tersebut dipamerkan dalam 14 ruang pameran tetap.