U zrodu Židovského muzea v roce 1906 stáli historik dr. Salomon Hugo Lieben a dr. August Stein, představitel českožidovského hnutí a pozdější předseda pražské židovské obce. Původním záměrem bylo zachovat cenné umělecké předměty z pražských synagog, které byly v rámci přestavby Židovského města počátkem 20. století zbořeny.

Po okupaci Čech a Moravy 15. března 1939 bylo muzeum pro veřejnost uzavřeno. V roce 1942 nacisté zřídili Ústřední židovské muzeum, kam byly soustředěny umělecké předměty ze všech zrušených židovských obcí a synagog Čech a Moravy. Jeho založení navrhl Dr. Karel Stein, který se ve spolupráci s dalšími odbornými pracovníky snažil zachránit židovské památky ohrožené probíhající konfiskací židovského majetku. Nacisté po dlouhých jednáních projekt ústředního muzea schválili, i když byli vedeni jinými záměry než jeho tvůrci. Po 2. světové válce Židovské muzeum přešlo pod správu Rady židovských náboženských obcí v ČSR. V roce 1950 pak bylo pod nátlakem převedeno do vlastnictví státu, v němž od roku 1948 vládla komunistická diktatura. Působení takto vzniklého Státního židovského muzea bylo poznamenáno řadou omezení, jež muzeu znemožňovala plně vyvíjet odbornou, expoziční, výzkumnou a osvětovou činnost. Po pádu komunistického režimu v roce 1989 se vytvořily podmínky, které vedly ke změně postavení muzea. K 1. říjnu 1994 byly budovy vráceny Židovské obci v Praze a sbírky Federaci židovských obcí ČR a současně vzniklo Židovské muzeum v Praze jako nestátní instituce.