První muzeum v Ostravě vzniklo již v roce1872. Založil jej ve Slezské Ostravě učitel, osvětový

pracovník a sběratel, Karel Jaromír Bukovanský, jehož sběry jsou ve sbírkovém fondu Ostravského muzea. Roku 1904 vzniklo v Moravské Ostravě „Industri und Gewerbe Museum“, které mělo podporu německého vedení města. Téhož roku vzniká i české Průmyslové a živnostenské muzeum. 

Po I. světové válce byla všechna tři ostravská muzea spojena v jedno, se sídlem ve staré poště. Ta však musela být po roce 1924 vyklizena pro městské úřady. Díky starostovi města Janu Prokešovi a správci muzea profesoru Aloisi Adamusovi jsou sbírky dočasně umístěny v budově bývalé radnice v Mariánských Horách do doby, než bude dostavěna budova nové ostravské radnice. Dne 4. října 1931 je muzeum slavnostně otevřeno v jedné z nejstarších budov Ostravy, ve staré radnici na Masarykově náměstí, kde se nachází dodnes. Dnem 2. 8. 1993 se stává majetkem města Ostravy.

Sbírkové fondy v současné době čítají kolem 300 000 inventárních čísel, předmětů značné historické hodnoty.

Nejrozsáhlejší část tvoří společenskovědné sbírky a to:

• prehistorické archeologické – nálezy z okolí Ostravy 
• historické a uměleckohistorické – nábytek, sklo, porcelán, keramika, hodiny, numizmatika, malířství a sochařství, zbraně, cín a jiné
  
• národopisné – malovaný nábytek, pracovní nářadí, kroje, obrázky na skle, plastiky
• hudebně historické – vážná hudba, folkloristika, historie ostravského divadelnictví.

Přírodní vědy zastupují sbírky:

• entomologické – brouci a motýli
  
• geologické – nerosty, horniny a jedinečná Šustova paleontologická sbírka karbonu
  
• botanické – herbáře, houby
  
• zoologické – preparáty ptáků, drobných savců, obojživelníků a ryb.

Samostatnou část tvoří bohatá knihovna se starými tisky a fotoarchív s fotografiemi
a pohlednicemi staré Ostravy. K nejoblíbenějším exponátům patří unikátní interiérový Maškův orloj a 200 let starý orchestrion.