Ruma se prvi put pominje 1546. godine u Sremskom defteru, kao selo srednje veličine u Mitrovačkoj nahiji, sa 49 kuća čiji su stanovnici bili isključivo Srbi. Meštani su se tada bavili zemljoradnjom i stočarstvom, a selo je bilo deo turskog feudalnog sistema.
Veliki bečki rat (1683–1699) doneo je pustoš u Sremu, a stanovništvo se raselilo. Karlovačkim mirom 1699. godine Srem je podeljen na austrijski i turski deo, dok je Ruma ostala u turskom delu. Tek posle austro-turskog rata i Požarevačkog mira 1718. godine Ruma je, zajedno sa celim Sremom, ušla u sastav Habzburške monarhije.
Od 1728. godine selo Ruma prelazi u posed vlastelinskih porodica, najpre Koloreda, a zatim barona Marka Aleksandra Pejačevića. Upravo je Pejačević doneo odluku da na obroncima Borkovačke doline izgradi novo naselje i u njemu postavi sedište vlastelinstva. Plan naselja, sa pravilno ušorenim ulicama koje se seku pod pravim uglom, sačinio je sam baron.
Nova Ruma je 20. jula 1747. godine dobila i prvu veliku privilegiju – carica Marija Terezija proglasila ju je trgovištem. Time su na Rumu preneta četiri godišnja vašara iz Mitrovice i Jarka, kao i pijace koje su se održavale svake subote. To je bio početak naglog privrednog i urbanog razvoja Rume, koja je ubrzo postala jedno od najznačajnijih mesta u Sremu