En la segunda mitad del siglo IX, el emir de Córdoba Muhammad I construyó una fortaleza amurallada en un promontorio junto al Manzanares, en el lugar que ocupa hoy el Palacio Real, para vigilar los pasos de la sierra de Guadarrama y ser punto de partida de las razzias contra los reinos cristianos del norte. Junto a la fortaleza se desarrolló, hacia el sur, un poblado que recibió el nombre de Mayrīt (Magerit en su forma castellanizada).
La muralla del Magerit musulmán se edificó con grandes bloques de pedernal. Tenía torres cuadradas y tres puertas de acceso: la puerta de la Vega, el Arco de Santa María y la puerta de La Sagra, además de varios portillos.
Los cristianos intentaron conquistar Magerit en múltiples ocasiones. La primera vez fue en el año 924, bajo el mando del conde Fernán González. Más tarde, en el año 968, Ramiro II de León dejó bastante dañada la fortaleza, y el califa Abderramán ordenó fortificarla.
Según la leyenda, en mayo de 1085 las tropas del rey Alfonso VI avanzaban hacia Magerit. Al amanecer llegaron a la puerta de la Vega. Se movían cautelosamente para sorprender al enemigo. De repente, uno de los soldados se separó del pelotón y comenzó a trepar por la muralla, clavando la daga entre las junturas de la piedra. Subió tan ágilmente que todos empezaron a decir que parecía un gato. Cuando comenzó la lucha el soldado ya había llegado arriba. Corrió al torreón de la fortaleza y cambió la bandera musulmana por la enseña cristiana.
En memoria de esta hazaña, el soldado y toda su familia cambiaron su apellido por el de «Gato». La familia llegó a ser tan estimada que no se consideraba nobleza castiza de Madrid a la que no pertenecía a aquel linaje (o al de Los Escarabajos y Los Muertos, que eran los tres más ilustres de la Villa). Con el tiempo, se acabó llamando «gatos» a todos los habitantes de Madrid.