Del antiguo recinto amurallado de la ciudad pervive el conjunto de murallas que, entre la Puerta de Madrid (S. XVIII) y el Arco de San Bernardo (S.XVII), rodean al Palacio Arzobispal, a la llamada Huerta del Obispo y al monasterio cisterciense de San Bernardo, un espacio de unos 50.000 km2.
Este recinto se comenzó a levantar a principios del S. XIII a partir de unas casas fortificadas, ampliándose notablemente a lo largo del XIV especialmente gracias al Arzobispo Tenorio. De las 22 torres originales, sólo quedan 16, y en cuanto a las puertas, sólo se conserva la puerta medieval de Burgos, actualmente dentro del recinto del monasterio, por lo que no es visible.
Además, tras una reciente obra de rehabilitación de la zona situada entre la calle Nebrija y la vía Complutense, han aparecido restos de la muralla que rodeaba la ciudad (torreones, cimentación, etc.), así como un antiguo pasadizo al interior del recinto amurallado conocido como callejón del Horno Quemado.
Comenzó como fortaleza mudéjar construida por 1209 por el arzobispo Rodrigo Jiménez de Rada (1209-1247), a modo de residencia de los arzobispos de Toledo ya que Alcalá pertenecía a la archidiócesis tras haber sido nombrados estos Señores de Alcalá. Ha sufrido incendios y destrucciones, y ha sido remodelado en varias ocasiones.
En 1308 se reunieron allí los reyes Fernando IV de Castilla y Jaime II de Aragón para firmar el Tratado de Alcalá de Henares por el cual se repartían los territorios conseguidos a las taifas andalusíes.
El arzobispo Pedro Tenorio (1377-1399) reconstruye y fortifica el edificio. Añadió un patio de armas de planta rectangular de más de 2 hectáreas de superficie y rodeado por una muralla con 21 torreones todos de planta rectangular menos la albarrana de planta pentagonal, y el adjunto a ésta de planta semicircular. Hoy día quedan 16 torreones, destacando el «Torreón de Tenorio» cuyo nombre se debe a este arzobispo.
Ya en el siglo XV, el arzobispo Juan Martínez Contreras (1423-1434) levanta la zona oriental, adornada con amplios ventanales góticos, el Antesalón y el Salón de Concilios. Estos dos últimos estaban comunicados por un gran arco túmido (en herradura apuntada), y cubierto por un artesonado gótico-mudéjar.
El 20 de enero de 1486 se celebró la primera entrevista entre la reina Isabel I de Castilla con Cristóbal Colón en el Palacio Arzobispal para financiar el viaje a las Indias.
En 1524 el arzobispo Alonso de Fonseca y Ulloa (1523-1534) encargó al arquitecto Alonso de Covarrubias la construcción del ala occidental, con sus patios y su magnífica escalera. Su sucesor, el cardenal Juan Pardo de Tavera (1534-1545), terminará las obras.
El palacio acogió en su interior los archivos de la diócesis de Toledo. Posteriormente sus instalaciones se utilizaron para la custodia de las Escribanías Notariales y las de Rentas del partido judicial. Y desde 1858 hasta 1939 fue el Archivo General Central de Alcalá de Henares.
Ante la saturación del Archivo de Simancas y su distancia a la Corte de Madrid, se determinó la creación del Archivo General Central en 1858 en el Palacio Arzobispal, tras su cesión al Estado para este fin por el arzobispo Cirilo de Alameda Brea (1857-1872).
Este Archivo recibía documentación procedente de los Ministerios y de los organismos suprimidos tras la reforma de 1834. Una vez que transcurrían los plazos reglamentarios se reenviaban los documentos al Archivo Histórico Nacional.
Durante la Guerra Civil no recibió daños graves, aunque fue cuartel y taller del ejército republicano, uso que mantuvo el ejército vencedor, pero el 11 de agosto de 1939 un incendio destruyó el Archivo General Central. Su sucesor, desde 1969, es el Archivo General de la Administración (AGA), también en Alcalá de Henares.
Desde el 23 de julio de 1991 es la sede del Obispado de Alcalá de Henares y residencia del obispo.