Originariamente, bajo la actual ubicación de la catedral, la Legio VII Gemina había construido termas y otros edificios públicos. Recientemente se han descubierto algunos de estos restos romanos, junto a la fachada sur. Con la reconquista cristiana, son convertidos en palacio real. En el año 916 el rey Ordoño II, que hacía pocos meses había ocupado el trono de León, venció a los árabes en la batalla de San Esteban de Gormaz. Como señal de agradecimiento a Dios por la victoria, cedió su palacio para construir la catedral. Bajo el episcopado de Fruminio II, es transformado el edificio en lugar sagrado.
En la catedral se encuentra el sepulcro de Ordoño II de León, fallecido en el año 924. El templo estaba custodiado y regido por monjes de la orden de San Benito, y es muy probable que su estructura fuera muy similar a la de tantos otros existentes durante la mozarabía leonesa.