La ermita de San Gregorio, fue reconstruida en el mismo lugar en el que estuvo la original, edificada en el siglo XVII.
San Gregorio, obispo de Ostia, fue enviado a La Rioja por el Papa Benedicto IX.En el mismo lugar en el que vivió y murió el santo en el año 1044 se construyó una ermita que "hizo hacer a honra y gloria suya" el Regidor perpetuo de la ciudad Alonso de Bustamante y Torreblanca en el año 1642.
La ermita original desapareció en 1971, aunque el Ayuntamiento pudo recuperar buena parte de las piedras con las que estaba construida, las numeró y las guardó en sus almacenes para su reedificación.
Con la rehabilitación de la calle Ruavieja y la reedificación en ella de bloques de viviendas, el Ayuntamiento reservó el espacio en el que anteriormente se había situado la ermita para su reconstrucción.