Érigée en paroisse autonome au début du XVe siècle, Petit-Quevilly et ses quelques centaines d’habitants décident de construire une église aux proportions plus importantes que la modeste chapelle, succursale de l’église Saint-Pierre de Grand-Quevilly, servant jusqu’ici au culte.
Cependant, la Guerre de Cent ans qui ravage la région au XVe siècle retarde son édification. Commencée vers 1480, la construction de l’église est achevée en 1501. Élevé en pierre de taille calcaire, le bâtiment de style gothique d’une grande sobriété se compose d’un chœur et d’une nef répartie en cinq travées surmontée d’un clocher à la flèche polygonale.
L’édifice est éclairé par l’intermédiaire de dix-sept baies de forme ogivale dotées de verrières. L’église placée sous le patronage de l’abbaye du Bec Hellouin dans l’Eure est solennellement consacrée le 1er octobre 1509 et dédiée aux apôtres Saint-Pierre et Saint-Paul.
Lors du siège de la ville de Rouen par le roi Henri IV en 1592, qui voit s’affronter troupes catholiques et protestantes, l’église Saint-Pierre est mise à sac par les soldats huguenots.
La paix religieuse rétablie, celle-ci est restaurée afin d’être pleinement rendue à l’usage du culte. Avec l’augmentation de la population quevillaise au XIXe siècle, l’église se révèle à partir des années 1850 trop étroite pour accueillir l’ensemble des fidèles. La commune décide en 1863 d’agrandir le bâtiment par l’ajout de trois travées supplémentaires construites sur une partie de l’ancien cimetière qui entourait l’église jusqu’en 1832.
L’étude du chantier est confiée à l’architecte Jacques Eugène Barthélemy qui propose de rallonger l’église dans le même style que l’ancienne construction.
Les travaux sont effectués durant l’année 1864 par l’entrepreneur Jean-Pierre Masson. En 1867, l’église est complétée par la construction d’une nouvelle sacristie attenante au chœur qui sera malheureusement ravagée par un incendie en 1875.
Lors du bombardement de la ville le 1er août 1944, l’église Saint Pierre est de nouveau sinistrée au niveau de la toiture du clocher et des verrières.
Si le bâtiment n’est pas protégé au titre du patrimoine, en revanche la pierre portant l’inscription commémorative de la dédicace des autels datée de 1509 et le bas relief en albâtre représentant le Christ au jardin des oliviers sculpté au XVe siècle, tous deux situés à l’intérieur de la nef, sont inscrits à l’inventaire supplémentaire des Monuments historiques- ISMM- depuis 1908.