С началом строительства крепости в Бобруйске в 1810 году здания костёла и монастыря иезуитов оказались в военном ведомстве, инженеры разработали проект перестройки здания костёла под цейхгауз (помещение для хранения боеприпасов, обмундирования, снаряжения), монастыря – под арсенал. По проекту сохранялся только основной объем здания костёла до карниза. Его мы и видим в настоящее время. Даже сегодня снаружи хорошо заметна алтарная часть бывшего храма, боковые пристройки для хранения сакральных принадлежностей.
Цейхгаузом здание не стало. Здесь еще в девятнадцатом веке находилась главная гауптвахта. После Великой Отечественной войны в здании костёла был склад, затем снова размещалась гауптвахта (до 2012 г.). Здание имеет особую ценность для всех, кто интересуется историей: это единственное здание, сохранившееся с докрепостного периода города Бобруйска.
Вскоре после начала строительства крепости деревянные здания православных церквей были перенесены на форштадты, а вот приходской костёл св. Петра и Павла не тронули. Офицеры католического вероисповедания посещали этот храм. Но в 1859 году в костёле произошел пожар, о чем известно из рапорта Минскому епископу Войткевичу от бобруйского декана ксендза Шишко: «7 числа июля в 4 часа пополудни громовой удар сжег башню костёла, и, объяв его пламенем, всё что было деревянное через 8 часов сгорело. В это время все военные, не исключая господина коменданта спасали и спасли костёл, образа, колоколы пострадали и вбились в землю». Как свидетельствует ксёндз Макаревич, в 1864 году костёл был отремонтирован. В 1862 году были выполнены и новые алтари. В 1885 году вновь произошел пожар в костёле. На этот раз ущерб был очень значительным. 25 мая 1888 г. было проведено обследование сгоревшего здания, было написано заключение с предложениями на ремонт и выполнен проект на восстановление костёла. Но проект этот не был осуществлён, так как «военное министерство признало это совершенно неудобным» (после восстания 1863г. до 1905г. действовал запрет на строительство новых костёлов). Впоследствии для строительства костёла было выделено место на Слуцком форштадте, где он и был построен в 1906 году.
На месте, где размещался приходской костёл, в начале ХХ века рядом с госпиталем было построено новое здание, относящееся к военному ведомству. Современные зеленые крыши этого здания и здания госпиталя хорошо видны со стороны Затонного переулка, видны с моста через Березину. В далеком прошлом высокая башня колокольни Петропавловского костёла была видна со всех дорог, ведущих к Бобруйску.
На Главной улице Бобруйской крепости в середине XIX века кроме уже упомянутых зданий размещались Соборная площадь, дом купца А.Торлецкого, здание присутственных мест (в наши дни их функции осуществляют городской и районный исполкомы), общественный сад, и Вахт-парадное место для проведения смотров, учений. Главная улица была вымощена камнем и освещалась фонарями, для которых использовали конопляное масло.