Rijsenburg was aan het begin van de 19e eeuw, vooral door toedoen van de katholieke Vlaming Judocus van Oosthuyse en zijn vrouw Margaretha de Jong, een katholieke enclave in een overwegend protestantse omgeving. De kerk St. Petrus’ banden werd op initiatief van het echtpaar gebouwd, evenals de kleine woningen aan het Kerkplein en ‘Het Wapen van Rijsenburg’ aan de overkant van het plein.