De Holy Trinity Church, beter bekend als de Garrison Church, werd in 1840 gebouwd voor het militaire garnizoen en diende als zodanig tot 1870. Ook nu nog wordt de kerk gebruikt om de gevallenen van de diverse regimenten te herdenken. Edmund Backet ontwierp de preekstoel aan de epistelzijde (noordzijde) in 1859 in Victoriaanse stijl. Deze is uitgevoerd in Engels eikenhout.