Havgyden lå ved Mejlgade mod havet. Den blev brolagt i forbindelse med at Kystvejen blev opført i 1871, da der begyndte at komme mere trafik på vejen. I samme forbindelse fjernede man det sprøjtehus der ellers havde ligget ved gyden. Sprøjtehuset var hjemsted for en af byens brandsprøjter. I tilfælde af brand skulle de af byens mænd der var udtaget til tjeneste ved brandkorpset hente nøglen til huset hvor sprøjten stod hos skomager Christian Kastrup der boede lige over for. Derefter skulle de flytte sprøjten derhen hvor branden var. De borgere der var tilknyttet brandsprøjtet ved Havgyden havde et skilt på sig hvor der stod ”Middelgades sprøjten, nr. 12” for at folk vidste de var brandmænd.

Efter at Havgyden var blevet brolagt i 1870’erne begyndte de folk der boede der at være trætte af navnet gyde. De bad derfor om at få et nyt navn, og endte med at komme til at hedde Tværgade. Navnet fik de dog først i 1895.