Johanneksen kirkko rakennettiin Punanotkon kukkulalle, silloisen kaupungin laitamille. Kirkko valmistui vuonna 1891. Sen suunnitteli tukholmalainen arkkitehti Adolf Emil Melander. Johanneksen kirkkoa kutsuttiin aluksi Uudeksi kirkoksi. Uusi kirkko tarvittiin, koska helsinkiläiset eivät enää mahtuneet Vanhaan kirkkoon ja Nikolain kirkkoon eli nykyiseen Tuomiokirkkoon. Uusikirkko rakennettiin juhannuskokon paikalle ja pyhäkkö omistettiin Johannes Kastajalle.
Uusgoottilaistyylinen Johanneksen kirkko on muodoltaan kolmilaivainen basilika. Se on Suomen suurin kivikirkko – siinä oli alun perin 3000 istumapaikkaa. Useita penkkirivejä on sittemmin poistettu, jotta kirkkosali on saatu toimivammaksi. Nykyään istumapaikkoja on runsaat 2200. Kirkon tornit ovat 74,22 metriä korkeita. Kirkonkellot, jotka soittavat Te Deum -hymnin kolmea ensimmäistä säveltä (cis, e ja fis) asennettiin vuonna 1932.
Kirkkoa korjattiin viimeksi ennen kirkon satavuotisjuhlia vuonna 1991. Samalla osa kirkon kellarista muutettiin kryptaksi.